مدل "Diffusion Models" در یادگیری ماشین

مدل‌های Diffusion در یادگیری ماشین از فرایند گسترش اطلاعات بین نقاط داده برای پیش‌بینی استفاده می‌کنند. این مدل‌ها بر اساس انتقال و توزیع اطلاعات در شبکه‌های پیچیده عصبی یا گراف‌ها عمل می‌کنند و بهبود عملکرد مدل با توجه به تاثیر همسایگان داده‌ها را تحلیل می‌کنند.

مدل‌های انتشاری با ایجاد تغییرات تصادفی کنترل‌شده مکرر در نمونه داده‌های اولیه، داده‌های جدیدی ایجاد می‌کنند. آنها با داده‌های اصلی شروع می‌کنند و تغییرات ظریف (نویز) را اضافه می‌کنند و به تدریج آن را کمتر شبیه به اصلی می‌کنند. این نویز به دقت کنترل می‌شود تا اطمینان حاصل شود که داده‌های تولید شده منسجم و واقعی باقی می‌مانند.

پس از اضافه کردن نویز در چندین تکرار، مدل انتشاری روند را معکوس می‌کند. حذف نویز معکوس به تدریج نویز را حذف می‌کند تا نمونه داده جدیدی تولید کند که شبیه نمونه اصلی باشد.

منبع:

https://electrohive.ir/نحوه-کار-مدلهای-مولد-در-هوش-مصنوعی/

افزوده شده

   acquisition

ببینید مدل‌های انتشاری (Diffusion Models) در یادگیری ماشینی، دسته‌ای از مدل‌های متغیر پنهان هستند که در سال ۲۰۱۵ با ایده‌گرفتن از ترمودینامیک غیرتعادلی معرفی شدند.مدل انتشاری، یک روش یادگیری مبتنی بر احتمال است که برای مدلسازی و تولید داده‌های با ساختار پیچیده استفاده می‌شود. این مدل‌ها بر اساس ایده‌ای از فیزیک به نام “فرآیند انتشار” ساخته شده‌اند که در آن، یک ذره‌ی مواد محلول در محیط محلول‌ کننده تا رسیدن به تعادل حرکت می‌کند. در مدل انتشاری،  برای تولید داده‌ها، از یک مدل احتمالاتی استفاده می‌ شود که با استفاده از فرآیند انتشار، داده‌ها را به صورت تصادفی تولید می‌کند.

مدل‌های انتشاری، به خصوص در حوزه تولید تصاویر مصنوعی و سایر داده‌های پیچیده کاربرد دارند. اصول کار این مدل‌ها بر اساس فرآیندهای تصادفی است که به تدریج داده‌ها را از حالت نویزی به حالت بدون نویز (یا بالعکس) تبدیل می‌کنند.  از معروف‌ترین این مدل‌ها می‌توان به

 Denoising Diffusion Probabilistic Models (DDPM) 

اشاره کرد که در سال‌های اخیر نتایج بسیار خوبی در تولید تصاویر مصنوعی داشته‌اند.

                       مدلهای انتشاری، خانواده‌ای از مدل‌های مولد احتمالاتی هستند ولی برخلاف مدل‌های مولد سنتی مانند GANها که دو شبکه عصبی را در یک بازی رقابتی برای تولید داده‌های واقعی آموزش می‌دهند، مدل‌های انتشاری، از یک فرآیند انتشار معکوس برای یادگیری نحوه تولید داده‌ها استفاده می‌کنند.  مروری کلی بر انواع مختلف مدلهای مولد را در قالب عکسی در پیوست، ملاحظه خواهید نمود و به شما پیشنهاد میشه که مقاله زیر را درباره مدلهای انتشاری مطالعه کنید:

مطالعه مقاله زیر با عنوان "مدلهای انتشاری متن به تصویر  در هوش مصنوعی" در سیویلیکا نیز به شما پیشنهاد میشه:

در ادامه به توضیح جزئیات این مدل‌ها می‌پردازم:

1. فرآیند انتشار مستقیم (Forward Diffusion Process): در این مرحله، داده‌های واقعی به تدریج نویزی می‌شوند. این کار با اضافه کردن نویز گوسی در چندین مرحله متوالی انجام می‌شود. به عبارت دیگر، در هر مرحله یک مقدار کوچکی نویز به داده‌ها اضافه می‌شود تا در نهایت داده‌های کاملاً نویزی و تصادفی به دست آیند.

2. فرآیند انتشار معکوس (Reverse Diffusion Process): در این مرحله، مدل سعی می‌کند داده‌های نویزی را به داده‌های اصلی بازگرداند. به عبارت دیگر، مدل باید یاد بگیرد که چگونه از داده‌های نویزی به داده‌های بدون نویز برسد. این کار با استفاده از شبکه‌های عصبی صورت می‌گیرد که پارامترهای مدل را برای تخمین توزیع معکوس آموزش می‌دهند.

3. آموزش مدل: هدف آموزش این است که پارامترهای مدل (یعنی شبکه عصبی) را به گونه‌ای بهینه کنیم که بتوانند به خوبی داده‌های نویزی را به داده‌های اصلی تبدیل کنند. برای این منظور، تابع هزینه‌ای طراحی می‌شود که تفاوت بین داده‌های اصلی و داده‌های بازسازی شده را اندازه‌گیری می‌کند. به طور معمول از تابع هزینه KL-divergence استفاده می‌شود.

4. نمونه‌برداری: پس از آموزش مدل، می‌توان از آن برای تولید داده‌های جدید استفاده کرد. فرآیند نمونه‌برداری با شروع از یک نویز تصادفی و سپس اعمال فرآیند انتشار معکوس انجام می‌شود تا به داده‌های واقعی برسیم.