مدل های تولیدی عمیق

مدل های تولیدی عمیق ( به انگلیسی: Deep Generative Models ) یکی از شاخه های یادگیری عمیق در شبکه های عصبی محسوب می شوند. یکی از دلایل فراگیر شدن این مدل ها ارائه روشی بهینه برای تحلیل و درک داده های بدون برچسب می باشد. ایده اصلی مدل های تولیدی عمیق به دست آوردن توزیع احتمال ذاتی داده ها به نحویست که قادر به تولید داده های مشابه باشد. این ویژگی خصوصاً برای شاخص گذاری سریع و بازیابی داده مورد استفاده قرار می گیرد. مدل های تولیدی در زمینه های مختلفی از جمله مسائل شناخت بصری، شناسایی و تولید گفتار، پردازش زبان طبیعی و روباتیک مورد استفاده قرار می گیرند. از مهمترین انواع مدل های تولیدی عمیق می توان به ماشین بولتزمن محدود، ماشین بولتزمن عمیق، شبکه باور عمیق، شبکه های رمزگذار خودکار و شبکه های تخاصمی مولد اشاره کرد.
به صورت کلی مدل های تولیدی به دو دسته اصلی تقسیم می شوند:
• مدل های مبتنی بر تابع هزینه مانند شبکه های رمزگذار خودکار و شبکه های شبکه های تخاصمی مولد
• مدل های مبتنی بر انرژی مانند ماشین بولتزمن و انواع آن و شبکه های باور عمیق
ماشین بولتزمن ( به انگلیسی: Boltzmann Machine ) یک مدل مبتنی بر انرژی می باشد که برای اولین بار توسط Geoffrey Hinton در سال ۱۹۸۳ ارائه شد. هدف اصلی این شبکه انجام جستجوی کارامد برای ترکیب فرضیه ها به نحوی بود که احتمال مشاهده داده های آموزشی حداکثر شود. ماشین بولتزمن باینری یک شبکه متقارن غیرجهت دار است که از تعدادی یونیت ( نورون ) باینری تشکیل شده است. این یونیت ها به دو لایه پنهان و آشکار تقسیم می شوند. در ماشین بولتزمن، یادگیری از نوع هبین می باشد یعنی برای به روزرسانی وزنهای شبکه تنها به اطلاعات نورون های همسایه نیاز است و این به روزرسانی در واقع بر اساس همبستگی میان نورون های متصل به یکدیگر صورت می گیرد. در این حالت در صورت فعال شدن همزمان دو نورون متصل به یکدیگر، اتصال میان آن ها تقویت شده و در غیر این صورت اتصال میان آن ها تضعیف می شود. در این مدل هدف یادگیری، یافتن تابع انرژی به گونه ای می باشد که مقادیر کمتری را به پیکربندی درست و مقادیر بیشتری را به پیکربندی اشتباه نسبت دهد؛ و به این ترتیب برای پیش بینی، پیکربندی با انرژی حداقل انتخاب می شود. ماشین بولتزمن باینری مانند شبکه هاپفیلد یک شبکه تماماً متصل است؛ یعنی میان تمام یونیت ها در لایه پنهان و آشکار و همچنین میان یونیت ها در هر لایه اتصال وجود دارد، و تمام یونیت ها می توانند با یکدیگر تبادل اطلاعات داشته باشند. همین امر موجب بالا رفتن پیچیدگی در این شبکه می شود. در حقیقت ماشین بولتزمن باینری پایه اصلی ماشین بولتزمن محدود و بسیاری از مدل های تولیدی قوی مانند ماشین بولتزمن عمیق و شبکه باور عمیق می باشد.