ماشین بولتزمن محدود شده

یک ماشین بولتزمن محدود ( RBM ) یک شبکه عصبی مصنوعی تصادفی مولد است که می تواند توزیع احتمال از مجموعه ورودی های بیاموزد.
RBMها ابتدا با نام هارمونیوم توسط پل اسمولنسکی در سال ۱۹۸۶ اختراع شدند، و در اواسط سال ۲۰۰۰، پس از آنکه جفری هینتون و همکارانش که الگوریتم های یادگیری سریع را برایش اختراع کردند، به شهرت رسیدند. RBMها کاربردهایی در کاهش ابعاد، [ ۱] طبقه بندی، پالایش گروهی، یادگیری ویژگی، مدل عناوین[ ۲] و حتی سیستم چندپیکره کوانتومی پیدا کرده اند. [ ۳] [ ۴] بسته کاربرد، آنها را می توان به دو روش تحت نظارت یا بدون نظارت آموزش داد.
همان طور که از نام آنها پیداست، RBMها گونه ای از ماشین های بولتزمن هستند، با این محدودیت که نورون های آنها باید یک نمودار دوبخشی تشکیل دهند به این معنا که یک جفت نورون از هر دو بخش ( که معمولاً به عنوان واحد «مرئی» و واحد «پنهان» نامیده می شود ) ممکن است یک ارتباط متقارن داشته باشد. ولی هیچ ارتباطی بین واحدهای درون یک بخش وجود ندارد.
در مقابل، ماشین های بولتزمن «نامحدود» می توانند اتصالاتی بین واحدهای پنهان داشته باشند. این محدودیت باعث کارآمدتر شدن الگوریتم های آموزشی ( نسبت به کلاس عمومی ماشین های بولتزمن ) می شود؛ این امر به ویژه برای الگوریتم واگرایی متضاد
گرادیان کاهشی، صادق است. [ ۵]
ماشین های محدود بولتزمن را می توان در شبکه های یادگیری عمیق نیز استفاده کرد. به ویژه، شبکه های باور عمیق را می توان با «انباشته کردن» RBMها ایجاد کرد و با تنظیم دقیق شبکه عمیق ( با نزول گرادیان و انتشار پس انداز ) می توان آن را بهبود داد. [ ۶]
نوع استاندارد RBM دارای واحدهای پنهان و مرئی با ارزش دودویی ( بولی ) است. این ماشین شامل ماتریسی از وزن ها، W از اندازه m × n ، می باشد. هر عنصر ماتریس وزن ( w i , j ) نماینده یک یال بین یک واحد مرئی ( ورودی ) v i و یک واحد پنهان h j می باشد. علاوه بر این، وزن های بایاس a i برای v i و b j برای h j وجود دارند.
با توجه به وزن ها و بایاس ها، "انرژی" یک پیکربندی ( جفت بردار بولی ) ( v, h ) به صورت زیر تعریف می شود.
یا در به صورت ماتریسی،
این تابع انرژی مشابه تابع شبکه هاپفیلد است. همانند ماشین های بولتزمن عمومی، توزیع احتمال توأم برای بردارهای مرئی و پنهان بر حسب تابع انرژی به صورت زیر تعریف می شود، [ ۷]