استنباط بیزی تغییراتی ( به انگلیسی: Variational Bayes Inference ) یا استنباط بیزی وردشی[ ۱] ، از جمله روش های رایج در یادگیری بیزی است که برای تقریب جواب با استفاده از یک سری فرض های استقلال در توزیع پَسین ( به انگلیسی: Posterior distribution ) است. نکته مشکل ساز در یادگیری بیزی این است که برای حساب کردن توزیع پسین لازم است انتگرالی روی تمام حالات ممکن متغیرهای پنهان حساب شود که به درست نمایی حاشیه ای ( به انگلیسی: marginal likelihood ) معروف است. استنباط وردشی سعی در تقریب این انتگرال دشوار دارد تا یادگیری مدل و استنباط با آن را آسان تر کند. به عبارتی دیگی، روش استنباط بیزیِ وردشی
• تقریبی برای توزیع پَسین می دهد. با استفاده از این تقریب و داشتن پارامترهای مدل، می توان استنباط آماری روی داده های دیده نشده انجام داد.
• کرانی پایین برای درست نمایی حاشیه ای ( یا "گواه" ( به انگلیسی: evidence ) ) روی داده های آموزشی می دهد. با استفاده از این کران می توان پارامترهای مدل را یاد گرفت ( "یادگیری مدل" یا model selection ) . ایده ی کلی این است که هرچه مقدار درست نمایی برای داده های مورد نظر بیشتر باشد، پارامترها برای مدل و داده ها مناسب تر هستند.
می توان گفت روش استنباط وردشی، تعمیمی از یادگیری "حداکثرسازی امید" ( به انگلیسی: Expectation Maximization ) است.
فرض کنید یک مدل ساده بیزی داریم که در آن مجموعه ای از داده های iid از یک توزیع گوسی با میانگین و واریانس نامشخص در اختیار داریم[ ۲] . در این مثال با جزئیات زیاد سعی داریم عملکرد یادگیری و استنباط وردشی را نشان دهیم.
در مدل سازی پارامترهای مسئله، برای مدل سازی پارامترها، از توزیع مزدوج پیشین ( به انگلیسی: conjugate prior ) استفاده می کنیم. یعنی برای میانگین توزیع نرمال، و برای واریانس توزیع گاما در نظر می گیریم:
اکنون N نقطه X = { x 1 , … , x N } در اختیار داریم و هدف این است که توزیع پسین q ( μ , τ ) = p ( μ , τ | x 1 , … , x N ) را برای پارامترهای مدل μ و τ یادبگیریم. فراپارامترهای مدل، یعنی μ 0 , λ 0 , a 0 و b 0 مقادیری ثابت هستند.
توزیع مشترک متغیرهای مسئله به صورت زیر است:
که هرکدام از آنها بر اساس فاکتورهایشان به صورت زیر هستند:
این نوشته برگرفته از سایت ویکی پدیا می باشد، اگر نادرست یا توهین آمیز است، لطفا گزارش دهید: گزارش تخلف• تقریبی برای توزیع پَسین می دهد. با استفاده از این تقریب و داشتن پارامترهای مدل، می توان استنباط آماری روی داده های دیده نشده انجام داد.
• کرانی پایین برای درست نمایی حاشیه ای ( یا "گواه" ( به انگلیسی: evidence ) ) روی داده های آموزشی می دهد. با استفاده از این کران می توان پارامترهای مدل را یاد گرفت ( "یادگیری مدل" یا model selection ) . ایده ی کلی این است که هرچه مقدار درست نمایی برای داده های مورد نظر بیشتر باشد، پارامترها برای مدل و داده ها مناسب تر هستند.
می توان گفت روش استنباط وردشی، تعمیمی از یادگیری "حداکثرسازی امید" ( به انگلیسی: Expectation Maximization ) است.
فرض کنید یک مدل ساده بیزی داریم که در آن مجموعه ای از داده های iid از یک توزیع گوسی با میانگین و واریانس نامشخص در اختیار داریم[ ۲] . در این مثال با جزئیات زیاد سعی داریم عملکرد یادگیری و استنباط وردشی را نشان دهیم.
در مدل سازی پارامترهای مسئله، برای مدل سازی پارامترها، از توزیع مزدوج پیشین ( به انگلیسی: conjugate prior ) استفاده می کنیم. یعنی برای میانگین توزیع نرمال، و برای واریانس توزیع گاما در نظر می گیریم:
اکنون N نقطه X = { x 1 , … , x N } در اختیار داریم و هدف این است که توزیع پسین q ( μ , τ ) = p ( μ , τ | x 1 , … , x N ) را برای پارامترهای مدل μ و τ یادبگیریم. فراپارامترهای مدل، یعنی μ 0 , λ 0 , a 0 و b 0 مقادیری ثابت هستند.
توزیع مشترک متغیرهای مسئله به صورت زیر است:
که هرکدام از آنها بر اساس فاکتورهایشان به صورت زیر هستند:
wiki: استنباط بیزی تغییراتی