یادگیری گروهی

در یادگیری ماشین و امار، یادگیری گروهی ( به انگلیسی: Ensemble learning ) به روشی گفته می شود که از الگوریتم های متفاوت برای پیشبینی نهایی خروجی ها استفاده می شود، در یادگیری گروهی چند الگوریتم بطور موازی خروجی را پیشبینی می کنند و خروجی نهایی آن خروجی ای می شود که بیشترین تکرار را در بین خروجی های پیشبینی شده داشته است[ ۱] ، البته مدل های متفاوتی از یادگیری گروهی وجود دارد که در بعضی از آن ها خروجی های پیشبینی شده توسط هر الگوریتم وزن متفاوتی دارند یا مدل هایی که به طور موازی خروجی را پیشبینی نمی کنند و از نتایج مدل قبل نیز بهره می برند. انتظار می رود که یادگیری گروهی نتایج بهتری در مقایسه با روش های پیشین که تنها از یک الگوریتم استفاده می کردند داشته باشد، به این فرض که بالاتر ذکر شد خرد جمعی ( به انگلیسی: [ ۲] Wisdom of the Crowd ) می گویند.
کیسه بندی ( به انگلیسی: ( Bootstrap aggregating ( Bagging ) یکی از روش های یادگیری گروهی است، در این روش برای ساختن مجموعه داده های تمرین برای هرکدام از مدل ها از مجموعه داده های اصلی انتخاب با جایگذاری صورت می گیرد ( درنتیجه در هر انتخاب شانس حضور همه داده ها برابر است و در مجموعه نهایی هر داده ممکن است صفر، یک یا چند بار بیاید ) ، همچنین هر مدل تنها بر روی زیر مجموعه ای از ویژگی ها آموزش می بیند تا با بیشتر شدن تنوع و واریانس از بیش برازش ( به انگلیسی: Overfitting ) جلوگیری شود. استنتاج نهایی برای پیشبینی خروجی توسط رای اکثریت ( به انگلیسی:Majority Voting ) صورت می گیرد.
برای ارزیابی مدل از روش ارزیابی خارج از کیسه ( به انگلیسی: Out - Of - Bag Evaluation ) استفاده می شود[ ۳] ، از آنجا که داده های مدل ها زیر مجموعه ای از داده های اصلی بوده تعدادی از داده ها هرگز توسط مدل مشاهده نشده و برای ارزیابی می توان از آن ها استفاده کرد.
احتمال مشاهده نشدن داده توسط مدل:
P ( N o t   i n   T r a i n   s e t ) = ( 1 − 1 n ) n
اگر تعداد داده زیاد شود ( n ⟶ ∞ ) :
lim n → ∞ P ( N o t   i n   T r a i n   s e t ) = lim n → ∞ ( 1 − 1 n ) n = 1 e ≈ 0. 368
در نتیجه با زیاد شدن تعداد داده ها تقریبا 37 % آن ها در داده های آموزش مشاهده نشده و از آن ها برای ارزیابی می توان استفاده کرد.