اموزش اعتبارسنجی و مجموعه های ازمایشی

آموزش اعتبارسنجی و مجموعه های آزمایشی. در بحث یادگیری ماشین، مطالعه و ساخت الگوریتم هایی که می تواند بر اساس مجموعه داده، یادگیری و پیشگیری کند، مرسوم است. [ ۱] این الگوریتم ها از طریق پیش بینی یا تصمیم گیری مبتنی بر داده، از طریق ساختن یک مدل ریاضی بر اساس داده های ورودی عمل می کنند.
داده های مورد استفاده برای ساخت مدل نهایی معمولاً از مجموعه داده های متعدد تهیه می شود. به طور خاص، معمولاً از سه مجموعه داده در مراحل مختلف ایجاد مدل، استفاده می شود.
این مدل در ابتدا بر روی یک مجموعه داده آموزشی ساخته می شود، تا یا استفاده از مجموعه ای از مثالها، توانایی متناسب کردن پارامترهای مدل فراهم شود. ( به عنوان مثال وزن اتصالات بین سلولهای عصبی در شبکه های عصبی مصنوعی ) این مدل ( به عنوان مثال یک شبکه عصبی ) با استفاده از یک روش یادگیری نظارت شده، مانند روش های بهینه سازی همچون نزول گرادیان یا نزول شیب تصادفی، روی مجموعه داده های آموزشی، آموزش داده می شود. در عمل، مجموعه داده های آموزشی اغلب متشکل از جفت های یک بردار ورودی ( یا اسکالر ) و بردار خروجی مربوطه ( یا اسکالر ) است، جایی که کلید پاسخ معمولاً به عنوان متغیر هدف ( یا برچسب ) نشان داده می شود. مدل فعلی از روی مجموعه داده های آموزشی ساخته می شود و برای هر بردار ورودی در مجموعه داده های آموزشی، نتیجه ای حاصل می شود که سپس با هدف مقایسه می شود. پارامترهای مدل، بر اساس نتیجه مقایسه و الگوریتم یادگیری خاص مورد استفاده، تنظیم می شوند. نتیجه به دست آمده مدل می تواند شامل انتخاب متغیر و برآورد پارامتر باشد.
به طور پیوسته، از مدل ساخته شده بر اساس مجموعه داده، برای پیش بینی نتایج مشاهدات در یک مجموعه داده دوم به نام مجموعه داده اعتبار سنجی استفاده می شود. مجموعه داده های اعتبارسنجی، ارزیابی بی طرفانه ای از مدل ساخته شده متناسب که بر روی مجموعه داده های آموزشی، در زمان تنظیم مدل ابرپارامترها ارایه می دهد. [ ۲] ( به عنوان مثال تعداد واحدهای پنهان در یک شبکه عصبی ) . مجموعه داده های اعتبار سنجی را می توان برای منظم سازی با توقف زودهنگام استفاده کرد. ( متوقف کردن آموزش هنگامی که خطای مجموعه داده اعتبار سنجی افزایش می یابد، استفاده می شود، زیرا این نشانه بیش برازش است ) . این مراحل در عمل با پیچیدگی هایی مواجه است که ناشی از نوسان میزان خطا در مجموعه اعتبار سنجی است. این پیچیدگی موجب به وجود آمدن قوانینی مبتنی بر هدف است که این قوانینی می تواند تصمیم بگیرد آیا بیش برازش اتفاق افتاده است یا خیر.