الگوریتم رگرسیون خطی در یادگیری ماشین

1. رگرسیون خطی چگونه کار می‌کند؟

هدف الگوریتم رگرسیون خطی اینه که یک خط مستقیم پیدا کنه که بهترین برازش (fit) رو روی داده‌ها داشته باشه. این خط رابطه بین متغیرهای ورودی (ویژگی‌ها) و متغیر خروجی (هدف) رو مدل‌سازی می‌کنه. 

فرمول کلی:

y = w_1x_1 + w_2x_2 +.... + w_nx_n + b 

که در آن:

x: ویژگی‌ها (ویژگی‌های ورودی)

w: وزن‌ها یا ضرایب

b: عرض از مبدأ

y: خروجی پیش‌بینی‌شده

الگوریتم سعی می‌کنه ضرایب  و  رو طوری پیدا کنه که مقدار خطای پیش‌بینی (مثل میانگین مربعات خطا - MSE) حداقل بشه.

---

2. رگرسیون خطی در کجا استفاده می‌شود؟

نوع استفاده: در دسته پیش‌بینی (Regression) قرار می‌گیره، چون خروجی مدل یک مقدار عددی پیوسته هست (مثلاً قیمت، دما، سن، درآمد و...).

در دسته‌بندی (Classification) استفاده نمی‌شود، مگر به صورت تغییر یافته مثل رگرسیون لجستیک (Logistic Regression) که برای دسته‌بندی استفاده می‌شه، ولی اون دیگه یک الگوریتم جداگانه‌ست.

---

مثال ساده:

اگر بخوای رابطه‌ای بین ساعات مطالعه و نمره امتحان پیدا کنی، رگرسیون خطی می‌تونه بهت بگه:

> "اگر یک ساعت بیشتر مطالعه کنی، نمره‌ات به‌طور میانگین 3 نمره بیشتر میشه."