در ریاضیات تابع بیشینهٔ هموار ( به انگلیسی: softmax function ) یا تابع نمایی نرمال سازی شده ( به انگلیسی: normalized exponential function ) [ ۱] : 198 تعمیم تابع لجستیک است. تابع بیشینهٔ هموار یک بردار K - تایی از اعداد حقیقی مانند Z را به عنوان ورودی دریافت می کند و بردار K - تایی σ ( Z ) از مقادیر حقیقی را به عنوان خروجی می دهد که جمع مولفه های آن ۱ می شود. ضابطه تابع به شرح زیر است:
σ ( Z ) j = e Z j ∑ k = 1 K e Z k for j = 1, …, K.
خروجی تابع بیشینه هموار، در نظریه احتمالات می تواند برای نمایش یک توزیع رسته ای ( به انگلیسی: categorical distribution ) استفاده شود. توزیع رسته ای، توزیع احتمالاتی بر روی K نتیجه مختلف است.
تابع بیشینه هموار در روش های طبقه بندی متعددی استفاده می شود؛ مانند: رگرسیون لجستیک چندجمله ای[ ۱] : 206–209 ( به انگلیسی: multinomial logistic regression ) ، آنالیز افتراقی خطی، دسته بندی کننده بیز ساده و شبکه عصبی مصنوعی. [ ۲] در رگرسیون لجستیک چندجمله ای و آنالیز افتراقی خطی، ورودی تابع، خروجی K تابع خطی است و در صورتی که بردار نمونه ورودی x و بردار وزن ها w باشد، احتمال پیش بینی شده برای کلاس j ام برابر است با:
P ( y = j ∣ x ) = e x T w j ∑ k = 1 K e x T w k
که w j سطر j ام بردار وزن هاست و x T w j هم برابر با مقدار ضرب داخلی بردارهای ورودی و بردار وزن است. در توصیف دیگری از عبارت بالا به جای ضرب داخلی، می توان از عملیات ترکیب توابع استفاده کرد؛ یعنی عبارت بالا به صورت ترکیب K تابع خطی x ↦ x T w 1 , … , x ↦ x T w K و تابع بیشینه هموار تلقی گردد. به عبارت دیگر عملگری که با استفاده از بردار وزن تعریف شده است، بر روی ورودی اعمال شده و ورودی را به برداری در فضای R K انتقال می دهد. [ ۳]
در راهنمای متلب [ ۴] چنین آمده است:
softmax ( n ) = exp ( n ) /sum ( exp ( n ) )
از دو منظر می توان علت این نام گذاری را بررسی کرد؛ معنی اصلی و معنی در یادگیری ماشین.
معنی دیدگاه اول این است که تابع m a x ( x 1 , x 2 , … , x n ) تابعی با دامنه و برد R n → R است؛ ولی این تابع پیوسته نیست و به همین دلیل نمی توان مشتق آن را تعریف کرد؛ بنابراین در بسیاری از کاربردها از تابع زیر:
این نوشته برگرفته از سایت ویکی پدیا می باشد، اگر نادرست یا توهین آمیز است، لطفا گزارش دهید: گزارش تخلفσ ( Z ) j = e Z j ∑ k = 1 K e Z k for j = 1, …, K.
خروجی تابع بیشینه هموار، در نظریه احتمالات می تواند برای نمایش یک توزیع رسته ای ( به انگلیسی: categorical distribution ) استفاده شود. توزیع رسته ای، توزیع احتمالاتی بر روی K نتیجه مختلف است.
تابع بیشینه هموار در روش های طبقه بندی متعددی استفاده می شود؛ مانند: رگرسیون لجستیک چندجمله ای[ ۱] : 206–209 ( به انگلیسی: multinomial logistic regression ) ، آنالیز افتراقی خطی، دسته بندی کننده بیز ساده و شبکه عصبی مصنوعی. [ ۲] در رگرسیون لجستیک چندجمله ای و آنالیز افتراقی خطی، ورودی تابع، خروجی K تابع خطی است و در صورتی که بردار نمونه ورودی x و بردار وزن ها w باشد، احتمال پیش بینی شده برای کلاس j ام برابر است با:
P ( y = j ∣ x ) = e x T w j ∑ k = 1 K e x T w k
که w j سطر j ام بردار وزن هاست و x T w j هم برابر با مقدار ضرب داخلی بردارهای ورودی و بردار وزن است. در توصیف دیگری از عبارت بالا به جای ضرب داخلی، می توان از عملیات ترکیب توابع استفاده کرد؛ یعنی عبارت بالا به صورت ترکیب K تابع خطی x ↦ x T w 1 , … , x ↦ x T w K و تابع بیشینه هموار تلقی گردد. به عبارت دیگر عملگری که با استفاده از بردار وزن تعریف شده است، بر روی ورودی اعمال شده و ورودی را به برداری در فضای R K انتقال می دهد. [ ۳]
در راهنمای متلب [ ۴] چنین آمده است:
softmax ( n ) = exp ( n ) /sum ( exp ( n ) )
از دو منظر می توان علت این نام گذاری را بررسی کرد؛ معنی اصلی و معنی در یادگیری ماشین.
معنی دیدگاه اول این است که تابع m a x ( x 1 , x 2 , … , x n ) تابعی با دامنه و برد R n → R است؛ ولی این تابع پیوسته نیست و به همین دلیل نمی توان مشتق آن را تعریف کرد؛ بنابراین در بسیاری از کاربردها از تابع زیر:
wiki: بیشینه هموار