بیشتر الگوریتم‌ها در «یادگیری ماشین» (Machine learning)، برمبنای کمینه یا بیشینه‌سازی «تابع هدف» (Objective Function)، عمل می‌کنند. گروهی از توابع هدف که قرار است کمینه شوند به نام «توابع زیان» (Loss Function) معروفند. البته به این توابع در مباحث هوش مصنوعی گاهی «توابع هزینه» (Cost Function) نیز می‌گویند.

تابع زیان، معیاری برای سنجش مناسب بودن مدل از نظر قابلیت و توانایی در پیشگویی مقدارهای جدید است. یکی از روش‌های معمول برای پیدا کردن کمینه تابع زیان، استفاده از مشتق و الگوریتم «گرادیان کاهشی» (Gradient Descent) است. زیرا در بیشتر مسائل مربوط به هوش مصنوعی، توابع زیان به صورت «محدب» (Convex) هستند. متاسفانه نمی‌توان برای همه نوع داده‌ای از یک تابع زیان استفاده کرد. انتخاب تابع زیان مناسب به عوامل متعددی نظیر وجود نقاط یا داده‌های پرت، نوع الگوریتم یادگیری ماشین، هزینه زمانی اجرای الگوریتم و سادگی محاسبه مشتق و … بستگی دارد.

هدف از این نوشتار، آشنایی با توابع زیان و کاربردهای آن‌ها در حل مسائل یادگیری ماشین بخصوص رگرسیون است. برای اطلاع از مباحث یادگیری ماشین مطلب مقدمه‌ای بر یادگیری ماشین و برای آگاهی بیشتر از مباحث رگرسیون به  مطلب رگرسیون خطی — مفهوم و محاسبات به زبان ساده مراجعه کنید.

توابع زیان

به طور کلی می‌توان توابع زیان در زمینه یادگیری ماشین را به دو گروه عمده تقسیم کرد:

  • توابع زیان مربوط به الگوریتم‌های دسته‌بندی (Classification)
  • توابع زیان مربوط به رگرسیون (Regression)

با توجه به کاربرد و اهمیت بیشتر روش‌های رگرسیونی، در این مطلب به بررسی توابع زیان مرتبط با آن می‌پردازیم.

loss function categories

نکته: در «روش‌های رگرسیونی» (Regression Methods)، مدل قادر به پیش‌بینی مقدارهای کمی است در حالیکه در «مدل‌های دسته‌بندی» (Classification Models)، «برچسب‌ها» (labels) یا «دسته‌ها» (Groups)، پیش‌بینی می‌شوند.

باید توجه داشت که یکی از خصوصیات تابع زیان نامنفی بودن آن است. در نتیجه توابعی را می‌توان به عنوان تابع زیان معرفی کرد که برد آن‌ها حتما اعداد نامنفی باشد، زیرا اغلب به دنبال میزان خطا هستیم و نه جهت آن.

زیان‌های مدل‌های رگرسیونی

در این قسمت با توابع زیانی که برای برآورد پارامترهای مدل رگرسیونی به کار می‌روند آشنا می‌شویم. منظور از برآورد پارامترهای مدل رگرسیونی، محاسبه ضرایبی است که مدل رگرسیونی را می‌سازند. برای مثال اگر مدل رگرسیونی به صورت زیر باشد، به کمک کمینه‌سازی تابع زیان، پارامترهای مدل یعنی $$b_0,b_1,\ldots,b_p$$ برآورد می‌شوند.

$$\large Y=b_0+b_1X_1+b_2X_2+\cdots+b_pX_p+\epsilon$$

مشخص است که در اینجا خطا همان $$\epsilon$$‌ است. در نتیجه تابع زیان به صورت تابعی از این خطا نوشته می‌شود. به شکل دیگر می‌توان خطا را به صورت فاصله بین مقدار پیش‌بینی و مقدار واقعی برای متغیر پاسخ (y) در نظر گرفت. به این ترتیب پارامترهای مدل به شکلی انتخاب شده‌اند که تابع زیان کمینه شود.

1- تابع زیان میانگین مربعات (Means Square Error)

یکی از معروف‌ترین و معمول‌ترین توابع زیان در تحلیل رگرسیونی، میانگین مربعات خطا (Means Square Error) است که به اختصار MSE نامیده می‌شود. این تابع زیان، میانگین مربعات فاصله بین مقدار پیش‌بینی و واقعی را محاسبه می‌کند. شیوه و نحوه محاسبه آن در زیر دیده می‌شود:

$$\large MSE=\dfrac{\sum (y_i-\widehat{y}_i)^2}{n}$$

در مباحث آماری، معمولا به چنین تابعی، زیان $$L^2$$ گفته می‌شود. با توجه به استفاده از توان 2 در محاسبه MSE، شکل این تابع زیان برحسب مقدارهای پیش‌بینی (یا خطا) به صورت سهمی خواهد بود. فرض کنید که مقدار واقعی برای متغیر پاسخ (y) برابر است با صفر، در نتیجه نمودار تابع زیان MSE را براساس مقدارهای پیش‌بینی در محدوده 1۰۰۰۰- تا 1۰۰۰۰ می‌توان به صورت زیر رسم کرد.

MSE- Mean Square Error

2- میانگین قدرمطلق خطا (Mean Absolute Error)

یکی دیگر از توابع زیان که خواص جالبی دارد، میانگین قدرمطلق خطا (Mean Absolute Error) است که به اختصار MAE نیز نامیده می‌شود. این تابع زیان، به مانند MSE از فاصله بین مقدار پیش‌بینی و واقعی به عنوان معیار استفاده کرده ولی جهت این تفاضل را در نظر نمی‌گیرد. بنابراین در محاسبه خطا MAE فقط میزان فاصله و نه جهت فاصله به کار می‌رود. البته گاهی در مباحث آماری، به این تابع، زیان $$L^1$$ نیز گفته می‌شود.

بنابراین MAE‌، میانگین قدرمطلق تفاضل بین مقدار پیش‌بینی و واقعی را محاسبه می‌کند. شیوه بدست آوردن MAE در رابطه زیر نوشته شده است.

$$\large MAE=\dfrac{\sum |y_i-\widehat{y}_i|}{n}$$

در تصویر زیر، شکل تابع زیان MAE ترسیم شده است. در این نمودار فرض بر این است که مقدار واقعی متغیر پاسخ برابر با صفر است.

MAE- Mean Absolute Error

مقایسه زیان میانگین مربعات و قدر مطلق خطا (مقایسه زیان $$L^2$$ و $$L^1$$)

معمولا محاسبات و حل معادلات با مرتبه یا توان 2 نسبت به توابعی که در آن از قدرمطلق استفاده شده، ساده‌تر است. به این ترتیب شاید به نظر برسد که استفاده از تابع زیان MSE ارجح باشد. ولی زیان قدرمطلق نسبت به وجود «داده‌‌های پرت» (Outlier) مقاوم‌تر است. بنابراین بهتر است در این مورد بیشتر بحث کنیم. زمانی که یک مدل یادگیری ماشین را «آموزش» (Train) می‌دهیم، هدف پیدا کردن نقطه‌ای است که تابع زیان در آن کمینه می‌شود. البته مسلم است که هر دو تابع زیان MAE و MSE زمانی که برآورد با مقدار واقعی برابر باشد، حداقل مقدار (صفر) خواهند بود. در ادامه به با استفاده از کد پایتون به مقایسه این دو تابع زیان می‌پردازیم.

البته محاسبه این دو تابع زیان را می‌توان به کمک توابع کتابخانه‌ای sklearn به نام‌های mean_squared_error و mean_absolute_error انجام داد. برای این کار، کافی است کدهای زیر را در پایتون وارد کنید.

نکته: اگر از زیان MSE جذر گرفته شود، تابع زیان دیگری به نام «ریشه میانگین مربعات خطا» (Root Means Square Error) ساخته می‌شود که به اختصار با RMSE نشان داده می‌شود. مقایسه MSE و MAE با توجه به تغییر مقیاس مقدار خطا در MSE صحیح نیست، زیرا:

  • اگر مقدار پیش‌بینی به مقدار واقعی نزدیک باشد (فاصله کمتر از 1 باشد) MSE میزان خطا را منقبض می‌کند و در خطا فشردگی به وجود می‌آورد.
  • اگر در داده‌ها، مقدار پرت وجود داشته باشد، زیان MSE، بزرگ و منبسط شده و خطا را بزرگتر از مقدار واقعی نشان می‌دهد.

نکته: به همین علت، برای بررسی و تشخیص تغییرات، مقایسه را بین MAE و RMSE انجام می‌دهیم. تا واحد اندازه‌گیری داده‌ها برای مقایسه یکسان شود. برای مثال اگر داده‌ها مربوط به وزن برحسب کیلوگرم باشند، واحد اندازه‌گیری خطا برای MSE برحسب کیلوگرم مربع (توان 2) خواهد بود در حالی که برای MAE همان واحد اندازه‌گیری مشاهدات یعنی کیلوگرم است. با جذر گرفتن از MSE و محاسبه RMSE واحد اندازه‌گیری خطا برحسب کیلوگرم شده و با زیان MAE قابل مقایسه است.

compare MAE and RMSE

همانطور که دیده می‌شود در سمت چپ، با توجه به نزدیکی داده‌های به یکدیگر زیان MAE و RMSE تقریبا با هم برابرند. در حالیکه در جدول سمت راست به علت وجود داده پرت RMSE‌ تقریبا دوبرابر MAE‌ محاسبه شده است.

مزایای استفاده از MAE

از آنجایی که در محاسبه زیان MSE از مربع خطا استفاده می‌شود،‌ اگر میزان خطا بزرگتر از 1 باشد، MSE بزرگ می‌شود. با وجود داده پرت خطا افزایش یافته و زیان MSE، خطا را بسیار بزرگتر نشان می‌دهد. بنابراین به نظر می‌رسد که داده‌های پرت در محاسبه MSE‌ وزن بیشتری نسبت به MAE‌ دارند. بنابراین هنگامی که داده‌‌های پرت یا دورافتاده در مشاهدات وجود دارد، استفاده از تابع زیان MAE می‌تواند کارایی مدل را بالا ببرد.

اگر بخواهیم به طوری شهودی دو تابع زیان MSE و MAE را مقایسه کنیم، می‌توان این طور تصور کرد که: «اگر بخواهیم برای همه مقدارهای متغیر مستقل، یک مقدار به عنوان متغیر پاسخ پیدا کنیم که تابع زیان MSE را کمینه کند، این نقطه میانگین مقدارهای متغیر پاسخ خواهد بود. در مقابل، مقداری که تابع زیان MAE را به ازاء همه مقدارهای متغیر مستقل کمینه می‌کند، میانه مقدارهای متغیر پاسخ است.

می‌دانیم که میانه در مقابل داده‌های پرت مقاوم است و نسبت به میانگین بسیار کمتر تحت تاثیر قرار می‌گیرد. بنابراین MAE نسبت به MSE کمتر تحت تاثیر داده‌های پرت بوده و می‌تواند برآورد بهتری برای پارامترهای مدل یا پیش‌بینی متغیر پاسخ ارائه دهد.

معایب استفاده از MAE

استفاده از تابع زیان MAE، بخصوص در شبکه‌های عصبی، با یک مشکل بزرگ روبرو است. هنگام استفاده از MAE،‌ مقدار گرادیان تابع زیان، برای مقدارهای کوچک خطا نیز بزرگ است. این وضعیت در الگوریتم‌های یادگیری ماشین مناسب نیست. برای حل این مشکل بهتر است از «نرخ یادگیری پویا» (Dynamic Learning Rate)استفاده شود که هنگام نزدیک شدن به نقطه کمینه، مقدارش کاهش می‌یابد. ولی گرادیان تابع زیان MSE، زمانی که مقدار خطا، بزرگ باشد،‌ زیاد و هنگامی که خطا کم شود، کاهش خواهد یافت. نمودارهایی که در تصاویر زیر دیده می‌شوند، این مطلب را بهتر نشان می‌دهند. در هر دو نمودار، فرض بر این است که مقدار واقعی متغیر پاسخ برابر با صفر است.

Compre gradient of MAE and MSE

همانطور که در تصویر سمت چپ دیده می‌شود، برای مقدارهای پیش‌بینی شده با خطاهای بزرگ یا کوچک، شیب خط تابع زیان MAE ثابت است. در حالیکه در تصویر سمت راست، مقدار تابع زیان MSE، شیب منحنی برای خطاهای بزرگ، زیاد بوده و هنگامی که مقدار پیش‌بینی به مقدار واقعی نزدیک می‌شود (کاهش خطا)، شیب منحی تابع زیان MSE نیز کاهش می‌یابد.

نکته: مقدارهای مربوط به محور عمودی را برای هر دو نمودار مقایسه کنید. محور عمودی برای تابع زیان MSE شامل مقدارهای بسیار بزرگ است ولی با کاهش فاصله بین مقدار پیش‌بینی و واقعی شیب منحنی کم می‌شود. در عوض در نمودار سمت چپ که مربوط به تابع زیان MAE است، مقدارهای محور عمودی خیلی بزرگ نیست ولی روند کاهش ثابت است به این معنی که شیب کاهش خطا برای این تابع، یکنواخت است.

قاعده تصمیم‌گیری برای انتخاب تابع زیان MSE یا MAE

اگر داده‌های پرت، بیانگر مقدارهای غیرمعمول (که با احتمال قوی در داده‌های کسب و کار مشاهده می‌شوند) بوده و باید حتما برای مدل‌سازی شناسایی شوند، استفاده از تابع زیان MSE می‌تواند مفید باشد. ولی اگر داده‌های پرت، حاصل مشاهدات مخدوش باشد، بهتر است از MAE استفاده کنیم تا اثر آن‌ها را در برآورد پارامترهای مدل از بین ببریم. بنابراین اگر تابع زیان MAE را متعلق به گروه توابع زیان در فضای $$L^1$$ و MSE را نماینده توابع زیان در فضای $$L^2$$ در نظر بگیریم، به عنوان یک راهنمایی کلی می‌توان گفت: «توابع زیان $$L^1$$ نسبت به داده‌های پرت مقاوم بوده ولی مشتق آن‌ها پیوسته نیست. در نتیجه برای پیدا کردن کمینه به راحتی از روش‌های مشتق‌گیری نمی‌توان استفاده کرد. در مقابل توابع زیان $$L^2$$ نسبت به داده‌های پرت حساس بوده ولی محاسبات مربوط به پیدا کردن نقاط کمینه آن ساده‌تر است و به به کمک روش‌های تحلیلی بدست می‌آیند.»

یک مسئله در به کارگیری توابع زیان MAE و MSE

در اینجا به وضعیتی می‌پردازیم که داده‌های به شکلی هستند که هر دو تابع زیان MAE و MSE در برآورد پارامترها و پیش‌بینی متغیر پاسخ، دچار مشکل می‌شوند. فرض کنید که برای ۹۰٪ داده‌ها، مقدار واقعی متغیر پاسخ برابر با 1۵۰ یا حدود 1۵۰ هستند و برای 1۰٪ باقی‌مانده، مقدار واقعی متغیر پاسخ در حدود ۰ تا 3۰ تغییر می‌کند. در این حالت استفاده از تابع زیان MAE باعث می‌شود مقدار 1۵۰ به عنوان پیش‌بینی برای همه مشاهدات باشد. این کار باعث می‌شود آن جزئی که 1۰٪ مشاهدات را شامل می‌شد اصلا در محاسبه مقدارهای پیش‌بینی نقشی نداشته باشند. زیرا میانه برای چنین داده‌‌هایی برابر با همان 1۵۰ خواهد بود.

همینطور استفاده از MSE باعث می‌شود مقدار پیش‌بینی برای بیشتر مشاهدات به ۰ تا 3۰ نزدیک باشد. به این ترتیب مقدارهای پیش‌بینی به سمت مقدارهای پرت، تمایل پیدا کرده و به اصطلاح چوله می‌شوند. در نتیجه استفاده از هر یک از دو تابع زیان MSE یا MAE در پیش‌بینی متغیر پاسخ چنین مسئله‌ای، ناکارآمد هستند.

چگونه بر این مسئله غلبه کنیم

یکی از روش‌هایی که می‌تواند چنین مشکلی را کند، استفاده از «تبدیلات» (Transformation) روی متغیر پاسخ است. همچنین ممکن است به کارگیری تابع زیان دیگر، به حل این مشکل کمک کند. در ادامه به بررسی چند تابع زیان می‌پردازیم که به حل این مشکل کمک می‌کنند و در چنین مواردی کاربرد دارند.

3- تابع زیان هوبر (Huber Loss) یا میانگین خطای قدرمطلق هموار شده (Smooth Mean Absolute Error)

تابع زیان هوبر نسبت به MSE کمتر تحت تاثیر داده‌های پرت است. همچنین، برعکس تابع زیان MAE، مشتق‌پذیر بوده و کمینه‌سازی آن به راحتی امکان پذیر است. شیوه محاسبه آن مطابق با رابطه زیر صورت می‌پذیرد:

$$\large L_\delta (y,\widehat{y})=\begin{cases}\frac{1}{2}(y-\widehat{y})^2 & |y-\widehat{y}|\leq \delta\\ \delta |y-\widehat{y}|-\frac{1}{2}\delta^2 & |y-\widehat{y}|>\delta \end{cases}$$

در نظر اول، شاید این تابع، همان MSE به نظر برسد ولی با دقت بیشتر، متوجه می‌شویم که با کوچک بودن خطا یا فاصله بین y و $$\widehat{y}$$ از مقدار $$\delta$$ تابع زیان شبیه تابع زیان MSE است و در غیر اینصورت شبیه تابع زیان MAE خواهد شد.

در نتیجه همانطور که مشخص است، شکل تابع زیان هوبر برحسب مقدار $$\delta$$ تغییر می‌کند. در تصویر زیر، نمودار مربوط به تابع زیان هوبر براساس مقدارهای مختلف $$\delta=0.1,1,10$$ نشان داده شده است.

comparing Huber loss for different Delta

در این نمودار، محور افقی مقدارهای پیش‌بینی شده برای متغیر پاسخ و محور عمودی نیز مقدار تابع زیان هوبر را نشان می‌دهد. در اینجا فرض کرده‌ایم که مقدار  واقعی متغیر پاسخ برابر با صفر است.

نکته: اگر $$\delta\sim 0 $$ (به سمت صفر نزدیک شود) تابع زیان هوبر به تابع زیان MAE نزدیک می‌شود. در صورتی که $$\delta\sim \infty$$ (مقدار آن بزرگ باشد) این تابع زیان، تبدیل به تابع زیان MSE خواهد شد.

از آنجایی که مقدارهای مختلف $$\delta$$ شکل تابع زیان را تغییر می‌دهد، انتخاب مقدار مناسب برای آن کاری حساس و مشکل است. زیرا انتخاب مقدار بزرگ برای آن، تابع زیان را برای بیشتر مواقع MSE در نظر گرفته و انتخاب مقدار کوچک باعث استفاده از تابع زیان MAE برای بیشتر مشاهدات می‌شود.

چرا از تابع زیان هوبر استفاده کنیم؟

یکی از مشکلات عمده، هنگام استفاده از تابع زیان MAE در یادگیری شبکه عصبی، بزرگ بودن مشتق است که ممکن است باعث شود، کمینه مقدار تابع زیان در پایان مراحل یادگیری بوسیله الگوریتم گرادیان کاهشی حاصل نشود. در عوض استفاده از تابع زیان هوبر باعث می‌شود، زمانی که میزان خطا کاهش می‌یابد، مشتق کاهش یافته و دسترسی به کمیته مقدار تابع زیان هوبر میسر شود.

بنابراین تابع زیان هوبر از مزایای هر دو تابع زیان MSE و MAE بهره برده و معایب آن‌ها را هم ندارد. به این ترتیب این تابع زیان، زمانی که داده‌های پرت وجود داشته باشد، اثر آن‌ها را در محاسبات کم می‌کند و زمانی که خطا کاهش یابد، امکان کمینه‌سازی تابع زیان هوبر به راحتی امکان پذیر است.

البته مسئله اصلی در به کاریگیری این تابع زیان، انتخاب مناسب پارامتر آن یعنی $$\delta$$ است که معمولا به وسیله یک فرآیند تکراری یادگیری، تعیین می‌شود. شاید تنظیم این پارامتر به کمک روش‌های اعتبارسنجی متقابل (Cross Validation)، ما را به مقدار مناسب برای $$\delta$$ برساند.

4- تابع زیان لگاریتم کسینوس هذلولوی (Log-Cosh)

یکی دیگر از توابع زیان که بخصوص در رگرسیون به کار می‌رود، زیان «کسینوس هذلولی» (Logarithm of Hyperbolic Cosine) است که آن را به اختصار Log-Cosh نیز می‌گویند. برای محاسبه آن کافی است از کسینوس هذلولوی اختلاف یا خطای بین مقدار پیش‌بینی و واقعی متغیر پاسخ، لگاریتم بگیریم. شیوه محاسبه در زیر دیده می‌شود.

$$\large L_{log-cosh} (y,\widehat{y})=\sum_{i=1}^n \log(\cosh(y-\widehat{y}))$$

نمودار این تابع زیان برای مقدارهای مختلف پیش‌بینی در تصویر زیر دیده می‌شود. در اینجا فرض شده که مقدار واقعی برای متغیر پاسخ برابر است با صفر.

log cosh loss function

مزایای استفاده از تابع زیان Log-Cosh

می‌دانیم برای مقدارهای کوچک x تابع $$log(cosh(x))$$ تقریبا با $$\tfrac{X^2}{2}$$ و برای مقدارهای بزرگ x تقریبا با $$|x|-log(2)$$ برابر است. بنابراین این تابع زیان، تحت تاثیر داده‌های پرت قرار نمی‌گیرد و از طرف دیگر مشتق دوم آن نیز وجود دارد. وجود مشتق دوم، از مزایای این تابع زیان است که در تابع زیان هوبر از آن محروم بودیم.

در بسیاری از الگوریتم‌های پیاده‌سازی شده برای محاسبات بیشنیه‌سازی تابع درستنمایی، مانند کنابخانه XGBoost در پایتون، از روش بهینه‌سازی نیوتن استفاده می‌شود. در این روش‌ها، محاسبه ماتریس مشتقات دوم که به آن ماتریس «هسین» یا «هشین» (Hessian) نیز می‌گویند، اهمیت پیدا می‌کند.

بنابراین استفاده از تابع زیان Log-Cosh، هم ما را از مزایای تابع زیان هوبر بهرمند می‌سازد و هم استفاده از روش‌هایی که برای بهینه‌سازی احتیاج به مشتق دوم دارند را میسر می‌سازد.

در کتابخانه XGBoost که در پایتون وجود دارد، تابع هدف (Obj) برای دسترسی به کمینه تابع درستنمایی به صورت زیر نوشته شده است:

$$\large Obj^{(t)}=\sum_{i=1}^n[L_{_{Log-Cosh}}(y_i,\widehat{y}_i^{(t-1)}) +g_if_t(x_i)+\frac{1}{2}h_if_i^2(x_i)]+\Omega(f_t)+Constant$$

باید دقت داشت که منظور از $$g_i$$ و $$h_i$$ محاسباتی هستند که برحسب مشتق دوم انجام می‌شوند.

$$\large g_i=\partial_{\widehat{y}i^{(t-1)}}L_{_{log-cosh}}(\widehat{y_i}^{(t-1)},y_i)\\\large h_i=\partial^2_{\widehat{y}i^{(t-1)}}L_{_{log-cosh}}(\widehat{y_i}^{(t-1)},y_i)$$

کد پایتون مربوط محاسبه تابع زیان هوبر و Log-Cosh در زیر نوشته شده است. توابع به کار رفته با استفاده از کتابخانه XGBoost در دسترس قرار می‌گیرد.

با توجه به خصوصیاتی که تابع زیان Log-Cosh دارد باز هم نمی‌توان آن را به عنوان تابع زیان کامل در نظر گرفت. مشخص است که برای خطاها یا فاصله‌های زیاد بین مقدار پیش‌بینی و واقعی، مشتق و ماتریس هسین به راحتی قابل محاسبه نیستند.

5- تابع زیان چندکی (Quantile Loss)

در بیشتر مسائل مدل‌سازی با داده‌های واقعی، احتیاج به تعیین قطعیت با عدم قطعیت در پیش‌بینی‌ها داریم. دانستن دامنه تغییرات برای مقدارهای پیش‌بینی شده قطعا در تصمیمات مربوط به مسائل دنیای واقعی، اهمیت زیادی دارد.

استفاده از تابع زیان چندکی، این خاصیت را دارد که به جای مشخص کردن یک مقدار به عنوان پیش‌بینی، یک فاصله برای متغیر پاسخ ارائه می‌کند. به این ترتیب می‌توان روش‌های قبلی را به عنوان برآوردگرهای نقطه‌ای و روش تابع زیان چندکی را به عنوان یک روش برآوردگر فاصله‌ای در نظر گرفت.

در روش‌های رگرسیونی، برآورد فاصله‌ای براساس مربعات خطا با فرض ثابت بودن واریانس متغیر پاسخ در سطوح مختلف متغیرهای مستقل، انجام می‌شود. به بیان دیگر میزان خطا $$(y-\widehat{y})$$ دارای واریانس ثابت است. اگر درستی این شرط در مدل رگرسیون احراز نشود، از مدل بدست آمده، نمی‌توان برای پیش‌بینی صحیح و با دقت مقدارهای متغیر پاسخ استفاده کرد و در عمل، مدل مناسبی به دست نیامده است.

در تصویر زیر تفاوت بین حالتی که متغیر پاسخ دارای واریانس ثابت یا متغیر باشد به خوبی دیده می‌شود.

constant and non-constant variance of response variable

در مقام مقایسه با مدل‌های غیرخطی در چنین حالتی، ممکن است کارایی چنین مدل‌های از مدل خطی بسیار بهتر باشد. بنابراین وجود چنین شرطی از مهمترین شرط‌های سنجش صحت مدل رگرسیونی است. در تصویر زیر خط رگرسیونی که برای دو حالت متفاوت از نظر ثابت یا متغیر بودن واریانس ایجاد شده با رنگ نارنجی دیده می‌شود. مشخص است هر چه واریانس افزایش می‌یابد، مقدار پیش‌بینی شده با واقعی تفاوت بیشتری پیدا می‌کند و در عمل برآورد متغیر پاسخ با چنین مدلی مناسب نخواهد بود.

constant and non-constant variance of errors and regression line

رگرسیون چندکی می‌تواند راه حلی برای رفع چنین مشکلی باشد. بنابراین اگر شرط ثابت بودن واریانس یا نرمال بودن باقی‌مانده‌ها (خطاها) در روش‌های رگرسیونی محقق نشود،‌ استفاده از رگرسیون چندکی مفید است.

در رگرسیون چندکی به جای برآورد یک خط به عنوان مقدار پیش‌بینی، از یک فاصله به عنوان برآورد فاصله‌ای استفاده می‌شود. بنابراین نتیجه اجرای رگرسیونی چندکی برای یک سری داده‌ فرضی می‌تواند به صورت زیر باشد.

Quantile regression

برای دسترسی به کدهای پایتون مربوط به محاسبات رگرسیون چندکی می‌توانید به این لینک (+) مراجعه کنید.

شناخت تابع زیان چندکی

رگرسیون برمبنای چندک‌ها، امکان برآورد چندک‌های متغیر پاسخ را به شرط بعضی از مقدارهای متغیرهای مستقل (پیشگو) فراهم می‌سازد. به تعبیر دیگر می‌توان تابع زیان چندکی را به عنوان نسخه توسعه یافته تابع زیان MAE در نظر گرفت. زیرا می‌دانیم که میانه، همان صدک ۵۰ ام است.

ایده اصلی در این تابع زیان، انتخاب مقداری برای از چندک‌ها است که برمبنای آن‌ها مقدار خطا، مثبت یا منفی می‌شود. تابع خطا چندکی، به خطاهایی که حاصل بیش‌برآورد و یا کم‌برآورد، هستند جریمه‌های (Penalty) مختلفی برحسب مقدار ($$\gamma$$) نسبت می‌دهد. برای مثال اگر تابع زیان چندکی با جریمه $$\gamma=0.25$$، به کار رود، جریمه‌های بزرگتری برای بیش‌برآورد در نظر گرفته می‌شود و مقدارهای بیش‌بینی اکثرا کمتر از میانه خواهند بود.

رابطه مربوط به محاسبه تابع زیان چندکی به صورت زیر است:

$$\large L_{\gamma}(y,\widehat{y})=\sum_{i\in \{i;y_i<\widehat{y}\}}(1-\gamma)|y_i-\widehat{y_i}|+\sum_{i\in \{i;y_i\geq \widehat{y}_i\}} (\gamma)|y_i-\widehat{y_i}|$$

مشخص است که اگر $$\gamma$$ برابر با 0.25 باشد عبارت $$1-\gamma$$ برابر با 0.75 است، در نتیجه وزن مربوط به بیش‌برآوردها $$(y_i <\widehat{y}_i)$$ زیاد خواهد شد. در مقابل وزن مربوط به کم‌برآوردها کاهش خواهد یافت. از آنجایی که هدف کمینه‌سازی تابع زیان است، مقدارهای متغیر پاسخ به مقدارهای کمتر از میانه تمایل پیدا خواهند کرد.

نکته: مقدار $$\gamma$$ برای محاسبه تابع زیان چندکی لازم است. این مقدار در بین ۰ تا 1 تغییر می‌کند. همانطور که دیده می‌شود این تابع زیان، به شکل میانگین وزنی محدب از خطاهای مثبت و منفی نوشته شده است.

نمودار زیر مقایسه تابع زیان چندکی را برای مقدارهای مختلف $$\gamma$$ نشان می‌دهد. مشخص است که با افزایش این مقدار، شیب این تابع برای خطاهای منفی (کم‌برازش) افزایش یافته و برای خطاهای مثبت (بیش‌برازش) کاهش می‌یابد.

quantile loss

از این تابع زیان همچنین برای محاسبه فاصله‌های پیش‌بینی در شبکه عصبی و مدل‌های درخت تصمیم استفاده می‌شود. در مثال زیر، پیاده‌سازی مدل‌ رگرسیونی «درخت تقویت شده توسط گرادیان» (Gradient Boosted Tree) با استفاده از کتابخانه SKlearn انجام شده است.

Interval regression with Quantile loss function

در تصویر بالا برای تابع $$xsin(x)$$، پیش‌بینی فاصله‌ای ۹۰ درصدی براساس تابع زیان چندکی انجام شده است. کران بالا براساس $$\gamma=0.95$$ و کران پایین با $$\gamma=0.05$$ محاسبه شده است. کد پایتون برای به ترسیم این نمودار در زیر دیده می‌شود:

ناحیه‌هایی که با رنگ آبی در نمودار مشخص شده‌اند، حدود اطمینان برای متغیر پاسخ براساس رگرسیون چندکی هستند. خطوط قرمز نیز مقدار پیش‌بینی توسط رگرسیون ساده را نشان می‌دهند. نقطه‌چین‌ها نیز مقدار تابع اصلی را ترسیم کرده‌اند. نقاط توپری که با رنگ آبی تیره در نمودار قرار دارند همان مشاهدات هستند که توسط اضافه کردن مقدار تابع با خطای تصادفی در شبیه‌سازی تولید شده‌اند.

تابع اصلی در این کد مربوط به GradientBoostingRegressor است که محاسبات پیش‌بینی برای متغیر وابسته را براساس مشاهدات و رگرسیون چندکی انجام می‌دهد. در این دستور به کمک پارامتر $$loss=’quantile’$$ تابع زیان چندکی برای برآورد انتخاب شده است. همینطور از آنجایی که پارامتر alpha برابر با 0.95 است، در محاسبات مربوط به رگرسیون چندکی مقدار $$\gamma=0.95$$ در نظر گرفته شده.

مقایسه توابع زیان و بررسی نهایی

اگر می‌خواهید نمودار مربوط به هر یک از توابع زیان را با یکدیگر مقایسه کنید، تصویر زیر کمک مناسبی است.

combined plot for loss functions

مقایسه توابع زیان در حالت‌های مختلف در لینک (+) به خوبی توضیح داده شده است. ولی در ادامه برای مقایسه بین تابع زیان‌هایی که در بالا به آن‌ها اشاره شد، به بررسی تابع $$sinc(x)$$ می‌پردازیم. به این ترتیب براساس داده‌های شبیه‌سازی شده روی این تابع، پیش‌بینی مقدار تابع را به کمک توابع زیان یاد شده انجام می دهیم. این تابع در حقیقت با رابطه $$\frac{sin(x)}{x}$$ محاسبه می‌شود. در شبیه‌سازی، به این تابع دو گونه نوفه (Noise) اضافه شده است. ابتدا نوفه با توزیع نرمال با میانگین صفر و واریانس $$\sigma^2$$ اضافه شده ($$\epsilon \sim N(0,\sigma^2)$$) سپس نوفه دیگری با توزیع برنولی با پارامتر p با آن جمع شده‌ است ($$\xi \sim B(p)$$).

در تصاویر زیر نتایج مربوط به خطای رگرسیون ماشین تقویت شده با گرادیان (Gradient Boosted Machine) یا GBM به ازاء توابع زیان مختلف ترسیم شده است.

Comparing Loss functions Comparing Loss functions تصویرهای A و B نمودار مربوط به تابع زیان MSE و MAE را نشان می‌دهند. تصویر C نیز تابع زیان هوبر با پارامترهای $$\delta= 0.25,0.5,1$$ را نمایش می‌دهد. تصویر D نیز مربوط به تابع زیان چندکی است که به ازای مقدارهای $$\gamma = 0.5, 0.75 , 0.95$$ ترسیم شده.

Comparing Loss functions

در تصویر E نیز نمودار تابع Sinc دیده می‌شود. همچنین نقاط روی نمودار، مربوط به نوفه‌هایی است که به این تابع اضافه شده است. این نقاط کل مشاهدات را تشکیل می‌دهند.

Comparing Loss functions

در تصویرهای F تا H با استفاده از روش GBM مقدارهای متغیر پاسخ،‌ پیش‌بینی و نمایش داده شده‌ و در تصویر F نیز کار نتایج مربوط به پیش‌بینی مقدار متغیر پاسخ با استفاده از تابع زیان MSE و MAE محاسبه و ترسیم شده است. در تصویرهای G و H نیز به ترتیب براساس تابع زیان هوبر و تابع زیان چندکی عمل پیش‌بینی صورت گرفته و نمودارهای مربوطه نمایش داده شده‌اند.

نکته: لازم به ذکر است که پارامترها در نمودار G برابر با $$\delta=\{1,2,4\}$$ در نمودار H نیز برابر با $$\gamma=\{0.9,0.1,0.5\}$$ هستند.

نتایج حاصل از شبیه‌سازی

با توجه به نمودارها می‌توان به نتایج زیر رسید:

  • با مشاهده نمودار F، دیده می‌شود که نتایج پیش‌بینی براساس تابع زیان MAE بهتر از MSE‌ هستند و کمتر نسبت به نوفه‌های اعمال شده تحت تاثیر قرار گرفته‌اند. در حالیکه استفاده از تابع زیان MSE باعث شده کمی اریبی (Bias) در نتایج بوجود آید.
  • مقایسه نمودارهای ترسیم شده در تصویر G، نشان می‌دهد که تغییر پارامتر تابع زیان هوبر تاثیر کمی در بهبود پیش‌بینی‌ها دارد.
  • در تصویر H، برآورد فاصله‌ای مناسبی براساس سطح اطمینان مورد نظر صورت گرفته است. با انتخاب مقدار 0.5 برای $$\gamma$$ (البته در نمودار با علامت $$\alpha$$ مشخص شده است) منحنی ترسیم شده با تابع sinc بیشتر از بقیه مقادیر، مطابقت دارد.

^^

بر اساس رای 1 نفر

آیا این مطلب برای شما مفید بود؟

نظر شما چیست؟

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *