این پایان‌نامه به بررسی چگونگی استفاده از یادگیری ماشین برای بهبود تصمیم‌گیری در شرایط عدم‌قطعیت می‌پردازد. امروزه با افزایش چشمگیر دسترسی به داده‌ها، مدل‌های یادگیری ماشین می‌توانند پارامترهای مورد نیاز مدل‌های بهینه‌سازی را تخمین بزنند و به تصمیم‌گیری آگاهانه‌تر و دقیق‌تر کمک کنند. در حوزه‌های گوناگونی از جمله پیش‌بینی بازده سهام برای بهینه‌سازی سبد سرمایه‌گذاری، پیش‌بینی تقاضا برای قیمت‌گذاری خرده‌فروشی، پیش‌بینی تأخیرها برای کاهش هزینه‌های عملیاتی و تخمین شرایط عرضه برای بهبود استراتژی‌های مسیریابی، از این مدل‌ها استفاده می‌شود. با این حال، داده‌های در دسترس اغلب ناقص هستند و شامل نویز، سوگیری یا پوشش محدود می‌باشند. مدل‌های یادگیری ماشینی که بر روی چنین داده‌هایی آموزش می‌بینند، به‌طور ذاتی این عدم‌قطعیت را منتشر می‌کنند و در نتیجه تصمیم‌های مبتنی بر آن‌ها ممکن است در عمل غیرقابل اعتماد باشند. در همین حال، بهینه‌سازی مقاوم به‌عنوان یک چارچوب قدرتمند و قابل حل برای وارد کردن عدم‌قطعیت به‌طور مستقیم در مسائل بهینه‌سازی ظهور کرده است. به جای تکیه بر تخمین‌های دقیق پارامترها، بهینه‌سازی مقاوم راه‌حل‌هایی را جستجو می‌کند که در طیفی از مقادیر ممکن، قابل اجرا و مؤثر باقی بمانند و در برابر خطر ناشی از عدم‌قطعیت داده‌محور محافظت کنند. این پایان‌نامه در سه فصل، چارچوب‌های نوینی از بهینه‌سازی مقاوم را پیشنهاد می‌کند که به‌طور صریح این عدم‌قطعیت‌ها را در نظر می‌گیرند و هم به نظریه و هم به عمل می‌پردازند.

فصل دوم یک رویکرد زمان‌بندی مقاوم را برای عملیات بیمارستانی معرفی می‌کند، جایی که مدت زمان بهبودی پس از جراحی نامشخص و دارای توزیع چوله به راست است. تخت‌های بیمارستانی یک منبع گران‌قیمت و حیاتی هستند، زیرا بیماران برای بهبودی پس از جراحی به آن‌ها نیاز دارند و جراحی‌ها تنها زمانی قابل زمان‌بندی هستند که تخت خالی موجود باشد. بنابراین، کاهش حداکثر اشغال تخت‌ها به بیمارستان ظرفیت و انعطاف‌پذیری بیشتری در زمان‌بندی جراحی‌ها می‌دهد و می‌تواند روزانه هزاران دلار صرفه‌جویی به همراه داشته باشد. روش ارائه‌شده توزیع زیربنایی مدت اقامت بیماران را با در نظر گرفتن نوع جراحی آن‌ها مدل‌سازی می‌کند و نیازی به ویژگی‌های دقیق در سطح بیمار ندارد. این موضوع اهمیت دارد زیرا در بسیاری از موارد، داده‌های دقیق بیمار در دسترس نیستند. رویکرد پیشنهادی یک مجموعه عدم‌قطعیت احتمالی جدید را معرفی می‌کند که توزیع‌های چوله به راست مدت اقامت را به‌طور مؤثر ثبت می‌کند. این مجموعه برخلاف روش‌های کلاسیک که بر میانگین و انحراف معیار تمرکز دارند، از تابع قابلیت اطمینان و اطلاعات توزیعی کامل بهره می‌برد و بنابراین محافظه‌کاری بیش از حد را کاهش می‌دهد.

نتایج تجربی در مؤسسه استخوان و مفصل بیمارستان هارتفورد، یکی از بیمارستان‌های پیشرو ارتوپدی در ایالت کنتیکت، نشان می‌دهد که این روش می‌تواند حداکثر اشغال ماهانه تخت‌ها را تا ۱۴.۸ درصد کاهش دهد، بدون آنکه نیازی به تغییر روزهای کاری جراحان باشد. این بیمارستان دارای ده اتاق عمل، پنجاه و نه تخت بستری خصوصی و خدمات توان‌بخشی پیشرفته است و صدها جراحی در ماه در آن انجام می‌شود. زمان‌بندی بهینه برای این مسئله در عرض چند دقیقه تولید می‌شود که نشان‌دهنده کارایی محاسباتی بالای روش است. این دستاورد در مقایسه با روش‌های کلاسیک بهینه‌سازی مقاوم مانند مجموعه‌های عدم‌قطعیت کره‌ای، جعبه‌ای و نرم یک و همچنین رویکردهای قطعی و بهینه‌سازی مقاوم توزیعی، عملکرد بهتری ارائه می‌کند. رویکرد قطعی که فرض می‌کند مدت اقامت هر بیمار برابر با میانگین تاریخی است، تنها یک تخت بیمارستانی صرفه‌جویی می‌کند. مجموعه‌های عدم‌قطعیت کلاسیک نیز به دلیل نادیده گرفتن ماهیت چوله به راست توزیع مدت اقامت، عملکرد ضعیفی دارند. در مقابل، مجموعه احتمالی پیشنهادی با ثبت اطلاعات کامل توزیعی، به کاهش قابل توجه حداکثر اشغال تخت دست می‌یابد.

فصل دوم همچنین تعمیم مجموعه عدم‌قطعیت پیشنهادی را برای طیف گسترده‌تری از کاربردها ارائه می‌دهد و شرایط لازم برای اعتبارسنجی آن را بررسی می‌کند. این شرایط شامل غیرنزولی بودن تابع محدودیت نسبت به پارامتر نامشخص، استقلال پارامترهای نامشخص و لگاریتمی-مقعر بودن توزیع آن‌ها است. نشان داده می‌شود که وقتی تابع محدودیت مقعر باشد و توزیع‌ها لگاریتمی-مقعر باشند، مجموعه عدم‌قطعیت محدب است و می‌توان از دوگانگی فنچل برای یافتن یک همتای مقاوم صریح استفاده کرد که به‌طور کارا قابل حل است. بسیاری از توزیع‌های رایج از جمله توزیع یکنواخت، نرمال، نمایی، لجستیک و خی-دو دارای تابع قابلیت اطمینان لگاریتمی-مقعر هستند. علاوه بر این، یک رویکرد داده‌محور برای حل محدودیت با استفاده از مجموعه احتمالی پیشنهادی ارائه می‌شود. نشان داده می‌شود که حل مسئله بهینه‌سازی با استفاده از مجموعه داده‌محور به حل همان مسئله با توزیع‌های دقیق همگرا می‌شود و نرخ همگرایی آن از مرتبه ریشه دوم معکوس تعداد نمونه‌ها است. این نتیجه تضمین می‌کند که استفاده از داده‌های محدود به از دست رفتن تضمین‌های نظری منجر نمی‌شود. همچنین الگوریتم صفحات برش برای حل مسئله با توزیع‌های معلوم ارائه می‌شود که همگرایی آن با فرض لیپ‌شیتز پیوسته بودن تابع محدودیت و کراندار بودن مجموعه متغیرهای تصمیم تضمین شده است.

فصل دوم با ارائه تضمین‌های نظری برای مجموعه عدم‌قطعیت احتمالی به پایان می‌رسد. یک ویژگی کلیدی این مجموعه آن است که می‌توان احتمال قرار گرفتن پارامتر نامشخص در مجموعه را به‌طور مستقیم به‌عنوان تابعی از پارامتر آن کمّی‌سازی کرد. این ویژگی پیامد مهمی دارد: اگر همان مجموعه عدم‌قطعیت احتمالی برای دو مسئله با تعداد یکسان پارامترهای نامشخص اعمال شود، اساساً همان تعداد حالت‌ها پوشش داده می‌شود، صرف‌نظر از توزیع‌های زیربنایی پارامترهای تصادفی. در مقابل، برای مجموعه‌های عدم‌قطعیت کلاسیک، مقدار پارامترهای آن‌ها باید برای دستیابی به همان نتیجه تنظیم شود. قضیه اول نشان می‌دهد که احتمال قرار گرفتن پارامتر نامشخص در مجموعه با یک فرمول بسته دقیق قابل محاسبه است که به توزیع ارلانگ مربوط می‌شود. این کران نقض ضعیف، احتمال نقض محدودیت را برای مسئله‌ای که با مجموعه عدم‌قطعیت پیشنهادی حل شده است، کران‌دار می‌کند. قضیه دوم یک کران برای میانگین نقض ارائه می‌دهد که در حالت خطی و با فرض لگاریتمی-مقعر بودن توزیع‌ها به دست می‌آید. این کران تیز است به این معنا که وقتی همه پارامترها از توزیع نمایی پیروی کنند، به تساوی می‌رسد.

فصل سوم یک روش عمومی برای ساخت مجموعه‌های عدم‌قطعیت مبتنی بر توابع زیان مدل‌های یادگیری ماشین ارائه می‌دهد. در بسیاری از مسائل بهینه‌سازی، پارامترهایی مانند هزینه، تقاضا یا مدت زمان با استفاده از مدل‌های یادگیری ماشین تخمین زده می‌شوند. یک رویکرد رایج نادیده گرفتن عدم‌قطعیت و استفاده از پیش‌بینی‌ها به‌عنوان حقیقت مطلق است که به آن «پیش‌بینی سپس بهینه‌سازی» می‌گویند. این رویکرد عدم‌قطعیت اطراف پیش‌بینی‌ها را در نظر نمی‌گیرد و می‌تواند منجر به تصمیم‌های نادرست شود. رویکرد دیگر تمرکز بر بهینه‌سازی مقدار مورد انتظار تابع هدف است، اما وقتی به محدودیت‌های نامشخص اعمال شود، اغلب کار نمی‌کند زیرا ارضای یک محدودیت بحرانی به‌طور مورد انتظار ممکن است به احتمال بالای نقض منجر شود. برای رفع این مشکل، از بهینه‌سازی مقاوم برای محافظت از محدودیت در برابر عدم‌قطعیت خروجی مدل یادگیری ماشین استفاده می‌شود. ایده اصلی این است که یک مجموعه عدم‌قطعیت بر اساس تابع زیان مدل طراحی شود، زیرا تابع زیان به‌طور طبیعی عدم‌قطعیت مرتبط با یک پیش‌بینی را منعکس می‌کند: زیان بالا نشان‌دهنده عدم‌قطعیت بیشتر و زیان پایین نشان‌دهنده اطمینان بالاتر است.

این مجموعه عدم‌قطعیت جدید این امکان را فراهم می‌کند که در برابر تمام تحقق‌های پارامتر نامشخص که در محدوده زیان قابل تحمل از پیش‌بینی مدل قرار دارند، محافظت شود. یک مزیت این مجموعه آن است که می‌تواند به‌صورت آماده در هر زمان که مدل‌ساز بخواهد در برابر عدم‌قطعیت خروجی یک مدل یادگیری ماشین محافظت کند، به کار گرفته شود. این روش نیازی به آموزش مدل اختصاصی یا دسترسی به مجموعه اعتبارسنجی ندارد، هرچند برای دستیابی به تضمین‌های احتمالی، وجود مجموعه اعتبارسنجی لازم است. نشان داده می‌شود که وقتی تابع زیان آنتروپی متقاطع باشد، مجموعه عدم‌قطعیت پیشنهادی با مجموعه عدم‌قطعیت مبتنی بر واگرایی کولبک-لایبلر از ادبیات بهینه‌سازی مقاوم توزیعی منطبق است. همچنین وقتی تابع زیان هیج باشد، مجموعه پیشنهادی با مجموعه عدم‌قطعیت مبتنی بر واگرایی فاصله تغییرات منطبق می‌شود. در حالت رگرسیون، وقتی از زیان مربع خطا استفاده شود، مجموعه پیشنهادی با مجموعه عدم‌قطعیت بیضوی با شعاع مشخص منطبق می‌شود. این ارتباطات نشان می‌دهد که رویکرد پیشنهادی یک تعمیم طبیعی از مجموعه‌های عدم‌قطعیت کلاسیک به زمینه بهینه‌سازی مقاوم وابسته به متغیرهای کمکی است.

فصل سوم همچنین به مسئله ناهمگونی واریانس در رگرسیون می‌پردازد. در بسیاری از کاربردها، واریانس عدم‌قطعیت حول پیش‌بینی ثابت نیست و به مقادیر متغیرهای کمکی بستگی دارد. برای در نظر گرفتن این موضوع، مدلی با دو خروجی آموزش داده می‌شود: مقدار پیش‌بینی‌شده و واریانس حول آن پیش‌بینی. تابع زیان مورد استفاده شامل جمله‌ای برای خطای مربع نرمال‌شده با واریانس پیش‌بینی‌شده و جمله‌ای برای لگاریتم واریانس است. مجموعه عدم‌قطعیت حاصل تقریباً مشابه مجموعه عدم‌قطعیت بیضوی کلاسیک است، با این تفاوت که میانگین و واریانس تخمینی با مقادیر پیش‌بینی‌شده هر دو کمیت جایگزین می‌شوند. حل محدودیت با استفاده از این مجموعه به همان اندازه مجموعه بیضوی کلاسیک قابل حل است. این رویکرد به‌طور خاص برای شبکه‌های عصبی توسعه یافته است، اما توابع زیان آن را می‌توان برای سایر مدل‌های یادگیری ماشین مانند درخت‌های رگرسیون نیز بهینه کرد.

فصل سوم با ارائه تضمین‌های احتمالی قوی برای مجموعه‌های عدم‌قطعیت پیشنهادی به پایان می‌رسد. یک قضیه عمومی نشان می‌دهد که اگر به مقادیر مستقل و همتوزیع زیان دسترسی داشته باشیم، احتمال اینکه یک تحقق جدید زیان از آماره مرتبه مشخصی فراتر رود، کران‌دار است. این نتیجه پیامد عملی مهمی دارد: با تنظیم شعاع مجموعه عدم‌قطعیت بر اساس چندک تجربی زیان، می‌توان تضمین کرد که هر تصمیمی که محدودیت مقاوم را برآورده کند، با احتمال حداکثر یک سطح مشخص، محدودیت را نقض نخواهد کرد. این کران تیز است زیرا به محض پیوسته بودن توزیع زیان، به تساوی تبدیل می‌شود. علاوه بر این، چون آموزش مدل یادگیری ماشین با هدف کمینه‌سازی زیان انجام می‌شود، شعاع مجموعه عدم‌قطعیت با کاهش خطاهای مدل کوچک‌تر می‌شود. این بدان معناست که هرچه کیفیت مدل بالاتر باشد، شعاع لازم برای دستیابی به سطح مطلوب احتمال نقض کوچک‌تر است. برای حالت خاص رگرسیون با زیان مربع خطا، تضمین‌های بهبودیافته‌ای ارائه می‌شود که ساختار تابع محدودیت را در نظر می‌گیرد و کران‌هایی با نرخ کاهش نمایی به دست می‌دهد.

آزمایش‌های محاسباتی در فصل سوم شامل سه مسئله کلاسیک بهینه‌سازی است: مسئله روزنامه‌فروش، بهینه‌سازی سبد سرمایه‌گذاری و مسئله کوتاه‌ترین مسیر. در مسئله روزنامه‌فروش، مدل‌ساز به داده‌های تقاضای گذشته و متغیرهای کمکی برای پیش‌بینی احتمال وقوع هر سناریو دسترسی دارد. نتایج نشان می‌دهد که روش پیشنهادی مبتنی بر یادگیری ماشین در تمام سطوح نویز و تضمین، مقادیر هدف و پشیمانی کمتری نسبت به روش واگرایی فی-دایورجنس دارد. با کاهش سطح نویز، بهره اطلاعاتی نسبی مدل افزایش می‌یابد که به کاهش بیشتر مقادیر هدف و پشیمانی منجر می‌شود. این یافته نشان می‌دهد که رویکرد پیشنهادی زمانی بیشترین مزیت را دارد که پیش‌بینی‌های یادگیری ماشین سیگنال قوی‌تری ارائه دهند. در مسئله بهینه‌سازی سبد سرمایه‌گذاری، شعاع مجموعه‌های عدم‌قطعیت مبتنی بر یادگیری ماشین با کاهش نویز کوچک‌تر می‌شود و در بسیاری از موارد یک مرتبه بزرگی کوچک‌تر از مجموعه بیضوی کلاسیک است. با افزایش نویز ناهمگون، مجموعه مبتنی بر پیش‌بینی واریانس بهتر عمل می‌کند و با افزایش داده‌های آموزشی، عملکرد هر دو روش بهبود می‌یابد. در مسئله کوتاه‌ترین مسیر نیز نتایج مشابهی مشاهده می‌شود که نشان‌دهنده تعمیم‌پذیری رویکرد است.

فصل چهارم به کاربرد بهینه‌سازی مقاوم در حوزه سیستم‌های توصیه‌گر می‌پردازد، جایی که داده‌های تعامل کاربران و اقلام اغلب دارای نویز یا دستکاری‌های خصمانه هستند. یک فرض اصلی در سیستم‌های توصیه‌گر این است که داده‌های آموزشی ترجیحات واقعی کاربران را به‌درستی منعکس می‌کنند، در حالی که در عمل این داده‌ها ممکن است ناقص، مغرضانه یا حتی دستکاری‌شده باشند. در بسیاری از موارد، تعاملات مثبت مانند کلیک کاربران یا خرید اقلام بیشتر در دسترس هستند، در حالی که تعاملات منفی که اغلب از مکمل تعاملات مثبت استنتاج می‌شوند، ممکن است نادرست باشند. این فرض رایج در ادبیات سیستم‌های توصیه‌گر، اساس تابع زیان رتبه‌بندی شخصی‌سازی‌شده بیزی را تشکیل می‌دهد که فرض می‌کند اگر یک قلم توسط کاربر مشاهده شده باشد، آن کاربر آن قلم را به همه اقلام مشاهده‌نشده ترجیح می‌دهد. با این حال، وقتی فهرست محصولات بسیار زیاد است، این فرض ممکن است همیشه درست نباشد زیرا کاربر ممکن است از همه گزینه‌های ممکن آگاه نباشد و برخی اقلام دیده‌نشده ممکن است در واقع ترجیح داده شوند. علاوه بر این، حتی ترجیحات آشکارشده از طریق تعاملات مثبت ممکن است از عدم‌دقت ناشی از نویز طبیعی مانند کلیک‌های اشتباه یا اقدام به نمایندگی از شخص ثالث رنج ببرند. سیستم‌های توصیه‌گر همچنین در برابر حملات خصمانه آسیب‌پذیر هستند، جایی که چند کاربر تزریق‌شده که از کاربران دیگر قابل تشخیص نیستند، می‌توانند اقلام هدفمند را به‌طور مصنوعی محبوب یا غیرمحبوب کنند.

برای مقابله با این عدم‌قطعیت‌ها، یک رویکرد بهینه‌سازی مقاوم پیشنهاد می‌شود که تابع زیان آموزش سیستم توصیه‌گر را اصلاح می‌کند تا در برابر نادرستی‌های بدترین حالت در داده‌های ترجیح کاربران محافظت کند. ایده اصلی این است که یک متغیر دودویی برای هر داده آموزشی معرفی شود که نشان دهد آیا ترجیح معکوس شده است یا خیر. از آنجا که نمی‌دانیم کدام داده‌ها نادرست هستند، باید در برابر هر ترکیبی از نادرستی‌ها تا یک تعداد مشخص محافظت کنیم. این به یک مسئله کمینه‌سازی بدترین حالت منجر می‌شود که در نگاه اول به دلیل جستجوی نمایی در فضای داده‌ها غیرقابل حل به نظر می‌رسد. با این حال، با استفاده از دوگانگی قوی، می‌توان تابع زیان مقاوم را به یک مسئله کمینه‌سازی نامقید بازنویسی کرد که تنها با اضافه کردن یک پارامتر قابل آموزش قابل حل است. این پارامتر را می‌توان همزمان با سایر پارامترهای مدل در طول گرادیان کاهشی بهینه کرد. همچنین می‌توان مقدار بهینه این پارامتر را به‌طور دقیق بر اساس چندک تجربی تفاوت زیان‌ها محاسبه کرد که می‌تواند به‌عنوان مقدار شروع گرم استفاده شود. این رویکرد به‌طور همزمان در برابر نویز طبیعی و خصمانه محافظت می‌کند و تأثیر آن بر زمان اجرا ناچیز است.

آزمایش‌های محاسباتی در فصل چهارم شامل مجموعه‌داده‌های مصنوعی و مجموعه‌داده‌های معیار مانند MovieLens-100k و Last.fm است. سه مدل توصیه‌گر محبوب بررسی می‌شوند: تجزیه ماتریسی، فیلترینگ مشارکتی عصبی و مدل‌های دو برجی. برای هر مدل، سه تابع زیان مختلف شامل خطای مربع میانگین، آنتروپی متقاطع دودویی و رتبه‌بندی شخصی‌سازی‌شده بیزی آزمایش می‌شوند. نتایج نشان می‌دهد که ترکیب تابع زیان مقاوم با تنظیم L2 به بالاترین بهبودها در هر دو معیار نرخ بازدید و سود تجمعی نرمال‌شده در همه مدل‌ها منجر می‌شود. بهبودها برای فیلترینگ مشارکتی عصبی و مدل‌های دو برجی بیشتر از تجزیه ماتریسی است که با این واقعیت همخوانی دارد که مدل‌های پیچیده‌تر که بیشتر مستعد بیش‌برازش هستند، از تنظیم‌سازی بیشترین بهره را می‌برند. به‌طور میانگین، تابع زیان مقاوم همراه با تنظیم L2 نرخ بازدید را ۱۵.۶ درصد بهبود می‌بخشد، در مقایسه با ۱۰.۴ درصد وقتی فقط از تنظیم L2 استفاده شود، و سود تجمعی نرمال‌شده را ۲۴.۴ درصد بهبود می‌دهد، در مقایسه با ۱۶.۶ درصد برای تنظیم L2 تنها.

آزمایش‌های زمان اجرا نشان می‌دهد که آموزش مدل‌ها با تابع زیان مقاوم به‌طور میانگین تنها ۱.۸ درصد بیشتر از آموزش با تابع زیان اسمی زمان می‌برد. این موضوع فرضیه پژوهش را تأیید می‌کند که اضافه کردن یک پارامتر قابل آموزش تأثیر قابل توجهی بر زمان آموزش سیستم‌های توصیه‌گر ندارد. علاوه بر این، آزمایش‌های حساسیت رتبه‌بندی نشان می‌دهد که مدل‌های آموزش‌دیده با تابع زیان مقاوم، حساسیت کمتری نسبت به اختلالات کوچک در داده‌های آموزشی دارند. با مقایسه ترتیب توصیه‌ها برای هر کاربر قبل و بعد از اختلال در داده‌های آموزشی، مشخص می‌شود که شباهت جاکارد ده‌تایی برتر تا ۴۱.۴ درصد و شباهت مبتنی بر رتبه تا ۳۸.۹ درصد بهبود می‌یابد. این یافته‌ها نشان می‌دهد که با در نظر گرفتن احتمال معکوس شدن ترجیحات کاربران، رویکرد مقاوم می‌تواند تأثیر اختلالات را بر رتبه‌بندی ارائه‌شده به کاربران کاهش دهد. در مجموع، فصل چهارم نشان می‌دهد که تابع زیان مقاوم پیشنهادی می‌تواند به‌طور همزمان با نویز طبیعی و خصمانه مقابله کند و عملکرد سیستم‌های توصیه‌گر را بدون سرباز اضافی محاسباتی بهبود بخشد.

در نتیجه‌گیری کلی، این پایان‌نامه نشان می‌دهد که چگونه بهینه‌سازی مقاوم می‌تواند تصمیم‌گیری را با در نظر گرفتن عدم‌قطعیت ذاتی داده‌ها و پیش‌بینی‌های مدل‌های یادگیری ماشین بهبود بخشد. فصل دوم با تمرکز بر زمان‌بندی بیمارستانی نشان می‌دهد که طراحی مجموعه‌های عدم‌قطعیت متناسب با ساختار توزیعی داده‌ها می‌تواند به صرفه‌جویی قابل توجه در منابع منجر شود. فصل سوم با ارائه مجموعه‌های عدم‌قطعیت مبتنی بر توابع زیان یادگیری ماشین، پلی بین دو حوزه یادگیری ماشین و بهینه‌سازی مقاوم ایجاد می‌کند و تضمین‌های احتمالی قوی برای ارضای محدودیت‌ها فراهم می‌آورد. فصل چهارم با اصلاح تابع زیان سیستم‌های توصیه‌گر، نشان می‌دهد که رویکردهای مقاوم می‌توانند به‌طور مؤثر با نویز طبیعی و خصمانه مقابله کنند و رتبه‌بندی‌های پایدارتری ارائه دهند. در هر سه فصل، علاوه بر مشارکت‌های نظری، شواهد تجربی قوی از کاربردپذیری روش‌های پیشنهادی در مسائل واقعی ارائه شده است. این پژوهش مسیرهایی را برای توسعه تضمین‌های احتمالی قوی‌تر برای طیف گسترده‌تری از توابع زیان، گسترش به سایر مسائل بهینه‌سازی کلاسیک و کاربرد در حوزه‌های جدید مانند مراقبت‌های بهداشتی، مالی و تجارت الکترونیک پیشنهاد می‌کند.

وقتی بیمارستان‌ها با ریاضیات نفس راحت‌تر می‌کشند: سفری به دنیای بهینه‌سازی مقاوم

تصور کنید مدیر یک بیمارستان بزرگ هستید. هر روز صبح با یک معما روبه‌رو می‌شوید: چند بیمار را باید برای جراحی بپذیرید تا تخت‌های بیمارستان نه خالی بمانند و نه سرریز شوند؟ اگر تعداد زیادی بیمار را بپذیرید، ممکن است تخت کافی برای بهبودی آن‌ها نداشته باشید و مجبور شوید بیماران اورژانسی را به بیمارستان دیگری منتقل کنید. اگر تعداد کمی را بپذیرید، تخت‌های گران‌قیمت خالی می‌مانند و بیمارستان متضرر می‌شود. این معما زمانی پیچیده‌تر می‌شود که بدانیم مدت اقامت هر بیمار پس از جراحی اصلاً مشخص نیست. یک بیمار ممکن است دو روز بستری شود و دیگری دو هفته. این عدم‌قطعیت، تصمیم‌گیری را به یک بازی خطرناک تبدیل می‌کند. اما اگر به شما بگویم ریاضیات می‌تواند این بازی را به نفع بیمارستان تمام کند، چه می‌گویید؟

۱. تخت‌های بیمارستانی: گران‌ترین منبعی که فکر می‌کنید

تخت بیمارستانی فقط یک تخت نیست. یک منبع گران‌قیمت است که روزانه هزاران دلار هزینه دارد. در بیمارستان استخوان و مفصل هارتفورد، یکی از بیمارستان‌های پیشرو ارتوپدی در ایالت کنتیکت، ده اتاق عمل و پنجاه و نه تخت بستری خصوصی وجود دارد. صدها جراحی در ماه انجام می‌شود و هر جراحی نیازمند یک تخت برای بهبودی پس از عمل است. حالا تصور کنید حداکثر تعداد تخت‌های اشغال‌شده در یک ماه چقدر می‌تواند کاهش یابد اگر زمان‌بندی جراحی‌ها هوشمندانه‌تر انجام شود.

پژوهشگران نشان داده‌اند که با یک رویکرد ریاضی به نام بهینه‌سازی مقاوم احتمالی می‌توان حداکثر اشغال ماهانه تخت‌ها را تا ۱۴.۸ درصد کاهش داد. این عدد در نگاه اول شاید کوچک به نظر برسد، اما در مقیاس یک بیمارستان بزرگ، به معنای آزادسازی چندین تخت در روز است. تخت‌هایی که می‌توانند برای بیماران اورژانسی، جراحی‌های غیرمنتظره یا حتی کاهش لیست انتظار استفاده شوند. جالب اینجاست که این کاهش بدون تغییر در روزهای کاری جراحان به دست آمده است. یعنی نیازی نیست هیچ جراحی برنامه کاری خود را عوض کند.

روش‌های کلاسیک بهینه‌سازی مقاوم که برای سال‌ها در صنایع مختلف استفاده شده‌اند، در این مسئله عملکرد ضعیفی دارند. چرا؟ زیرا آن‌ها فرض می‌کنند که مدت اقامت بیماران حول یک میانگین با توزیع متقارن پخش شده است. اما واقعیت این است که توزیع مدت اقامت بیماران چوله به راست است. یعنی بیشتر بیماران مدت کوتاهی می‌مانند، اما تعداد کمی از بیماران مدت بسیار طولانی‌تری بستری می‌شوند. این دم بلند توزیع، همان چیزی است که روش‌های کلاسیک را به اشتباه می‌اندازد.

«اگر ما به سادگی از میانگین مدت اقامت استفاده کنیم، تنها یک تخت بیمارستانی صرفه‌جویی می‌شود. اما وقتی توزیع کامل مدت اقامت را در نظر بگیریم، داستان کاملاً تغییر می‌کند.»

۲. از داده تا تصمیم: وقتی یادگیری ماشین به کمک بهینه‌سازی می‌آید

در دنیای امروز، داده‌ها همه‌جا هستند. اما داده خام به تنهایی ارزشی ندارد. ارزش واقعی داده‌ها زمانی آشکار می‌شود که بتوانیم از آن‌ها برای پیش‌بینی استفاده کنیم. مدل‌های یادگیری ماشین این کار را انجام می‌دهند. آن‌ها می‌توانند تقاضای آینده را پیش‌بینی کنند، بازده سهام را تخمین بزنند یا مدت اقامت بیماران را حدس بزنند. اما این پیش‌بینی‌ها همیشه با عدم‌قطعیت همراه هستند. یک مدل یادگیری ماشین ممکن است بگوید احتمال اینکه یک بیمار پنج روز بستری شود، هفتاد درصد است. اما آن سی درصد باقی‌مانده چه می‌شود؟

پژوهشگران یک مجموعه عدم‌قطعیت جدید طراحی کرده‌اند که بر اساس تابع زیان مدل یادگیری ماشین ساخته می‌شود. تابع زیان معیاری است که کیفیت پیش‌بینی مدل را اندازه‌گیری می‌کند. هرچه زیان کمتر باشد، مدل مطمئن‌تر است. ایده اصلی این است که از خود تابع زیان به عنوان معیاری برای عدم‌قطعیت استفاده کنیم. اگر مدل زیان بالایی داشته باشد، یعنی عدم‌قطعیت زیادی وجود دارد و باید محتاط‌تر عمل کنیم. اگر زیان پایین باشد، می‌توانیم به پیش‌بینی اعتماد بیشتری کنیم.

نکته شگفت‌انگیز این است که این مجموعه عدم‌قطعیت جدید، شعاعی تا یک مرتبه بزرگی کوچک‌تر از روش‌های سنتی دارد. یعنی می‌تواند همان سطح از تضمین‌های احتمالی را با محافظه‌کاری بسیار کمتر ارائه دهد. در عمل، این به معنای تصمیم‌هایی است که هم ایمن‌تر هستند و هم کارآمدتر. نه بیش از حد محتاطانه که فرصت‌ها را از دست بدهیم و نه بیش از حد جسورانه که ریسک شکست را بپذیریم.

«تضمین‌های احتمالی به ما می‌گویند که با چه احتمالی یک محدودیت نقض خواهد شد. این تضمین‌ها ابزار قدرتمندی برای تصمیم‌گیری در شرایط عدم‌قطعیت هستند.»

۳. سیستم‌های توصیه‌گر: وقتی نویز همه‌جا را فرا می‌گیرد

همه ما با سیستم‌های توصیه‌گر سر و کار داریم. وقتی در یک فروشگاه اینترنتی جستجو می‌کنید، وقتی در یک پلتفرم پخش ویدیو فیلم تماشا می‌کنید، وقتی در یک شبکه اجتماعی پست‌ها را مرور می‌کنید، یک الگوریتم پشت صحنه تلاش می‌کند چیزهایی را به شما نشان دهد که احتمالاً دوست خواهید داشت. اما این الگوریتم‌ها بر اساس داده‌های تاریخی آموزش می‌بینند. داده‌هایی که همیشه دقیق نیستند.

یک فرض اصلی در سیستم‌های توصیه‌گر این است که اگر یک کاربر روی یک محصول کلیک کرده یا آن را خریداری کرده، پس آن محصول را دوست دارد. اما این فرض همیشه درست نیست. ممکن است کاربر اشتباهی کلیک کرده باشد. ممکن است محصول را برای شخص دیگری خریده باشد. ممکن است از محصول راضی نبوده اما شکایتی ثبت نکرده باشد. حتی بدتر، ممکن است کاربران مخربی وجود داشته باشند که عمداً الگوریتم را فریب دهند تا محصولات خاصی را محبوب یا غیرمحبوب نشان دهند.

پژوهشگران یک تابع زیان مقاوم طراحی کرده‌اند که در برابر این نویزها محافظت می‌کند. ایده ساده است: به جای اینکه فرض کنیم همه برچسب‌ها درست هستند، فرض می‌کنیم که ممکن است بخشی از آن‌ها معکوس شده باشند. سپس مدل را طوری آموزش می‌دهیم که در بدترین حالت ممکن هم عملکرد قابل قبولی داشته باشد. جالب اینجاست که این کار تنها با اضافه کردن یک پارامتر قابل آموزش به مدل انجام می‌شود. یعنی زمان آموزش تقریباً تغییری نمی‌کند.

نتایج نشان می‌دهد که این رویکرد مقاوم، نرخ بازدید و سود تجمعی نرمال‌شده را به طور پیوسته بهبود می‌بخشد. به‌طور میانگین، نرخ بازدید ۱۵.۶ درصد و سود تجمعی نرمال‌شده ۲۴.۴ درصد بهبود می‌یابد. علاوه بر این، رتبه‌بندی‌های ارائه‌شده به کاربران کمتر تحت تأثیر اختلالات کوچک در داده‌های آموزشی قرار می‌گیرند. این یعنی سیستم توصیه‌گر پایدارتر و قابل اعتمادتر است.

«حتی یک اختلال کوچک در داده‌های آموزشی می‌تواند رتبه‌بندی توصیه‌ها را به طور قابل توجهی تغییر دهد. رویکرد مقاوم این حساسیت را کاهش می‌دهد.»

۴. چرا این پژوهش مهم است؟

شاید بپرسید چرا این موضوعات اینقدر مهم هستند. پاسخ ساده است: زیرا ما در دنیایی زندگی می‌کنیم که در آن تصمیم‌های مبتنی بر داده همه‌جا حضور دارند. از بیمارستان‌ها که باید تصمیم بگیرند چه بیمارانی را بپذیرند، تا پلتفرم‌های آنلاین که باید تصمیم بگیرند چه محتوایی را به کاربران نشان دهند. اگر این تصمیم‌ها بر اساس داده‌های ناقص و پیش‌بینی‌های نامطمئن گرفته شوند، می‌توانند به نتایج فاجعه‌باری منجر شوند.

بیمارستانی که تخت کافی برای بیماران اورژانسی ندارد، ممکن است جان انسان‌ها را به خطر بیندازد. پلتفرمی که توصیه‌های نادرست ارائه می‌دهد، ممکن است کاربران خود را از دست بدهد. سرمایه‌گذاری که بر اساس پیش‌بینی‌های نادرست انجام شود، ممکن است میلیون‌ها دلار ضرر کند. بهینه‌سازی مقاوم ابزاری است که به ما کمک می‌کند در دنیای پر از عدم‌قطعیت، تصمیم‌های بهتر و ایمن‌تری بگیریم.

این پژوهش نشان می‌دهد که چگونه می‌توان از ریاضیات برای حل مسائل واقعی استفاده کرد. از بیمارستان‌ها تا سیستم‌های توصیه‌گر، از زمان‌بندی جراحی‌ها تا پیش‌بینی تقاضا. در هر سه فصل این پایان‌نامه، ایده اصلی یکسان است: به جای نادیده گرفتن عدم‌قطعیت، آن را بپذیریم و برایش برنامه‌ریزی کنیم. این رویکرد نه تنها به تصمیم‌های بهتر منجر می‌شود، بلکه به ما کمک می‌کند منابع محدود را بهینه‌تر استفاده کنیم.

شاید مهم‌ترین درس این پژوهش این باشد: عدم‌قطعیت دشمن نیست. می‌توان آن را دوست خود کرد. با درک درست آن و طراحی ابزارهای مناسب، می‌توان از عدم‌قطعیت به عنوان یک فرصت برای بهبود تصمیم‌ها استفاده کرد. این همان چیزی است که بهینه‌سازی مقاوم به ما می‌آموزد.