خلاصه جامع پایان‌نامه

یادگیری فدرال به عنوان یک پارادایم نوین در حوزه هوش مصنوعی، این امکان را فراهم می‌آورد که مدل‌های یادگیری ماشین بدون نیاز به جمع‌آوری داده‌های خام در یک مکان متمرکز، به صورت مشارکتی و توزیع‌شده آموزش ببینند. در این رویکرد، داده‌ها روی دستگاه‌ها یا سازمان‌های محلی باقی می‌مانند و تنها به‌روزرسانی‌های مدل میان طرفین رد و بدل می‌شود. این ویژگی، یادگیری فدرال را به گزینه‌ای جذاب برای حوزه‌هایی مانند سلامت، مالی و اینترنت اشیا تبدیل کرده است، جایی که داده‌ها حساس، پراکنده و تحت محدودیت‌های قانونی هستند. با این حال، پیاده‌سازی واقعی این روش با چالش‌های جدی روبه‌روست؛ از جمله ناهمگونی داده‌ها میان گره‌ها، کمبود داده در هر گره، محدودیت منابع محاسباتی و ارتباطی، و افزایش سطح حمله برای مهاجمان. این پایان‌نامه به طور مشخص بر مسئله کمبود داده در محیط‌های فدرال تمرکز دارد و راهکارهایی برای بهبود عملکرد، امنیت و انطباق با مقررات ارائه می‌کند. هدف اصلی، طراحی چارچوب‌هایی است که بتوانند در شرایطی که هر گره تنها بخش کوچک و نامتوازنی از داده‌ها را در اختیار دارد، مدلی با کیفیت بالا و تعمیم‌پذیری مناسب تولید کنند، بدون آنکه تحت تأثیر بیش از حد ویژگی‌های محلی و ناهمگون قرار گیرند.

در هسته روش‌شناختی این پژوهش، دو سازوکار الهام‌گرفته از زیست‌شناسی به نام‌های «تکامل دانش» و «فراموشی لایه‌های پسین» معرفی شده‌اند که در چارچوب یادگیری فدرال ادغام می‌شوند. تکامل دانش بر پایه فرضیه بلیت برنده بنا شده است؛ فرضیه‌ای که می‌گوید شبکه‌های عصبی بزرگ حاوی زیرشبکه‌های کوچک و کارآمدی هستند که اگر به درستی آموزش ببینند، می‌توانند عملکردی برابر یا بهتر از شبکه کامل داشته باشند. تکامل دانش با هرس تدریجی و بازآموزی، این زیرشبکه‌های برنده را شناسایی و تقویت می‌کند. فراموشی لایه‌های پسین نیز با تکیه بر همین ایده، تنها لایه‌های عمیق‌تر شبکه را که مسئول ویژگی‌های خاص و وابسته به وظیفه هستند، هدف قرار می‌دهد و لایه‌های اولیه را که ویژگی‌های عمومی و قابل انتقال را استخراج می‌کنند، دست‌نخورده نگه می‌دارد. این دو روش به جای یک مدل یکسان برای همه، به هر گره اجازه می‌دهند تا زیرشبکه محلی خود را تکامل بخشد و تنها مؤلفه‌های عمومی‌تر و پایدارتر را به مدل جهانی کمک کند. این رویکرد، نوعی شخصی‌سازی تکاملی را در محیط فدرال ممکن می‌سازد که ضمن حفظ همکاری جهانی، به تفاوت‌های محلی نیز احترام می‌گذارد.

ارزیابی‌های تجربی این پژوهش بر روی چهار مجموعه‌داده تصویری معتبر شامل گل‌ها، پرندگان، صحنه‌های داخلی و نژادهای سگ انجام شده است. این مجموعه‌داده‌ها به دلیل ساختار ریزدانه، تعداد محدود نمونه در هر کلاس و تنوع درون‌کلاسی بالا، شرایطی مشابه با محیط‌های واقعی و محدود از نظر داده را شبیه‌سازی می‌کنند. نتایج نشان می‌دهد که هر دو چارچوب پیشنهادی، یعنی یادگیری فدرال مبتنی بر تکامل دانش و یادگیری فدرال مبتنی بر فراموشی لایه‌های پسین، به طور معناداری عملکرد بهتری نسبت به یادگیری فدرال استاندارد دارند. این بهبود در شرایطی که داده‌ها به شدت ناهمگون و غیر یکنواخت هستند، چشمگیرتر است و گاهی از مرز سی درصد فراتر می‌رود. به ویژه، فراموشی لایه‌های پسین در بیشتر سناریوها بهترین نتیجه را ارائه می‌دهد، زیرا با حفظ ویژگی‌های عمومی در لایه‌های اولیه و بازآفرینی دوره‌ای لایه‌های عمیق‌تر، از بیش‌برازش به داده‌های محلی و ناهمگون جلوگیری می‌کند و همگرایی مدل جهانی را تسریع می‌بخشد. همچنین، این روش‌ها در شرایط نزدیک به یکنواخت نیز مزیت خود را حفظ می‌کنند و شکاف میان آموزش فدرال و آموزش متمرکز را کاهش می‌دهند.

فراتر از عملکرد، این پایان‌نامه به تحلیل امنیتی چارچوب‌های پیشنهادی در برابر طیف گسترده‌ای از تهدیدات رایج در یادگیری فدرال می‌پردازد. این تهدیدات شامل حملات مسموم‌سازی داده و مدل، درهای پشتی، حملات استنتاجی و حفظ حریم خصوصی، رفتارهای سواری مجانی و بیزانسی، حملات سیبیل و اختلال در دسترس‌پذیری است. تحلیل نشان می‌دهد که سازوکارهای فراموشی گزینشی به طور ناخواسته و به عنوان یک اثر جانبی مثبت، می‌توانند برخی از این تهدیدات را تضعیف کنند. برای مثال، هرس نوزادهای ناپایدار و کم‌اجماع در تکامل دانش، تأثیر به‌روزرسانی‌های مخرب را در طول نسل‌ها کاهش می‌دهد و درهای پشتی محلی را که به تعداد کمی از گره‌ها وابسته‌اند، تضعیف می‌کند. فراموشی لایه‌های پسین نیز با بازنشانی دوره‌ای پارامترهای عمیق، عمر مفید الگوهای مخرب را کوتاه می‌کند و حافظه مدل از نمونه‌های نادر و خاص را کاهش می‌دهد. این اثرات، به ویژه در برابر حملات فرصت‌طلبانه و غیرهماهنگ، قابل توجه است و هزینه عملیاتی حمله را برای مهاجمان افزایش می‌دهد.

با این حال، تحلیل امنیتی نشان می‌دهد که این روش‌ها در برابر مهاجمان هماهنگ و پیوسته که با هویت‌های جعلی متعدد عمل می‌کنند، آسیب‌پذیر باقی می‌مانند. اگر مهاجمان بتوانند در طول زمان و در میان گره‌های متعدد، سیگنال‌های مخرب خود را پایدار و هماهنگ ارائه دهند، می‌توانند از فیلترهای اجماع تکامل دانش عبور کنند و تأثیر خود را حفظ نمایند. به همین ترتیب، فراموشی لایه‌های پسین نیز نمی‌تواند به طور کامل تأثیر مداوم مهاجمان پیوسته را حذف کند و تنها آن را محدود می‌سازد. بنابراین، این روش‌ها باید در کنار دفاع‌های تکمیلی مانند تجمیع مقاوم، رمزنگاری، حفظ حریم خصوصی تفاضلی، احراز هویت و کنترل‌های مبتنی بر سهام به کار گرفته شوند تا یک چارچوب دفاعی جامع و چندلایه ایجاد شود. همچنین، خطر دیگری وجود دارد که هرس یا فراموشی بیش از حد تهاجمی، منجر به حذف ویژگی‌های مشروع اما نادر کلاس‌های اقلیت شود و سوگیری سیستم را افزایش دهد.

بخش دیگری از این پژوهش به بررسی ابعاد حقوقی و سازمانی استقرار یادگیری فدرال در منطقه خلیج فارس اختصاص دارد. یک نظرسنجی ساختاریافته از ذی‌نفعان مختلف در شش کشور این منطقه انجام شد تا درک فعلی، چالش‌ها و آمادگی سازمان‌ها برای پذیرش این فناوری ارزیابی شود. یافته‌ها نشان می‌دهد که اگرچه قوانین حمایت از داده در این کشورها در حال تکامل هستند و اصولی مانند کمینه‌سازی داده و محدودیت هدف را ترویج می‌کنند، اما شکاف قابل توجهی میان آگاهی از مقررات و اجرای عملی آن وجود دارد. بسیاری از سازمان‌ها از خطرات پیشرفته مانند حملات استنتاجی و درهای پشتی بی‌اطلاع هستند و ابزارها و راهنمایی‌های کافی برای پیاده‌سازی روش‌های حفظ حریم خصوصی در اختیار ندارند. همچنین، آگاهی و پذیرش این فناوری بیشتر در سطوح مدیریتی متمرکز است و سازمان‌های کوچک‌تر و بخش‌های کم‌شدت داده‌محور، آمادگی کمتری برای انطباق با الزامات پیچیده نشان می‌دهند.

تحلیل نظرسنجی نشان می‌دهد که سه عامل اصلی نقش، اندازه و بخش سازمانی، تعیین‌کننده‌های اصلی تفاوت در آگاهی، پذیرش و حاکمیت داده هستند. مدیران ارشد به طور مداوم آگاهی و پذیرش بالاتری نسبت به کارکنان فنی و عملیاتی گزارش می‌کنند. سازمان‌های بزرگ‌تر به دلیل ظرفیت ساختاری بیشتر، احتمال بیشتری برای داشتن سیاست‌های رسمی حفاظت از داده دارند. بخش‌های داده‌محور مانند مالی، سلامت و فناوری نیز در مقایسه با بخش‌های خلاق و کم‌داده، شیوه‌های حاکمیتی پیشرفته‌تری را نشان می‌دهند. با این حال، برخلاف انتظار، آگاهی از یادگیری فدرال و خطرات حملات یادگیری ماشین در میان بخش‌ها تفاوت معناداری نشان نمی‌دهد؛ که این خود نشان‌دهنده آن است که ساختارهای درونی سازمان‌ها بیش از بافت صنعتی، بر آمادگی آن‌ها برای پذیرش فناوری‌های حفظ حریم خصوصی اثر می‌گذارند. این یافته‌ها ضرورت طراحی روش‌هایی را برجسته می‌کند که نه تنها از نظر فنی کارآمد، بلکه از نظر سازمانی قابل اجرا و با محیط‌های نظارتی مختلف سازگار باشند.

در مجموع، این پایان‌نامه نشان می‌دهد که پیشرفت در یادگیری فدرال تنها با بهبود الگوریتم‌ها حاصل نمی‌شود، بلکه نیازمند توجه همزمان به سه بُعد است: عملکرد در شرایط کمبود داده، مقاومت در برابر تهدیدات امنیتی، و انطباق با چارچوب‌های قانونی و واقعیت‌های سازمانی. فراموشی گزینشی به عنوان یک اصل طراحی، پلی میان این ابعاد ایجاد می‌کند؛ زیرا هم به همگرایی و تعمیم‌پذیری مدل کمک می‌کند، هم به طور طبیعی برخی از سطوح حمله را کاهش می‌دهد، و هم با اصول حقوقی مانند کمینه‌سازی داده و محدودیت نگهداری همسو است. آینده این حوزه مستلزم ارزیابی‌های تجربی گسترده‌تر در شرایط واقعی، بنیان‌های نظری قوی‌تر، ادغام با فناوری‌های مکمل حفظ حریم خصوصی، و مطالعات طولی برای درک تحولات سازمانی و قانونی است. در نهایت، یادگیری فدرال باید به عنوان یک نظام اجتماعی-فنی طراحی شود که نه تنها دقیق و مقیاس‌پذیر، بلکه امن، سازگار و آگاه به مقررات باشد تا بتواند وعده خود را به عنوان یک پارادایم قابل اعتماد برای نوآوری داده‌محور و غیرمتمرکز محقق کند و در حوزه‌های حساسی مانند سلامت، مالی و خدمات دولتی، اعتماد و ایمنی لازم را فراهم آورد.

فهرست مطالب

وقتی هوش مصنوعی یاد می‌گیرد که «فراموش کند»: انقلابی خاموش در یادگیری فدرال

تصور کنید چند بیمارستان در گوشه و کنار جهان می‌خواهند با هم یک مدل هوش مصنوعی برای تشخیص بیماری بسازند، اما هیچ‌کدام حاضر نیستند داده‌های بیمارانشان را از سازمان خود بیرون بفرستند. یا بانک‌هایی که می‌خواهند تقلب را شناسایی کنند، ولی قوانین حریم خصوصی اجازه نمی‌دهد تراکنش‌های مشتریان را به اشتراک بگذارند. اینجا دقیقاً همان جایی است که «یادگیری فدرال» وارد می‌شود؛ روشی که به مدل‌ها اجازه می‌دهد بدون جابه‌جایی داده، از آن یاد بگیرند. اما یک مشکل بزرگ وجود دارد: وقتی داده‌ها کم و پراکنده باشند، این مدل‌ها به سختی یاد می‌گیرند و زود بیش‌برازش می‌شوند. حالا تصور کنید همین مدل‌ها بتوانند مثل انسان، چیزهای غیرضروری را فراموش کنند تا روی مفاهیم مهم تمرکز کنند. این دقیقاً همان ایده‌ای است که یک پژوهش تازه آن را به شکلی هوشمندانه وارد دنیای یادگیری فدرال کرده است.

چرا یادگیری فدرال به «فراموش کردن» نیاز دارد؟

در یادگیری فدرال، هر دستگاه یا سازمان داده‌های خودش را دارد و فقط به‌روزرسانی‌های مدل را با دیگران به اشتراک می‌گذارد. این یعنی حریم خصوصی حفظ می‌شود، اما وقتی هر گره داده‌های کمی دارد، مدل جهانی نمی‌تواند به خوبی تعمیم پیدا کند. مثل این می‌ماند که بخواهید از چند تکه پازل پراکنده، تصویر کامل را حدس بزنید. مشکل وقتی بدتر می‌شود که داده‌ها بین گره‌ها نامتوازن و ناهمگون باشند؛ مثلاً یک بیمارستان فقط بیماران قلبی داشته باشد و دیگری فقط بیماران تنفسی.

اینجاست که ایده «فراموشی گزینشی» وارد می‌شود. پژوهشگران دو مکانیزم الهام‌گرفته از مغز انسان را پیشنهاد کرده‌اند: یکی «تکامل دانش» که مثل هرس کردن یک درخت، شاخه‌های ضعیف شبکه عصبی را حذف می‌کند و شاخه‌های قوی را نگه می‌دارد؛ و دیگری «فراموشی لایه‌های پسین» که فقط لایه‌های عمیق و تخصصی مدل را بازنشانی می‌کند تا مدل به داده‌های محلی و ناهمگون وابسته نشود. این دو روش به مدل اجازه می‌دهند به جای انبار کردن همه چیز، فقط چیزهای مهم را به خاطر بسپارد.

«انتظار می‌رود که هر دو روش، یعنی یادگیری فدرال مبتنی بر تکامل دانش و یادگیری فدرال مبتنی بر فراموشی لایه‌های پسین، به طور معناداری عملکرد بهتری نسبت به یادگیری فدرال استاندارد داشته باشند. این بهبود در شرایطی که داده‌ها به شدت ناهمگون هستند، گاهی از مرز سی درصد فراتر می‌رود.»

نکته جالب اینجاست که این «فراموش کردن» فقط به عملکرد بهتر کمک نمی‌کند، بلکه به طور ناخواسته یک سپر امنیتی هم ایجاد می‌کند. وقتی مدل ویژگی‌های ناپایدار و کم‌اهمیت را فراموش می‌کند، در واقع راه نفوذ مهاجمانی که می‌خواهند با داده‌های مسموم یا درهای پشتی، مدل را خراب کنند هم بسته می‌شود. مثل این می‌ماند که یک ویروس را قبل از اینکه در بدن جا خوش کند، شناسایی و دفع کنید.

نگاهی به ابعاد انسانی و حقوقی این فناوری

اما این پایان‌نامه فقط به الگوریتم‌ها و اعداد بسنده نمی‌کند. بخشی از آن به بررسی نظرات واقعی سازمان‌ها در کشورهای حوزه خلیج فارس اختصاص دارد؛ جایی که قوانین حمایت از داده تازه در حال شکل‌گیری است. نتایج یک نظرسنجی از مدیران و کارشناسان نشان می‌دهد که بیشتر آگاهی و پذیرش این فناوری‌ها در سطح مدیران ارشد متمرکز است و کارکنان فنی و سازمان‌های کوچک‌تر، آمادگی کمتری برای پیاده‌سازی آن دارند.

این شکاف فقط یک عدد در جدول نیست؛ یک هشدار واقعی است. اگر فناوری‌های حفظ حریم خصوصی مثل یادگیری فدرال فقط در اتاق‌های مدیریتی درک شوند و به لایه‌های عملیاتی نرسند، در عمل با شکست مواجه می‌شوند. سازمان‌های بزرگ‌تر با سیاست‌های رسمی حفاظت از داده، بهتر می‌توانند این فناوری‌ها را جذب کنند، اما شرکت‌های کوچک و متوسط که ستون فقرات اقتصاد منطقه هستند، ممکن است عقب بمانند.

«یافته‌ها نشان می‌دهد که اگرچه قوانین حمایت از داده در این کشورها در حال تکامل هستند و اصولی مانند کمینه‌سازی داده و محدودیت هدف را ترویج می‌کنند، اما شکاف قابل توجهی میان آگاهی از مقررات و اجرای عملی آن وجود دارد.»

این موضوع از این جهت مهم است که یادگیری فدرال به خودی خود با اصول حقوقی مثل کمینه‌سازی داده همسو است؛ چون داده‌ها جابه‌جا نمی‌شوند. اما اگر سازمان‌ها ندانند چگونه آن را پیاده کنند یا از خطرات پیشرفته مثل حملات استنتاجی بی‌اطلاع باشند، این همسویی نظری به عمل نمی‌رسد. پژوهش حاضر با ترکیب الگوریتم، امنیت و حقوق، دقیقاً همین شکاف را هدف گرفته است.

چرا این پژوهش یک گام رو به جلوست؟

بسیاری از روش‌های قبلی برای بهبود یادگیری فدرال، یا فقط روی عملکرد تمرکز داشتند یا فقط روی امنیت. اما این کار نشان می‌دهد که «فراموشی» می‌تواند همزمان سه کار انجام دهد: مدل را دقیق‌تر کند، آن را در برابر حملات مقاوم‌تر کند، و با الزامات قانونی همسوتر سازد. این یک نگاه چندبُعدی به یک مسئله پیچیده است.

شاید جذاب‌ترین بخش ماجرا این باشد که این ایده از زیست‌شناسی الهام گرفته شده است. مغز انسان هم چیزهایی را فراموش می‌کند تا فضای ذهنی‌اش را برای یادگیری بهتر آزاد کند. حالا هوش مصنوعی هم یاد گرفته که گاهی فراموش کردن، هوشمندانه‌ترین کار است. و این دقیقاً همان چیزی است که یادگیری فدرال در محیط‌های کم‌داده به آن نیاز دارد: نه انبار کردن همه چیز، بلکه نگه داشتن آنچه واقعاً مهم است.