امروزه فناوری تشخیص چهره به یکی از پرکاربردترین ابزارهای هوش مصنوعی در زندگی روزمره تبدیل شده است. از باز کردن قفل گوشی همراه گرفته تا کنترل تردد در فرودگاه‌ها، بررسی هویت متقاضیان وام و حتی نظارت پلیسی، این سیستم‌ها نقش فزاینده‌ای در تصمیم‌گیری‌های مهم ایفا می‌کنند. با این حال، پژوهش‌های متعدد در سال‌های اخیر نشان داده‌اند که این الگوریتم‌ها اغلب نسبت به گروه‌های خاصی از مردم، عملکرد ضعیف‌تری دارند. این مسئله زمانی بحرانی‌تر می‌شود که بدانیم چنین سیستم‌هایی در حوزه‌های حساسی مانند قضاوت کیفری، استخدام و کنترل مرزها به کار گرفته می‌شوند و خطای آنها می‌تواند به بازداشت اشتباه، از دست دادن فرصت شغلی یا محرومیت از خدمات اساسی منجر شود. بنابراین، نیاز به روش‌هایی دقیق و علمی برای سنجش و کاهش این نابرابری‌ها، به یک اولویت جدی در حوزه هوش مصنوعی تبدیل شده است.

پژوهش حاضر با درک همین ضرورت، یک روش‌شناسی کاملاً نوین برای اندازه‌گیری کمّی سوگیری در سیستم‌های تشخیص چهره ارائه می‌دهد. برخلاف رویکردهای پیشین که معمولاً به دقت کلی الگوریتم اکتفا می‌کردند، این روش به بررسی عملکرد سیستم در مواجهه با طبقات مختلف جمعیتی (مانند گروه‌های رنگین‌پوست یا جنسیت‌های مختلف) می‌پردازد و نابرابری میان آنها را محاسبه می‌کند. ویژگی برجسته این رویکرد، «مبتنی بر سوژه» بودن آن است؛ به این معنا که به جای ارزیابی تک‌تک تصاویر، عملکرد الگوریتم را برای هر فرد به طور جداگانه مدل کرده و سپس نتایج را در هر طبقه جمع‌بندی می‌کند. این کار باعث می‌شود تا تأثیر عواملی مانند کیفیت تصویر، زاویه یا نورپردازی بر روی قضاوت نهایی به حداقل برسد و تصویر واقعی‌تری از عملکرد الگوریتم به دست آید.

معیار آماری پیشنهادی در این پایان‌نامه، «فاصله‌ی مبتنی بر واریانس» نام دارد و بدون نیاز به دسترسی به کد منبع یا معماری داخلی الگوریتم، صرفاً با استفاده از خروجی‌های آن (نمرات شباهت) قابل محاسبه است. این معیار با استفاده از روش بوت‌استرپ و شبیه‌سازی هزاران بار تکرار، منحنی نرخ پذیرش صحیح (True Accept Rate) را برای هر طبقه رسم کرده و سپس فاصله میان عملکرد هر طبقه با عملکرد کلی سیستم را اندازه‌گیری می‌کند. از آنجا که این معیار پیوسته، مشتق‌پذیر و یکنوا است، می‌تواند مستقیماً در فرآیند آموزش الگوریتم‌ها به عنوان تابع هزینه (Loss Function) به کار رود و به توسعه‌دهندگان امکان دهد تا سوگیری را در حین طراحی اصلاح کنند. همچنین این روش برای تصاویر «در طبیعت» (In the Wild) طراحی شده است؛ یعنی تصاویری که در شرایط واقعی و غیرمحدود گرفته شده‌اند و دارای پیچیدگی‌های طبیعی مانند تغییرات نور، زاویه، پس‌زمینه و حالت چهره هستند.

برای آزمودن کارایی این روش، پژوهشگر اقدام به ارزیابی سیزده الگوریتم تجاری تشخیص چهره از دو ارائه‌دهنده بزرگ فناوری یعنی مایکروسافت (با نسخه‌های مختلف از سال ۲۰۱۷ تا ۲۰۲۱) و آمازون (سرویس Rekognition) کرده است. این ارزیابی بر روی مجموعه‌داده معتبر IARPA Janus Benchmark C (IJB‑C) انجام شده که شامل بیش از ۱۱ هزار تصویر از بیش از ۱۲۰۰ فرد با تنوع نژادی و جنسیتی است. برای هر تصویر، برچسب‌های دقیقی بر اساس شش طبقه رنگین‌پوست (از صورتی روشن تا قهوه‌ای تیره) و دو طبقه ظاهر جنسیتی (مردانه و زنانه) وجود دارد. در مجموع، بیش از ۱۴ هزار مقایسه دوتایی (یک‌به‌یک) برای هر الگوریتم انجام شده و نتایج به دقت ثبت و تحلیل گردیده است. این حجم گسترده از داده‌ها و تنوع الگوریتم‌ها، امکان مقایسه‌ای جامع و قابل اعتماد را فراهم آورده است.

یافته‌های این پژوهش حاوی نتایج هشداردهنده و در عین حال امیدوارکننده است. از یک سو، داده‌ها نشان می‌دهند که افراد با پوست تیره به طور میانگین تا ۷٫۲ برابر بیشتر از افراد با پوست روشن در معرض خطای تشخیص قرار می‌گیرند. این نابرابری در تمامی سیزده الگوریتم بررسی‌شده مشاهده شده و در برخی از آنها به شدت چشمگیر است. همچنین در تمامی الگوریتم‌ها، عملکرد سیستم برای افرادی که ظاهر زنانه دارند، به طور قابل‌توجهی ضعیف‌تر از افراد با ظاهر مردانه بوده است. این یافته‌ها نشان می‌دهد که سوگیری، یک نقص فنی محدود به یک شرکت خاص نیست، بلکه مسئله‌ای ساختاری و گسترده در صنعت تشخیص چهره محسوب می‌شود که ریشه در داده‌های آموزشی نامتوازن و طراحی الگوریتم‌ها دارد. از سوی دیگر، این پژوهش نشان داد که جدیدترین نسخه از الگوریتم مایکروسافت (منتشرشده در سال ۲۰۲۱) موفق شده است سوگیری نژادی را به طور آماری حذف کند، هرچند سوگیری جنسیتی در همان نسخه نیز همچنان باقی مانده است.

یکی از جذاب‌ترین بخش‌های این تحقیق، بررسی «تاریخچه سوگیری» در نسخه‌های متوالی یک الگوریتم است. پژوهشگر با مقایسه نسخه‌های مختلف مایکروسافت در سال‌های ۲۰۱۷، ۲۰۱۹، ۲۰۲۰ و ۲۰۲۱ نشان داده است که بهبودهای اعمال‌شده برای افزایش دقت در شرایط خاص (مانند تصاویر کوچک، تار یا دارای ماسک صورت) گاه به طور ناخواسته باعث تشدید سوگیری در ابعاد دیگر شده است. به عنوان مثال، بهبود سال ۲۰۱۹ که برای تشخیص چهره‌های کوچک و از زاویه طراحی شده بود، سوگیری جنسیتی را به طرز چشمگیری کاهش داد اما در همان زمان سوگیری نژادی را افزایش داد. این مشاهدات نشان می‌دهد که کاهش سوگیری یک فرآیند خطی و ساده نیست و نیاز به پایش دقیق و همه‌جانبه در طول زمان دارد. همچنین این یافته‌ها اهمیت «ساخت عمومی» یا شفاف‌سازی عمومی فرآیند توسعه را برجسته می‌کند؛ بدین معنا که شرکت‌ها می‌توانند با انتشار منظم نتایج ممیزی سوگیری، بدون افشای اسرار تجاری خود، اعتماد عمومی را جلب کنند و به مشتریان بالقوه امکان ارزیابی تعهد خود به عدالت را بدهند.

از منظر فلسفی و حقوقی، این پژوهش دیدگاهی مبتنی بر «تأثیر متفاوت» (Disparate Impact) را اتخاذ کرده است که برگرفته از قوانین ضدتبعیض در ایالات متحده است. بر اساس این دیدگاه، حتی یک سیاست به ظاهر خنثی (مانند یک الگوریتم که به همه افراد یکسان اعمال می‌شود) اگر به طور نظام‌مند به گروه‌های خاصی آسیب بیشتری برساند، مصداق تبعیض محسوب می‌شود، حتی اگر قصد تبعیض‌آمیز در کار نباشد. پژوهشگر با تأکید بر اینکه تشخیص چهره نوعی «طبقه‌بندی اجتماعی» است، به این نکته اشاره می‌کند که مقوله‌هایی مانند نژاد و جنسیت، برساخته‌های اجتماعی هستند و نحوه تعریف و اندازه‌گیری آنها خود می‌تواند منبع دیگری از سوگیری باشد. به همین دلیل، این پایان‌نامه عمداً از تعیین اینکه کدام ویژگی‌های انسانی باید «محمی» تلقی شوند، خودداری کرده و این مسئولیت را به سیاست‌گذاران محلی و توسعه‌دهندگان واگذار می‌کند، زیرا آنها آگاهی بیشتری از بافت اجتماعی و پیامدهای بالقوه دارند.

در نهایت، این پژوهش با ارائه معیاری عملی، کمّی و بدون نیاز به دسترسی به جزئیات فنی الگوریتم، گامی مؤثر در جهت شفاف‌سازی و پاسخگویی در حوزه هوش مصنوعی برداشته است. روش پیشنهادی به توسعه‌دهندگان امکان می‌دهد تا سوگیری را در طول چرخه عمر الگوریتم (از طراحی و آموزش تا پیاده‌سازی و نگهداری) پایش کنند. همچنین به خریداران و ناظران سیستم‌های تشخیص چهره اجازه می‌دهد تا عملکرد عادلانه‌ی الگوریتم را قبل از خرید یا نصب ارزیابی کنند. این تحقیق تأکید می‌کند که هوش مصنوعی ذاتاً بی‌طرف نیست و می‌تواند تبعیض‌های موجود در داده‌های آموزشی، طراحی دوربین‌ها یا حتی فرهنگ عکاسی را بازتولید و تشدید کند. بنابراین، ساختن سیستمی که برای همه افراد جامعه، بدون در نظر گرفتن رنگ پوست یا ظاهر جنسیتی، به یک اندازه کارآمد باشد، نیازمند تعهد مستمر، شفافیت و ابزارهای سنجش دقیقی است که این پایان‌نامه نمونه‌ای از آنها را ارائه داده است. امید می‌رود که این روش‌شناسی بتواند به عنوان مبنایی برای پژوهش‌های آینده در زمینه عدالت الگوریتمی و کاهش سوگیری در سیستم‌های هوش مصنوعی به کار گرفته شود و به ساخت فناوری‌ای منصفانه‌تر و پاسخ‌گوتر کمک کند.

وقتی هوش مصنوعی به رنگ پوست نگاه میکند: چرا الگوریتم‌های تشخیص چهره شما را قضاوت می‌کنند

تصور کنید برای خرید یک بلیت هواپیما، چند ثانیه جلوی دوربین می‌ایستید و یک الگوریتم تصمیم می‌گیرد که شما چه کسی هستید. حالا تصور کنید که این الگوریتم، بسته به رنگ پوست یا جنسیت شما، عملکردش متفاوت باشد. دقیقاً همین اتفاق در بسیاری از سیستم‌های تشخیص چهره امروزی می‌افتد و این پایان‌نامه با روشی هوشمندانه، پرده از این راز برداشته است.

⚡ سوگیری پنهان در پشت پرده الگوریتم‌ها

سیستم‌های تشخیص چهره به ظاهر بی‌طرف، در عمل اغلب افراد با پوست تیره را با دقت کمتری شناسایی می‌کنند. این پایان‌نامه نشان می‌دهد که این نابرابری تا ۷٫۲ برابر بیشتر از افراد با پوست روشن است. یعنی اگر شما پوست تیره‌تری داشته باشید، احتمال اینکه سیستم شما را نشناسد، هفت برابر بیشتر است.

📊 روشی نوین برای اندازه‌گیری ناعادلانی

پژوهشگر با ابداع یک معیار آماری به نام «فاصله مبتنی بر واریانس»، راهکاری ارائه داده که بدون نیاز به دسترسی به کد داخلی الگوریتم، صرفاً از روی خروجی‌های آن، میزان سوگیری را محاسبه می‌کند. این روش به توسعه‌دهندگان امکان می‌دهد در حین طراحی، الگوریتم را اصلاح کنند و به ناظران اجازه می‌دهد عملکرد سیستم را شفاف بسنجند.

🔄 سیر تحول یک الگوریتم: از نابرابری تا عدالت

بررسی نسخه‌های مختلف یک الگوریتم تجاری نشان داد که بهبودهای فنی (مانند تشخیص چهره‌های کوچک یا دارای ماسک) گاه ناخواسته سوگیری را تشدید کرده‌اند. با این حال، جدیدترین نسخه موفق شده سوگیری نژادی را حذف کند، هرچند سوگیری جنسیتی همچنان باقی است. این نشان می‌دهد که کاهش سوگیری یک فرآیند مستمر و نیازمند پایش دائمی است.

💡 چرا این یافته برای شما مهم است؟

سیستم‌های تشخیص چهره امروز در تصمیم‌گیری‌های سرنوشت‌سازی مانند استخدام، تأیید هویت بانکی، کنترل مرزها و حتی قضاوت کیفری نقش دارند. خطای آنها می‌تواند به بازداشت اشتباه، رد درخواست وام یا محرومیت از خدمات اساسی منجر شود. این پژوهش نشان می‌دهد که عدالت در هوش مصنوعی نه یک انتخاب اخلاقی، بلکه یک ضرورت فنی است که نیازمند ابزارهای دقیق اندازه‌گیری است.

به قول یکی از پژوهشگران برجسته این حوزه: الگوریتم‌ها همانقدر بی‌طرف هستند که داده‌های آموزشی آنها بی‌طرفانه باشد و این پایان‌نامه ثابت کرده که با روش‌های علمی می‌توان این نابرابری را شناسایی و اصلاح کرد.