در صنایع نفت و گاز، به‌ویژه در بخش بالادستی که مسئولیت اکتشاف و تولید هیدروکربن‌ها را بر عهده دارد، تصمیم‌گیری‌های فنی در شرایطی انجام می‌شود که هر خطا می‌تواند پیامدهای ایمنی، زیست‌محیطی و اقتصادی جدی به همراه داشته باشد. یکی از حوزه‌های حساس در این بخش، عملیات «گاز بالابر» است؛ روشی مصنوعی برای کمک به استخراج نفت از چاه‌هایی که فشار طبیعی مخزن آنها در طول زمان کاهش یافته و دیگر قادر به بالا آوردن نفت به سطح نیستند. در این روش، گاز به درون چاه تزریق می‌شود تا چگالی ستون سیال کاهش یابد و بالا آمدن نفت آسان‌تر شود. تنظیم دقیق پارامترهایی مانند فشار تزریق گاز، عمق تزریق، نرخ جریان گاز و انتخاب نقطه ورود گاز، نیازمند تجربه، تحلیل داده‌های فنی و درک عمیق از رفتار چاه است. امروزه ابزارهای هوش مصنوعی، به‌ویژه مدل‌های زبانی بزرگ که قادر به درک و تولید زبان طبیعی هستند، به‌عنوان دستیار در چنین تصمیم‌گیری‌هایی به کار می‌روند. اما ارزش واقعی این ابزارها تنها به دقت فنی آنها وابسته نیست؛ بلکه به این بستگی دارد که انسان تا چه حد به توصیه‌های آنها اعتماد کرده و بر اساس آنها عمل می‌کند. اگر اعتماد بیش از حد باشد، ممکن است کاربران توصیه‌های نادرست را بپذیرند و اگر اعتماد ناکافی باشد، ممکن است توصیه‌های درست نادیده گرفته شوند. پژوهش حاضر با تمرکز بر همین پرسش بنیادین، به بررسی عواملی می‌پردازد که بر شکل‌گیری اعتماد کاربران فنی به توصیه‌های هوش مصنوعی در حوزه گاز بالابر تأثیر می‌گذارند و چارچوبی برای طراحی بهتر این تعاملات ارائه می‌دهد.

برای بررسی این موضوع، یک مطالعه تجربی با مشارکت ۱۳۱ نفر از متخصصان و دانشجویان رشته‌های فنی و مهندسی نفت طراحی شد. هر شرکت‌کننده به‌صورت تصادفی به یکی از چهار دستیار هوش مصنوعی با سبک‌های ارتباطی متفاوت اختصاص یافت. این چهار دستیار به‌گونه‌ای طراحی شده بودند که طیفی از رفتارها را پوشش دهند: دستیار نخست دقیق، منطقی، منسجم و قابل‌اعتماد بود و توصیه‌هایش بر اصول مهندسی استوار بود؛ دستیار دوم با اعتماد‌به‌نفس بالا و لحنی قاطع صحبت می‌کرد اما توصیه‌هایش دارای خطاهای فنی و ناایمن بود؛ دستیار سوم محتاط، گفتگومحور و غیرقطعی بود و به‌جای دستور دادن، پیشنهاد و پرسش مطرح می‌کرد؛ و دستیار چهارم متناقض، گیج‌کننده و ناسازگار بود و توصیه‌های متضاد ارائه می‌داد. هر دستیار در قالب پنج گام تشخیصی، توصیه‌هایی برای عیب‌یابی یک چاه گاز بالابر در یک سناریوی واقع‌گرایانه ارائه می‌کرد. شرکت‌کنندگان پس از مطالعه هر گام، میزان اعتماد خود را در مقیاسی پنج‌درجه‌ای از «اصلاً اعتماد ندارم» تا «کاملاً اعتماد دارم» ثبت کرده و دلیل انتخاب خود را به‌صورت متنی توضیح می‌دادند. این طراحی امکان می‌داد تا هم تأثیر سبک ارتباطی هوش مصنوعی و هم نقش سطح تخصص کاربر بر اعتماد سنجیده شود و همچنین دلایل پنهان تصمیم‌گیری کاربران از طریق تحلیل متون آزاد کشف گردد.

نتایج کمی نشان داد که سبک ارتباطی دستیار هوش مصنوعی به‌طور مستقل بر میزان اعتماد کاربران اثر می‌گذارد. دستیاری که دقیق، منسجم و قابل‌پیش‌بینی بود، بالاترین میانگین اعتماد را کسب کرد، در حالی که دستیار متناقض و گیج‌کننده کمترین اعتماد را به خود جلب کرد. این تفاوت از نظر آماری معنادار بود، هرچند اندازه اثر آن متوسط ارزیابی شد. به بیان ساده‌تر، لحن و شیوه بیان توصیه‌ها مهم است، اما به‌تنهایی تعیین‌کننده نیست و عوامل دیگری نیز نقش دارند. همچنین مشخص شد که سطح تخصص کاربران نیز به‌طور مستقل و با اثر قوی‌تری بر اعتماد آنها تأثیر می‌گذارد. برخلاف انتظار اولیه که تصور می‌شد افراد باتجربه‌تر به دلیل دانش عمیق‌تر، انتقادی‌تر و کم‌اعتمادتر باشند، نتایج نشان داد که متخصصان و افراد باتجربه تمایل بیشتری به اعتماد به توصیه‌های هوش مصنوعی نشان دادند، در حالی که کاربران مبتدی یا کم‌تجربه‌تر اعتماد کمتری ابراز کردند. این یافته که به‌عنوان «پارادوکس تخصص» توصیف می‌شود، نشان می‌دهد که آشنایی عمیق با حوزه فنی می‌تواند به درک بهتر قابلیت‌ها و محدودیت‌های ابزارهای هوشمند کمک کند و در نتیجه اعتماد منطقی‌تری شکل گیرد. افراد متخصص احتمالاً بهتر می‌توانند تشخیص دهند که چه زمانی توصیه‌ای قابل‌اعتماد است و چه زمانی باید آن را زیر سؤال ببرند، در حالی که مبتدیان ممکن است به دلیل عدم تسلط کافی، دچار تردید بیشتری شوند.

علاوه بر این، تحلیل‌ها نشان داد که اثر ترکیبی سبک ارتباطی هوش مصنوعی و سطح تخصص کاربر بر اعتماد، از نظر آماری معنادار نیست. به این معنا که تأثیر سبک دستیار بر اعتماد، بسته به سطح تجربه کاربر تغییر نمی‌کند و این دو عامل به‌طور مستقل از یکدیگر عمل می‌کنند. این یافته طراحی سیستم‌های آینده را ساده‌تر می‌کند، زیرا نیازی به تنظیم همزمان و پیچیده دو متغیر نیست، هرچند توجه به هر دو بعد همچنان ضروری است. در بخش دیگری از پژوهش، از شرکت‌کنندگان خواسته شد تا درباره ویژگی‌های کلی مؤثر بر اعتماد به هوش مصنوعی نظر دهند. تحلیل پاسخ‌ها نشان داد که سه ویژگی بیش از همه با اعتماد بالاتر مرتبط هستند: نخست، شفافیت و وضوح توضیحات و استدلال‌های ارائه‌شده؛ دوم، ارائه منابع و ارجاعات قابل‌بررسی که کاربر بتواند صحت آنها را تأیید کند؛ و سوم، اعلام میزان اطمینان یا احتمال صحت توصیه. در مقابل، لحن دوستانه و استفاده از زبان محتاطانه و غیرقطعی که گمان می‌رفت اعتماد را افزایش دهد، کمترین اهمیت را از نظر کاربران داشتند. این یافته نشان می‌دهد که کاربران فنی بیش از آنکه به دنبال رابطه‌ای صمیمی با هوش مصنوعی باشند، به دنبال شواهد، دقت و شفافیت هستند.

تحلیل متون آزاد که توسط شرکت‌کنندگان نوشته شده بود، تصویری عمیق‌تر از فرایند تصمیم‌گیری آنها ارائه کرد. هفت درون‌مایه اصلی شناسایی شد که مهم‌ترین آنها عبارت بودند از: دقت فنی، وضوح ارتباط، کامل بودن اطلاعات، قابلیت اجرای عملی، توجه به ایمنی و ریسک، دانش تخصصی، و کفایت اطلاعات. کاربران باتجربه‌تر بیشتر بر دقت فنی، کامل بودن اطلاعات و پیامدهای ایمنی تمرکز داشتند، در حالی که کاربران کم‌تجربه‌تر بر وضوح توضیحات و کفایت اطلاعات تأکید می‌کردند. این تفاوت نشان می‌دهد که یک سبک ارتباطی یکسان برای همه کاربران مناسب نیست و سیستم‌های هوش مصنوعی باید بتوانند خود را با سطح تخصص کاربر تطبیق دهند. همچنین تحلیل احساسات نشان داد که بخش قابل‌توجهی از پاسخ‌ها中性 بودند و احساسات شدید منفی بسیار کم بود، که نشان‌دهنده تعامل سازنده و محتاطانه کاربران با این ابزارهاست. نکته جالب دیگر اینکه دستیاری که با اعتماد‌به‌نفس بالا اما نادرست طراحی شده بود، در برخی موارد احساسات مثبت‌تری برانگیخت، که نشان می‌دهد لحن قاطع می‌تواند برخی کاربران را فریب دهد و آنها را به پذیرش توصیه‌های نادرست ترغیب کند.

بر پایه این یافته‌ها، پژوهش یک چارچوب مفهومی برای بازطراحی تعامل انسان و هوش مصنوعی پیشنهاد می‌کند. این چارچوب سه اصل اصلی دارد: نخست، ارائه توضیحات تطبیقی که با سطح دانش کاربر هماهنگ باشد؛ به این معنا که برای کاربران مبتدی، توضیحات ساده‌تر و همراه با مثال‌های عینی ارائه شود و برای کاربران متخصص، جزئیات فنی عمیق‌تر و امکان بررسی فرضیات فراهم گردد. دوم، اعلام شفاف میزان اطمینان و عدم‌قطعیت در توصیه‌ها؛ به‌گونه‌ای که سیستم نه تنها یک عدد کلی برای اطمینان ارائه دهد، بلکه ابعاد مختلف آن مانند کیفیت داده، اعتبار مدل، تناسب با شرایط خاص و محدودیت‌های زمانی را نیز مشخص کند. سوم، پیوند دادن هر توصیه به منابع و شواهد پشتیبان، از جمله دستورالعمل‌های عملیاتی، مقالات علمی و داده‌های میدانی، تا کاربر بتواند مسیر استدلال سیستم را دنبال کرده و صحت آن را ارزیابی کند. همچنین پیشنهاد می‌شود سبک ارتباطی ترکیبی از دقت فنی، لحن همکارانه و شفافیت مورد استفاده قرار گیرد تا هم اعتماد کاربران جلب شود و هم از پذیرش کورکورانه توصیه‌های نادرست جلوگیری گردد. برای سنجش اثربخشی این چارچوب، مجموعه‌ای از شاخص‌های عملیاتی مانند همبستگی اعتماد با کیفیت تصمیم، دقت تشخیص سطح تخصص کاربر، نرخ پذیرش و ماندگاری کاربران، و دقت پاسخ‌های سیستم معرفی شده است. در نهایت، پژوهش تأکید می‌کند که اعتماد به هوش مصنوعی قابل طراحی و مهندسی است و توجه به تفاوت‌های فردی کاربران، به‌ویژه سطح تخصص آنها، کلید موفقیت در پیاده‌سازی این ابزارها در محیط‌های فنی و پرخطر است. این چارچوب نه تنها برای عملیات گاز بالابر، بلکه برای بسیاری از گردش‌کارهای مهندسی مشابه که در آنها تصمیم‌گیری مبتنی بر داده و قضاوت تخصصی است، قابل تعمیم است.

وقتی هوش مصنوعی اشتباه می‌گوید، اما با اعتماد کامل!

تصور کنید در یک سکوی نفتی دورافتاده هستید و یک چاه نفت به‌طور ناگهانی رفتار عجیبی از خود نشان می‌دهد. فشار پایین می‌آید، تولید نوسان می‌کند و هیچ آلارمی هم روشن نمی‌شود. شما به‌عنوان مهندس، به یک دستیار هوش مصنوعی پناه می‌برید و او با لحنی کاملاً قاطع می‌گوید: «فشار تزریق را ۲۰۰ واحد افزایش بده، مطمئن باش مشکل حل می‌شود.» اما اگر همین دستیار با همین اطمینان، توصیه‌ای کاملاً غلط و حتی خطرناک داده باشد چه؟ آیا شما متوجه می‌شوید یا تحت تأثیر لحن قاطع او، توصیه را می‌پذیرید؟

این دقیقاً همان پرسشی است که یک پژوهش جذاب در دانشگاه MIT به آن پرداخته است. محققان با طراحی یک آزمایش هوشمندانه، چهار دستیار هوش مصنوعی با شخصیت‌های متفاوت ساخته‌اند و از ۱۳۱ مهندس و متخصص نفت خواسته‌اند تا با آنها کار کنند. نتیجه؟ چیزی شبیه یک شعبده‌بازی روانی که نشان می‌دهد چطور اعتماد ما به ماشین‌ها شکل می‌گیرد و گاهی فریب می‌خورد.

چهار دستیار، چهار شخصیت، یک آزمون بزرگ

در این مطالعه، هر شرکت‌کننده به‌صورت تصادفی با یکی از چهار دستیار هوش مصنوعی مواجه می‌شد که هر کدام شخصیت خاص خود را داشتند. دستیار اول، یک متخصص دقیق و منطقی بود که همیشه درست می‌گفت. دستیار دوم، با اعتماد‌به‌نفس بالا اما اشتباهات فاحش داشت. دستیار سوم، محتاط و گفتگومحور بود و هیچ‌وقت نظر قطعی نمی‌داد. و دستیار چهارم، آن‌قدر متناقض و گیج‌کننده بود که آدم را به شک می‌انداخت.

نکته جالب اینجاست که دستیار دوم — همان که با اطمینان کامل اشتباه می‌گفت — در برخی موارد توانست اعتماد بیشتری جلب کند تا دستیار دقیق و منطقی! این یعنی مغز ما ممکن است لحن قاطع را با صحت اشتباه بگیرد. محققان این پدیده را «سوگیری اعتماد به اطمینان» می‌نامند و هشدار می‌دهند که در محیط‌های پرخطر مثل صنعت نفت، چنین اشتباهی می‌تواند فاجعه‌بار باشد.

«کاربران فنی بیش از آنکه به دنبال رابطه‌ای صمیمی با هوش مصنوعی باشند، به دنبال شواهد، دقت و شفافیت هستند.» — یافته کلیدی پژوهش

پارادوکس عجیب: متخصص‌ها بیشتر اعتماد می‌کنند!

شاید فکر کنید افراد باتجربه‌تر و متخصص‌تر، به دلیل دانش عمیق‌شان، به‌راحتی به هوش مصنوعی اعتماد نمی‌کنند و همیشه آن را زیر سؤال می‌برند. اما نتایج این پژوهش خلاف این تصور را نشان می‌دهد. متخصصان و افراد باتجربه‌تر تمایل بیشتری به اعتماد به توصیه‌های هوش مصنوعی داشتند، در حالی که تازه‌کارها و افراد کم‌تجربه‌تر با شک و تردید بیشتری برخورد می‌کردند.

چرا؟ احتمالاً به این دلیل که متخصصان بهتر می‌توانند تشخیص دهند چه زمانی یک توصیه منطقی و قابل‌اعتماد است و چه زمانی باید آن را رد کنند. آنها معیارهای فنی دقیقی در ذهن دارند که به آنها امکان می‌دهد کیفیت توصیه را بسنجند. در مقابل، تازه‌کارها ممکن است به دلیل عدم تسلط کافی، دچار سردرگمی شوند و نتوانند به‌راحتی تصمیم بگیرند. این یافته که «پارادوکس تخصص» نامیده می‌شود، نشان می‌دهد که اعتماد به هوش مصنوعی یک پدیده ساده نیست و به سطح دانش کاربر بستگی دارد.

سه چیزی که واقعاً اعتماد را می‌سازد

وقتی از شرکت‌کنندگان پرسیده شد چه چیزی باعث می‌شود به هوش مصنوعی اعتماد کنند، سه عامل بالاتر از همه قرار گرفت: وضوح توضیحات، ارائه منابع و ارجاعات قابل‌بررسی و اعلام میزان اطمینان یا احتمال صحت توصیه.

جالب اینکه لحن دوستانه و زبان محتاطانه — چیزهایی که معمولاً فکر می‌کنیم اعتمادساز هستند — کمترین اهمیت را داشتند. کاربران فنی می‌خواهند بدانند چرا یک توصیه داده شده، از کجا آمده و چقدر قابل‌اعتماد است. آنها به دنبال رابطه صمیمی با ماشین نیستند؛ به دنبال شواهد و شفافیت هستند.

این یافته پیام مهمی برای طراحان سیستم‌های هوش مصنوعی دارد: اگر می‌خواهید متخصصان به سیستم شما اعتماد کنند، باید بتوانید مسیر استدلال خود را نشان دهید، منابع معتبر ارائه دهید و صادقانه بگویید چقدر به توصیه‌تان اطمینان دارید. پنهان کردن عدم‌قطعیت یا بزرگ‌نمایی اطمینان، در نهایت به بی‌اعتمادی می‌انجامد.

درس بزرگ برای آینده هوش مصنوعی در صنعت

این پژوهش فقط یک مطالعه دانشگاهی نیست؛ یک هشدار و راهنما برای همه کسانی است که می‌خواهند هوش مصنوعی را وارد محیط‌های حساس و پرخطر کنند. اگر سیستم‌های هوش مصنوعی نتوانند اعتماد درست و منطقی را در کاربران ایجاد کنند، یا توصیه‌های درست نادیده گرفته می‌شود یا توصیه‌های غلط پذیرفته می‌شود. هر دو حالت می‌تواند فاجعه‌بار باشد.

محققان پیشنهاد می‌کنند که سیستم‌های آینده باید خود را با سطح تخصص کاربر تطبیق دهند. برای تازه‌کارها، توضیحات ساده‌تر و مثال‌های عینی ارائه دهند و برای متخصصان، جزئیات فنی عمیق‌تر و امکان بررسی فرضیات را فراهم کنند. همچنین باید امتیاز اطمینان خود را به‌صورت شفاف اعلام کنند و هر توصیه را به منابع معتبر پیوند دهند.

در نهایت، این پژوهش نشان می‌دهد که اعتماد به هوش مصنوعی چیزی نیست که به‌طور خودکار به وجود بیاید؛ بلکه باید آن را طراحی و مهندسی کرد. و مهم‌تر از همه، باید تفاوت‌های فردی کاربران — به‌ویژه سطح تخصص آنها — را جدی گرفت. تنها در این صورت است که می‌توان امیدوار بود هوش مصنوعی در محیط‌های حساس صنعتی، به‌جای یک تهدید، به یک همکار قابل‌اعتماد تبدیل شود.