مردم به توصیه‌های‌ پزشکی هوش مصنوعی اعتماد ندارند!

به گزارش ایسنا، یک مطالعه جدید منتشر شده در Nature Medicine نشان می‌دهد که وقتی صحبت از توصیه‌های پزشکی به میان می‌آید، انسان‌ها همچنان حضور یک انسان را ترجیح می‌دهند حتی اگر خود توصیه‌ها یکسان باشد.

به نقل از اس‌اف، محققان دانشگاه وورزبورگ در آلمان دو آزمایش در مقیاس بزرگ انجام دادند تا بررسی کنند که مردم چگونه توصیه‌های پزشکی را زمانی که معتقدند از منابع مختلف می‌آیند درک می‌کنند.  یک پزشک انسانی، یک سیستم هوش مصنوعی یا ترکیبی از هر دو مورد بررسی قرار گرفت. نتایج یک سوگیری شگفت‌انگیز را علیه هوش مصنوعی در مراقبت‌های بهداشتی نشان می‌دهد و موانع بالقوه در پذیرش گسترده این فناوری‌های امیدوارکننده را نمایان می‌کند.

در این مطالعات، سناریوهای پزشکی مختلفی مانند سؤالاتی در مورد ترک سیگار یا آماده شدن برای کولونوسکوپی به شرکت کنندگان ارائه شد. آنها سپس پاسخ‌هایی به این پرسش‌ها دریافت کردند که در همه گروه‌ها یکسان بود.

به برخی از شرکت‌کنندگان گفته شد که این توصیه از سوی یک پزشک انسانی ارائه شده است، به برخی دیگر گفته شد که این توصیه از یک سیستم هوش مصنوعی است، و به گروه سوم اطلاع داده شد که این توصیه توسط هوش مصنوعی تولید شده است اما توسط یک پزشک انسانی بررسی شده است.

یافته‌ها قابل توجه بود. شرکت‌کنندگان به‌طور پیوسته توصیه‌هایی را که به‌عنوان یک پزشک انسانی نشان داده شده بود، در مقایسه با توصیه‌های مشابهی که به‌عنوان «تولید شده توسط هوش مصنوعی» یا حتی با نظارت انسان توسط هوش مصنوعی برچسب‌گذاری شده بودند، قابل اعتمادتر و همدلانه‌تر ارزیابی کردند.

با توجه به پیشرفت‌های سریع در قابلیت‌های هوش مصنوعی، این سوگیری ضد هوش مصنوعی در مراقبت های بهداشتی بسیار قابل توجه است. مطالعات اخیر نشان داده‌اند که برخی از سیستم‌های هوش مصنوعی می‌توانند در برخی از وظایف تشخیصی با پزشکان انسانی مطابقت داشته باشند یا حتی بهتر عمل کنند.

به عنوان مثال، یک مطالعه نشان داد که مدل زبانی هوش مصنوعی جی‌پی‌تی-۴ به سطوحی از دقت تشخیصی قابل مقایسه با پزشکان انسانی دست یافته است. مطالعه دیگری نشان داد که خود پزشکان پاسخ‌های ایجاد شده توسط هوش مصنوعی به پرسش‌های پزشکی را از نظر کیفیت برتر و همدلانه‌تر از پاسخ‌های پزشکان انسانی ارزیابی می‌کنند در حالی که منبع آن را نمی‌دانستند.

پس چرا این بی اعتمادی وجود دارد؟
محققان چندین توضیح ممکن را پیشنهاد می‌کنند. بیماران ممکن است احساس کنند که هوش مصنوعی نمی‌تواند واقعا شرایط منحصر به فرد آنها را درک کند یا حمایت عاطفی را که در تعاملات پزشکی به دنبال آن هستند ارائه دهد. عامل دیگر می‌تواند چیزی باشد که محققان آن را «غفلت از منحصر به فرد بودن» می‌نامند. این باور که سیستم‌های هوش مصنوعی نمی‌توانند به اندازه کافی ویژگی‌های فردی را هنگام ارائه مشاوره در نظر بگیرند. این تصور همچنان ادامه دارد، حتی اگر سیستم‌های هوش مصنوعی مدرن اغلب برای پردازش و در نظر گرفتن اطلاعات شخصی طراحی شده باشند.

این مطالعه نشان داد که توصیه‌هایی که از ترکیبی از هوش مصنوعی و نظارت پزشکان انسانی دریافت می‌شود، در مقایسه با استفاده از هوش مصنوعی به تنهایی تفاوتی چندانی در ایجاد حس اعتماد ندارد. این نشان می‌دهد که صرفا افزودن نظارت انسانی به سیستم‌های هوش مصنوعی نمی‌تواند برای غلبه بر شک و تردید عمومی کافی باشد.

این یافته‌ها پیامدهای مهمی دارند. از آنجایی که سیستم‌های مراقبت های بهداشتی در سراسر جهان با افزایش تقاضاها و محدودیت‌های منابع دست و پنجه نرم می‌کنند، ابزارهای هوش مصنوعی پتانسیل بسیار زیادی برای بهبود کارایی، دقت و دسترسی به توصیه‌های پزشکی ارائه می‌دهند. با این حال، اگر بیماران ذاتا در برابر توصیه‌های تولید شده توسط هوش مصنوعی تعصب داشته باشند، پذیرش و اثربخشی این فناوری‌ها می‌تواند به شدت محدود شود.

این سوگیری می‌تواند منجر به سناریوهایی شود که در آن بیماران توصیه‌های بالقوه نجات‌دهنده را نادیده می‌گیرند یا کمتر از آنها پیروی می‌کنند، فقط به این دلیل که معتقدند از یک سیستم هوش مصنوعی می‌آید.

با این حال، این مطالعه امیدوار کننده است. در حالی که شرکت‌کنندگان کمتر به توصیه‌های تولید شده توسط هوش مصنوعی اعتماد می‌کردند، زمانی که فرصت داده می‌شد، علاقه یکسانی به کاوش در پلتفرم‌های پزشکی مبتنی بر هوش مصنوعی نشان می‌دادند. این نشان می‌دهد که افراد حداقل در مورد هوش مصنوعی در مراقبت‌های بهداشتی کنجکاو هستند، حتی اگر هنوز کاملا با آن احساس راحتی نکنند.

همانطور که هوش مصنوعی به تکامل و ادغام در مراقبت‌های بهداشتی ادامه می‌دهد، رسیدگی به این شکاف اعتماد بسیار مهم خواهد بود. تحقیقات آینده ممکن است نیاز به بررسی راه‌هایی برای چارچوب‌بندی مشارکت هوش مصنوعی در تصمیم‌گیری پزشکی داشته باشد که پذیرش عمومی را افزایش می‌دهد. به عنوان مثال، تأکید بر این که ابزارهای هوش مصنوعی اطلاعات فردی بیمار را پردازش می‌کنند می‌تواند به کاهش نگرانی‌ها کمک کند.