توهم ماشین یادگیری چیست؟

به گزارش علمی نیوز و به نقل از Psychology Today، سوگیری تصمیم گیری نسبتا جدیدی وجود دارد که در تجارت شایع است. می‌توانیم آن را « توهم یادگیری ماشین » بنامیم.

منظور ما این نیست که یادگیری ماشینی مفید نیست. به وضوح می تواند باشد. از بانکداری گرفته تا پزشکی، ما شاهد مزایای مختلف این ابزار آماری در تصمیم گیری های مربوطه هستیم. به لطف پیشرفت در این فناوری، ما بهتر می‌توانیم الگوها را در داده‌های پیچیده تشخیص دهیم و فرآیندهای حیاتی را بهینه کنیم.

اما یک توهم در بین تصمیم گیرندگان این باور است که یادگیری ماشین همیشه مفید است: اگر درک و پیش بینی های فرد از یادگیری ماشین بر اساس داده های بزرگ نشات می گیرد، پس باید برای تصمیم گیری قابل اعتماد باشند.

از این گذشته، نتایج توسط تحلیل‌های پیچیده و پیشرفته بر روی یک منبع اطلاعاتی غنی که توسط تحلیلگران آماری پیچیده انجام می‌شود، تولید می‌شوند.

چه چیزی می تواند اشتباه باشد؟

برای اینکه یادگیری ماشینی تصمیمات را به طور قابل اعتماد و پایدار بهبود بخشد، دو چیز اساسی باید اتفاق بیفتد:

1. داده ها باید معرف وضعیت باشند.
اما این تضمینی نیست. اغلب ممکن است مسائل انتخاب در نمونه وجود داشته باشد (ممکن است نتایج خاصی وجود نداشته باشد) یا ممکن است تاخیرهای قابل توجهی بین علل و اثرات وجود داشته باشد. اگر چنین است، درس های یادگیری ماشینی از نظر درک آنچه در واقع در حال وقوع است مشکل ساز خواهد بود. در واقع، شرکت ها به دلیل تبعیض دستگاه ها علیه محتوا یا افراد خاص، با انواع مشکلات مواجه شده اند.

2. وضعیت باید باثبات باشد.
این نیز تضمین نشده است. اگر تغییر مداوم و غیرقابل پیش‌بینی در تنظیمات وجود داشته باشد، درس‌های یادگیری ماشینی می‌توانند به سرعت منسوخ و غیرقابل اعتماد شوند. تحلیل ها ممکن است به خوبی با داده های موجود مطابقت داشته باشند، اما این لزوما به پیش بینی های بهتر منجر نمی شود. در نتیجه، مدیران بیش از حد اعتماد به نفس پیدا می کنند و نمی توانند اقدامات احتیاطی خاصی را به موقع انجام دهند.

مهربان در مقابل شرور
اگر هر دوی این شرایط تقریباً برقرار باشد، آنگاه ما در یک محیط یادگیری مهربان خواهیم بود. یادگیری ماشین در واقع به ما کمک می کند تا روشنایی قابل اعتمادی را در مورد آنچه در گذشته اتفاق افتاده و آینده را روشن کنیم.

اما اگر حداقل یکی از این شرایط برقرار نباشد، خود را در یک محیط آموزشی بد می یابیم. قابل اعتماد بودن بینش‌های یادگیری ماشینی برای تصمیم‌گیری‌ها کمتر از آنچه ما امیدواریم مطمئن و بادوام است. در عوض، شانس خوبی وجود دارد که یادگیری منجر به توهم درک و قابل پیش بینی شود.

برای پیچیده تر کردن همه چیز، هنگامی که درس ها و پیش بینی های یادگیری ماشین در دسترس قرار می گیرند، نادیده گرفتن آنها دشوار است. بینش های تایید شده توسط ماشین می تواند کاملا غیرقابل انکار و برگشت ناپذیر باشد. یادگیری مجدد و یادگیری مجدد دشوار می شود.

به همین دلیل است که وقتی مدیران استانداردهای جمع‌آوری، تجزیه و تحلیل و ارائه داده‌های خود را در شرکت‌های خود طراحی می‌کنند، باید با بررسی اینکه چگونه ممکن است «دو شرط کلیدی» نقض شود، یک «توهم یادگیری ماشینی» بالقوه در ابتدا مورد تایید قرار گیرد.