تصور کنید شما یکی از آینده‌اندیشان اولیه یک دستگاه دستیار دیجیتال شخصی با فرمان صوتی هستید که از هوش مصنوعی (AI) پشتیبانی می‌کند. شما به آن اعتماد دارید تا اطلاعات بلادرنگی مانند ورزش، اخبار یا آب و هوا را در اختیار شما قرار دهد، و کارهای اساسی مانند سازماندهی فهرست کارها، سفارش دادن به بیرون، پخش پادکست، پخش کتاب یا موسیقی، و مدیریت تماس ها و پیام های شما را انجام دهد. . حتی ممکن است از آن برای کنترل وسایل خانه هوشمند خود مانند روشنایی، ترموستات و حتی لوازم خانگی استفاده کنید. حالا تصور کنید دستیار دیجیتال شخصی شما به طور غیرمنتظره و غیرقابل توضیحی با صدای بلند به شما می خندد. آیا می‌خواهید این موضوع را به یک نقص فنی تبدیل کنید، آن را کنار بگذارید و به استفاده از دستگاه خود ادامه دهید؟ یا آن را به طرز وحشتناکی ترسناک می‌بینید که یادآور کامپیوتر شرور HAL 9000 با هوش مصنوعی از فیلم نمادین استنلی کوبریک در سال 1968 با نام «2001: A Space Odyssey» است، و بلافاصله دستگاه خود را غیرفعال می‌کنید؟
طبق گزارش بلومبرگ، در مارس 2018، آمازون تأیید کرد که این شرکت در حال کار بر روی رفع یک باگ نرم افزاری است که در آن برخی از مشتریان آمازون اکو که الکسا را اجرا می کنند ممکن است گاهی اوقات خنده های تصادفی و غیرمنتظره را تجربه کنند. هر چقدر هم که این موضوع ناراحت کننده به نظر برسد، این کاملاً تکان دهنده نیست. الکسا یک فناوری هوش مصنوعی مبتنی بر صدا است که به دستورات گفتاری انسان در مکالمه پاسخ می دهد. درست مانند انسان‌ها، سیستم‌های هوش مصنوعی محاوره‌ای می‌توانند حرف‌های مردم را به اشتباه تفسیر کنند. در 8 مارس 2018، Ars Technica گزارش داد که سخنگوی آمازون منبع خنده غیرمنتظره الکسا را شناسایی کرد - این خنده توسط سیستم هوش مصنوعی ایجاد می شود که گفتار انسان را اشتباه تفسیر می کند و فکر می کند که فرمان "الکسا، بخند" را شنیده است.
مانند سایر فناوری‌های نوظهور، اشکالاتی مانند این می‌تواند اتفاق بیفتد و اتفاق خواهد افتاد. هوش مصنوعی نرم‌افزاری است و اگر شرکتی ادعا می‌کند نرم‌افزاری را عرضه می‌کند که کاملاً بدون اشکال است، شک کنید. چرا؟ در هر نقطه از پشته فن آوری می تواند نقاط بی شماری از خرابی سیستم وجود داشته باشد. برای اینکه نرم‌افزار به درستی کار کند، همه اجزای محاسباتی، ورودی‌ها و اتصالات، مانند کتابخانه‌ها، پلاگین‌ها، درایورها، سیستم‌عامل، پایگاه‌های داده، حافظه ، CPU و سرریزهای پشته باید بدون اشکال کار کنند. برای محاسبات هوش مصنوعی مبتنی بر ابر، همچنین احتمال شکست ارتباط در اینترنت وجود دارد، یک سیستم ناقص. در این مورد با الکسا، مشکل در خود برنامه نرم افزار شناسایی شد.
در کنار الکسای آمازون، غول‌های فناوری اپل، گوگل و مایکروسافت نیز دستیارهای دیجیتال شخصی مبتنی بر صدا دارند که از هوش مصنوعی پشتیبانی می‌کنند. گارتنر تخمین می زند که بازار بلندگوهای بی سیم مجهز به دستیار شخصی مجازی (VPA) تا سال 2021، در کمتر از نیم دهه، به 3.52 میلیارد دلار آمریکا برسد. این یک بازار در حال ظهور است که با ظهور هوش مصنوعی، فراگیر شدن دستگاه های تلفن همراه و قدرت محاسبات مبتنی بر ابر تقویت شده است. همانطور که این بازار همچنان مورد توجه قرار می گیرد و دستیارهای دیجیتال شخصی هوش مصنوعی بیشتر مورد استفاده قرار می گیرند، احتمال عواقب ناخواسته نیز افزایش می یابد.
حادثه الکسا نشان می دهد که چرا هوش مصنوعی به این زودی جایگزین انسان نمی شود. با این حال، برخی از بزرگ‌ترین ذهن‌های دوران مدرن درباره خطرات بالقوه هوش مصنوعی هشدار داده‌اند. فیزیکدان فقید، استیون هاوکینگ، کارآفرین میلیاردر، ایلان ماسک، و فیلسوف نیک بوستروم، همگی نگرانی‌هایی را در مورد خطر بالقوه وجودی هوش مصنوعی برای بشریت مطرح کرده‌اند. نکته کلیدی برای تولیدکنندگان فناوری در به دست آوردن و حفظ اعتماد مصرف‌کننده، نحوه مدیریت شرکت‌ها در هنگام بروز مشکلات است. پذیرندگان اولیه، مبتکران، علاقه مندان به فناوری و رویاپردازان تمایل بیشتری به بخشش دارند و به استفاده از محصولات ادامه می دهند. با این حال، بازار بزرگتر، اکثریت اولیه عمل گرایان، بسیار کمتر مدارا و محافظه کارتر خواهند بود. صرف نظر از اینکه مصرف کنندگان خنده غیرمنتظره الکسا را ترسناک می دانند یا برای دوره مشابه، آنچه برای شرکت های فناوری پیشگام اهمیت دارد واکنش سریع به موقعیت هایی مانند این با شفافیت، ارتباطات باز و مسئولیت پذیری است.
