فیسبوک مجبور شد که سیستم هوش مصنوعی‌اش را بعد از اینکه سرخود، برای خودش یک زبان ارتباطی ابداع کرد، خاموش کند!
امان از وقتی که هوش مصنوعی خودسر می‌شود!
انسان‌های تنبل یا جاه‌طلب همیشه دوست داشته‌اند که سامانه‌های هوشمند و دانا و سریعی داشته باشند که بتواند کارهای سخت پردازش اطلاعات و تصمیم‌گیری را برایشان انجام بدهد، اما در عین حال همیشه از خودسر شدن این سامانه‌های تخیلی یا اینکه صلاح‌اندیشی آنها با تمایل واقعی انسان‌ها منافات داشته باشد یا اینکه آنها کلا دست به انقلاب و شورش علیه انسان‌ها بزنند، نگران بوده‌اند.
آثار این نگرانی در داستان‌های علمی – تخیلی و فیلم‌های زیادی نمودار است. زمانی ایزاک آسیموف در قالب داستان‌هایش پیشنهاد کرده بود که اطاعت از انسان را در قالب قوانین سه‌گانه روباتیک باید در ژرف‌ترین لایه‌های محاسباتی این روبات‌ها قرار داد، اما در عین حال در همان داستان تنگناهای این قوانین را شرح داده بود.
اما خبر تازه‌ای که در رسانه‌های مختلف بازتاب پیدا کرده، بسیار قالب تأمل است:
بر این اساس، یکی از سامانه‌های هوش مصنوعی مورد استفاده این شرکت، بدون اینکه از آن خواسته شود، به صورت سرخود، یک زبان برای خودش ابداع کرده بود و اپراتورهای این سامانه، شتاب‌زده این سامانه را خاموش کردند.
در واقع، فیسبوک برای مذاکره و ارتباط با کاربران انسانی در آزمایشگاه پژوهشی خود، دو سامانه هوش مصنوعی ایجاد کرده بود. این هوش‌های مصنوعی در زمینه کار‌شان خیلی موفق بودند و حتی هنگام آزمایش، بسیاری از کاربران انسانی که به آنها مصنوعی نبودن طرف مکالمه گفته نشده بود، تصور می‌کردند با یک انسان در حال مذاکره هستند. قرار بود این سیستم‌ها با زبان ساده انگلیسی با هم در ارتباط باشند. اما پژوهشگران متوجه شدند که این دو در حال استفاده و تکمیل یک زبان تازه هستند.
تلاش برای ترجمه و تفسیر مکالمه این دو سامانه هم چیز نامفهوم می‌شد و این زبان در واقع توسط خود دو سامانه درک می‌شد.
در واقع چون به سامانه‌ها اجبار نشده بود که به انگلیسی سخن بگویند، این دو سامانه یک زبان ساده‌تر ولو اینکه پیچیده‌تر باشد، برای خودشان ابداع کرده بودند. با این زبان جملات طولانی کوتاه‌تر می‌شد و خود سیستم‌ها مشکلی برای درک آنها نداشتند.
جالب است که این مسئله، تنها چند روز بعد از انتقاد مارک زاکربرگ از کسانی رخ داد که مرتب برای انتقاد از هوش مصنوعی، سناریوهای آخر الزمانی را مطرح می‌کردند.
بنظر نمیاد یکم جنبه تبلیغاتی واسه فیسبوک داشته باشه؟ متونستن از واژه پروتوکل بجای زبان استفاده کنند. بله هوش مصنوعی اگه خوب طراحی شده باشه میتونه موارد تکراری در ارتباطات رو حذف کنه.
واسه همچین اتفاقایی الون ماسک همیشه تاکید داره که توسعه هوش مصنوعی باید متوقف بشه.