فیس‌بوک مجبور شد که سیستم هوش مصنوعی‌اش را بعد از اینکه سرخود، برای خودش یک زبان ارتباطی ابداع کرد، خاموش کند!

1

امان از وقتی که هوش مصنوعی خودسر می‌شود!

انسان‌های تنبل یا جاه‌طلب همیشه دوست داشته‌اند که سامانه‌های هوشمند و دانا و سریعی داشته باشند که بتواند کارهای سخت پردازش اطلاعات و تصمیم‌گیری را برایشان انجام بدهد، اما در عین حال همیشه از خودسر شدن این سامانه‌های تخیلی یا اینکه صلاح‌اندیشی آنها با تمایل واقعی انسان‌ها منافات داشته باشد یا اینکه آنها کلا دست به انقلاب و شورش علیه انسان‌ها بزنند، نگران بوده‌اند.

آثار این نگرانی در داستان‌های علمی – تخیلی و فیلم‌های زیادی نمودار است. زمانی ایزاک آسیموف در قالب داستان‌هایش پیشنهاد کرده بود که اطاعت از انسان را در قالب قوانین سه‌گانه روباتیک باید در ژرف‌ترین لایه‌های محاسباتی این روبات‌ها قرار داد، اما در عین حال در همان داستان تنگناهای این قوانین را شرح داده بود.

اما خبر تازه‌ای که در رسانه‌های مختلف بازتاب پیدا کرده، بسیار قالب تأمل است:

بر این اساس، یکی از سامانه‌های هوش مصنوعی مورد استفاده این شرکت، بدون اینکه از آن خواسته شود، به صورت سرخود، یک زبان برای خودش ابداع کرده بود و اپراتورهای این سامانه، شتاب‌زده این سامانه را خاموش کردند.

لیزر هموروئید درمان بواسیر در کلینیک تخصصی هموروئید تهران

در واقع، فیس‌بوک برای مذاکره و ارتباط با کاربران انسانی در آزمایشگاه پژوهشی خود، دو سامانه هوش مصنوعی ایجاد کرده بود. این هوش‌های مصنوعی در زمینه کار‌شان خیلی موفق بودند و حتی هنگام آزمایش، بسیاری از کاربران انسانی که به آنها مصنوعی نبودن طرف مکالمه گفته نشده بود، تصور می‌کردند با یک انسان در حال مذاکره هستند. قرار بود این سیستم‌ها با زبان ساده انگلیسی با هم در ارتباط باشند. اما پژوهشگران متوجه شدند که این دو در حال استفاده و تکمیل یک زبان تازه هستند.

تلاش برای ترجمه و تفسیر مکالمه این دو سامانه هم چیز نامفهوم می‌شد و این زبان در واقع توسط خود دو سامانه درک می‌شد.

در واقع چون به سامانه‌ها اجبار نشده بود که به انگلیسی سخن بگویند، این دو سامانه یک زبان ساده‌تر ولو اینکه پیچیده‌تر باشد، برای خودشان ابداع کرده بودند. با این زبان جملات طولانی کوتاه‌تر می‌شد و خود سیستم‌ها مشکلی برای درک آنها نداشتند.

جالب است که این مسئله، تنها چند روز بعد از انتقاد مارک زاکربرگ از کسانی رخ داد که مرتب برای انتقاد از هوش مصنوعی، سناریوهای آخر الزمانی را مطرح می‌کردند.

منبع

 

   

پستهای اخیر

نکات جالبی در مورد استیو جابز در کتاب تازه «ناز بهشتی»- یکی از بخش‌های جالب کتاب: استیو جابز هیچ وقت…

دو سه هفته‌ای که خبر انتشار یک کتاب جدید در مورد استیو جابز، داغ شده. اسم این کتاب Pause. Breathe. Choose.: Become the CEO of Your Well-Being است. این کتاب را ناز بهشتی نوشته که فعلا بیشتر به عنوان مربی مدیریت ذهن و خودیاری برای کسب…

کارشناسان خرید و استفاده این ۸ چیز را برای کاهش استرس و اضطراب در دوران کرونا توصیه می‌کنند

اگر اخیرا به خاطر شیوع ویروس کرونا گرفتار استرس و اضطراب شدید؛ شما تنها نیستید. به‌ویژه، اگر در خانه نشسته‌اید و کارهای خود را انجام می‌دهید و منتظر کاهش شیب منحنی مبتلایان و قربانیان ویروس کرونا هستید. قطعا ساعت‌ها پای کامپیوتر و لپ‌تاپ…

۷ کاری که خیلی‌ها نمی‌دانند با اپل واچ می‌شود انجام داد

اپل واچ بهترین ساعت هوشمند موجود در بازار است. دلایل خوبی هم برای آن وجود دارد. یک ردیاب تناسب اندام عالی و یک ساعت با طراحی شیک و زیبا است که کاملا در اکوسیستم اپل ادغام می‌شود. با وجود ویژگی‌های بسیار عالی که اپل واچ دارد و همه از…

مریخ‌نشین اینسایت ناسا در بحران – ناسا مجبور شد که اینسایت را به صورت اورژانسی به حالت خواب یا…

ظاهرا ناسا باید فناوری جدیدی برای صفحات خورشیدی سیاره‌نشین‌های خود پیدا کند. مطابق خبری که به تازگی منتشر شده، مریخ‌نشین 800 میلیون دلاری اینسایت دچار مشکل جدی شده است. اینسایت در سال 2018 در بخشی از مریخ به نام بخش بهشت یا Elysium…

بعد از چند سال هویت کسی که به درخواست اف بی آی ، آیفون تروریست‌های سن برناردینو را رمزگشایی و باز…

اگر یادتان باشد در سال 2015 در آمریکا یک حادثه تروریستی رخ داده بود که در آن سید رضوان فاروق و همسرش -تشفین مالک- به مردم در کالیفرنیای جنوبی در سن برناردینو تیراندازی کردند و 14 نفر را کشتند. این دو در پی درگیری با پلیس کشته شدند. اما…

هزینه یک ماه آمریکایی‌ها برای ویدئو گیم: مبلغ شگفت‌آور ۵.۶ میلیارد دلار

گاهی ما با دیدن جزئیات ویدئوگیم‌ها و آن همه وقت و انرژی و فناوری پشت سر هر یک از آنها ناخودآگاه از خودمان می‌پرسیم که جدا شرکت‌های سازنده‌شان با آن همه عوامل و هزینه تحقیق و توسعه، منتفع هم می‌شوند؟ ما به سبب دور بودن و بهتر است بگویم…
1 نظر
  1. فرشاد می گوید

    بنظر نمیاد یکم جنبه تبلیغاتی واسه فیسبوک داشته باشه؟ متونستن از واژه پروتوکل بجای زبان استفاده کنند. بله هوش مصنوعی اگه خوب طراحی شده باشه میتونه موارد تکراری در ارتباطات رو حذف کنه.
    واسه همچین اتفاقایی الون ماسک همیشه تاکید داره که توسعه هوش مصنوعی باید متوقف بشه.

ارسال یک پاسخ

آدرس ایمیل شما منتشر نخواهد شد.