کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی، نوشته مکس تگمارک، معرفی و بررسی

کتاب زندگی 3.0: انسان بودن در عصر هوش مصنوعی با عنوان اصلی Life 3.0: Being Human in the Age of Artificial Intelligence کتابی از کیهان‌شناس سوئدی-آمریکایی مکس تگمارک از MIT است.

کتاب زندگی 3.0 درباره هوش مصنوعی (AI) و تأثیر آن بر آینده زندگی بر روی زمین و فراتر از آن بحث می‌کند. این کتاب انواع مفاهیم اجتماعی را مورد بحث قرار می‌دهد و اینکه برای به حداکثر رساندن احتمال نتیجه مثبت و ارتقای آینده بشریت، چه می‌شود کرد.

زندگی 3.0: انسان بودن در عصر هوش مصنوعی در آگوست 2017 منتشر شد. این کتاب با ارائه سناریویی آغاز می‌شود که در آن هوش مصنوعی از هوش انسانی فراتر رفته و در جامعه فراگیر شده است. تگمارک به مراحل مختلف زندگی بشر از بدو پیدایش اشاره می‌کند:

زندگی 1.0 به منشأ بیولوژیکی، زندگی 2.0 به پیشرفت‌های فرهنگی در بشریت و زندگی 3.0 به عصر فناورانه انسان اشاره دارد. این کتاب بر فناوری‌های نوظهوری مانند هوش عمومی مصنوعی تمرکز دارد که ممکن است روزی علاوه بر توانایی یادگیری، بتوانند سخت‌افزار و ساختار داخلی خود را نیز طراحی مجدد کند.

بخش اول کتاب زندگی 3.0 به منشاء هوشمندی در میلیارد‌ها سال پیش می‌پردازد و در مورد آینده هوش بحث می‌کند. تگمارک اثرات کوتاه مدت توسعه فناوری پیشرفته مانند بیکاری تکنولوژیکی،سلاح‌های مبتنی هوش مصنوعی و جستجوی AGI ( هوش مصنوعی عمومی ) در سطح انسانی را در نظر می‌گیرد.

این کتاب نمونه‌هایی مانند Deepmind و OpenAI،اتومبیل‌های خودران و بازیکنان AI را ذکر می‌کند که می‌توانند انسان‌ها را در شطرنجیا یا بازی Go شکست دهند.

پس از بررسی مسائل جاری در هوش مصنوعی، تگمارک سپس طیف وسیعی از آینده‌های احتمالی را که دارای دستگاه‌های دارای هوش مصنوعی یا انسان را تحت تاثیر قرار می‌دهند، بررسی می‌کند.

فصل پنجم کتاب زندگی 3.0 تعدادی از پیامد‌های بالقوه که ممکن است رخ دهد را توصیف می‌کند، مانند ساختار‌های اجتماعی تغییر یافته، ادغام انسان و ماشین‌ها و سناریو‌های مثبت و منفی مانند هوش مصنوعی دوستانه یا آخرالزمان هوش مصنوعی.

تگ مارک استدلال می‌کند که خطرات ناشی از هوش مصنوعی نه ناشی از بدخواهی یا رفتار آگاهانه به خودی خود است، بلکه بیشتر ناشی از ناهماهنگی اهداف هوش مصنوعی با اهداف انسانی است. بسیاری از اهداف و نتیجه‌گیری‌های کتاب با اهداف موسسه آینده زندگی Future of Life Institute مطابقت دارد که تگ مارک یکی از بنیانگذاران آن است.

فصل‌های باقی مانده مفاهیم فیزیک، اهداف، آگاهی و معنا را مورد بررسی قرار می‌دهند و بررسی می‌کنند که جامعه برای ایجاد آینده‌ای مطلوب برای بشریت چه کاری می‌تواند انجام دهد.

باراک اوباما، رئیس جمهور سابق آمریکا، این کتاب را در فهرست “بهترین‌های سال 2018” خود قرار داده بود. ایلان ماسک،  هم که قبلاً این نظریه را تایید کرده بود که در برخی از سناریو‌ها، هوش مصنوعی پیشرفته می‌تواند بقای انسان را به خطر بیندازد، کتاب را توصیه کرده بود.

کتاب زندگی ۳.۰؛ انسان‌بودن در عصر هوش مصنوعی
نویسنده: مکس تگمارک
مترجم: میثم محمدامینی
نشر نو

و

ترجمه جمیل آریایی
انتشارات مازیار

داستان گروه آمگا گروه آمگا چشم و چراغ شرکت بود. بخش‌های دیگر از طریق کاربرد‌های مختلف تجاری از هوش مصنوعی محدود درآمد لازم برای ادامه کار را نصیب شرکت می‌کردند، اما گروه امگا برای دستیابی به چیزی می‌کوشید که رؤیای همیشگی مدیر عامل بود: ساخت هوش مصنوعی عمومی. بیشتر کارکنان شرکت اعضای این گروه، یا به تعبیر خودمانی تیم خودشان «امگایی‌ها» را یک مشت آدم بسیار خیالپرداز می‌دانستند که همیشه چند دهه از هدف خود فاصله دارند. با این حال همه خواسته‌های آن‌ها را با روی گشاده می‌پذیرفتند، چون از حیثیت و اعتباری که کار‌های پیشتازانه امگایی‌ها به شرکتشان می‌داد خوششان می‌آمد، و همین طور بابت الگوریتم‌های پیشرفته‌ای که امگایی‌ها گاه گاه در اختیارشان می‌گذاشتند قدردان آن‌ها بودند.

اما چیزی که سایر کارکنان شرکت نمی‌دانستند این بود که امگایی‌ها این تصویر ساختگی از خودشان را هوشیارانه شکل داده بودند تا رازی را پنهان سازند:

آن‌ها به تحقق جسورانه‌ترین برنامه در تاریخ بشریت بی‌اندازه نزدیک بودند. مدیرعامل پرجذبه‌شان کسانی را برای عضویت در این گروه دستچین کرده بود که نه فقط بهره هوشی بسیار بالایی داشتند، بلکه بسیار بلند پرواز و آرمان خواه و متعهد به یاری بشریت بودند. مدیرعامل همیشه به آن‌ها تأکید می‌کرد که برنامه‌شان فوق العاده خطرناک است و اگر دولت‌های قدرتمند از آن آگاهی یابند، تقریبا به هر کاری – از جمله آدم ربایی دست می‌زنند تا آن‌ها را متوقف کنند، و حتی ترجیحشان این است که کد برنامه‌هایشان را بدزدند. اما چون هیچ کدام جا نزدند و همه برای فعالیت در این زمینه اعلام آمادگی کردند، دقیقا به همان دلیلی که بسیاری از فیزیکدانان برجسته جهان برای همکاری در ساخت سلاح‌های هسته‌ای به پروژه منهتن پیوستند: چون متقاعد شده بودند که اگر خودشان این کار را اول انجام ندهند، کسان دیگری انجام خواهند داد که شاید چنین اهداف و آرمان‌های والایی نداشته باشند.

برنامه هوش مصنوعی آن‌ها، که نام پرومتئوس بر آن گذاشته بودند، پیوسته پیشرفت می‌کرد و توانایی‌های بیشتری به دست می‌آورد. اگرچه قابلیت‌های شناختی‌اش در بسیاری از حوزه‌ها، مانند مهارت‌های اجتماعی، هنوز خیلی عقب‌تر از انسان‌ها بود، اما امگایی‌ها خیلی زحمت کشیده بودند تا آن را در انجام یک وظیفه خاص فوق العاده توانمند سازند؛ یعنی در برنامه‌ریزی سامانه‌های هوش مصنوعی. آن‌ها آگاهانه چنین راهکاری را انتخاب کرده بودند، زیرا استدلال انفجار هوش را که ریاضیدان بریتانیایی اروینگ گود در ۱۹۶۵ مطرح کرده بود پذیرفته بودند.

استدلال گود از این قرار است: «ماشین فوق هوشمند را ماشینی تعریف می‌کنیم که بتواند در همه فعالیت‌های فکری، از هر انسانی، هر اندازه هم که هوشمند باشد، بسیار فراتر عمل کند. طراحی ماشین‌ها هم یکی از همین فعالیت‌های فکری است، پس یک ماشین فوق هوشمند می‌تواند ماشین‌هایی طراحی کند که حتی از خودش هم بهتر باشند؛ و بنابراین بی‌تردید «انفجار هوش» رخ می‌دهد، و هوش ماشین‌ها از سطح هوش انسان بسیار فراتر خواهد رفت. بنابراین نخستین ماشین فوق هوشمند آخرین اختراعی است که انسان به آن نیاز خواهد داشت، پس از این اختراع، هیچ اختراع دیگری لازم نیست؛ البته با فرض آنکه این ماشین به اندازه‌ای مطیع انسان باشد که به ما بگوید چگونه باید بر آن تسلط داشته باشیم».

اعضای تیم امگا دریافتند که اگر بتوانند این فرایند بازگشتی پیشرفت را به راه اندازند، آنگاه ماشین خیلی زود به اندازه‌ای هوشمند خواهد شد که می‌تواند همه مهارت‌های بشری مفید دیگر را به خودش آموزش دهد.

ساعت نه صبح جمعه بود که آن‌ها تصمیم گرفتند شروع کنند. پرومتئوس در یک محفظه مخصوص در ردیف طولانی قفسه‌ها در اتاقی بزرگ با دسترسی محدود و تهویه مطبوع مشغول کار شد. به دلایل امنیتی، اتصال آن به اینترنت را کاملا قطع کرده بودند، اما درون حافظه برنامه یک کپی از بخش عمده محتوای شبکه جهانی از جمله ویکی پدیا، کتابخانه کنگره، توییتر، گلچینی از یوتیوب، بخش عمده‌ای از فیس بوک، و غیره) وجود داشت تا از این داده‌های آموزشی برای یادگیری برنامه استفاده شود. اعضای گروه این زمان را برای شروع برنامه انتخاب کرده بودند تا بتوانند بدون مزاحم به کارشان ادامه دهند: خانواده‌ها و دوستانشان فکر می‌کردند که آن‌ها آخر هفته به سفری تفریحی که شرکت برای استراحت کارکنان در نظر گرفته رفته‌اند. آشپزخانه کوچکشان را از غذا‌های آماده و نوشیدنی‌های انرژی‌زا انباشته بودند و آماده بودند که شروع کنند.

وقتی که پرومتئوس را راه انداختند، در برنامه‌ریزی سامانه‌های هوش مصنوعی قدری از خودشان ضعیف‌تر بود، اما این ضعف را به کمک سرعت بسیار بسیار بالاترش جبران می‌کرد: در زمانی که آن‌ها مشغول نوشیدن یک بطری نوشیدنی انرژی‌زا بودند، پرومتئوس توانی معادل هزاران نفرسال را به کار می‌گرفت. تا پیش از ساعت ۱۰ صبح، پرومتئوس نخستین بازطراحی خود را به پایان رسانده و به نسخه ۲. ۰ رسیده بود، که اندکی بهتر بود، اما هنوز پایین‌تر از انسان قرار داشت. اما وقتی که ساعت ۲ بعد از ظهر پرومتئوس ۵۰۰ اجرا شد، امگایی‌ها در بهت و حیرت فرو رفتند: پرومتئوس از تمام معیار‌های عملکردی آن‌ها بسیار فراتر رفته بود و به نظر می‌رسید که سرعت پیشرفتش در حال افزایش هم هست. با فرا رسیدن شب، تصمیم گرفتند که با راه‌اندازی پرومتئوس ۱۰۰۰ مرحله دوم برنامه خود را اجرا کنند: کسب درآمد.

هدف نخست آن‌ها‌ ام ترک بود، ترک مکانیکی آمازون. ‌ام ترک پس از راه‌اندازی در سال ۲۰۰۵، به عنوان بازاری که به شیوه جمع سپاری اینترنتی اداره می‌شود، رشد بسیار سریعی داشته است و دههاهزار نفر از سراسر جهان برای انجام کار‌های کاملا مشخصی موسوم به «وظایف هوش انسانی» در آن به صورت ناشناس با هم رقابت می‌کنند. این کار‌ها شامل چیز‌هایی می‌شود از قبیل تهیه متن نوشتاری از فایل‌های صوتی، دسته‌بندی تصاویر، و نوشتن گزارش توصیفی از صفحات وب، و همه در یک چیز مشترکند:

اگر آن‌ها را درست انجام دهید، هیچ کس متوجه نخواهد شد که شما یک برنامه هوش مصنوعی هستید. پرومتئوس ۱۰۰۰ قابلیت آن را داشت که نیمی از این گونه کار‌ها را در سطحی قابل قبول انجام دهد. امگایی‌ها ترتیبی داده بودند که پرومتئوس برای هر گروه از این کار‌ها یک نرم‌افزار هوش مصنوعی محدود طراحی کند که فقط می‌توانست آن کار را به طور دقیق انجام دهد و هیچ قابلیت دیگری نداشت. آن‌ها سپس این واحد نرم‌افزاری را روی خدمات وب آمازون آپلود کردند – خدمات وب آمازون بستری برای انجام محاسبات ابری است که آن‌ها می‌توانستند با پرداخت اجاره بها، هر تعداد ماشین مجازی را که می‌خواستند در آن راه‌اندازی کنند. به ازای هر دلاری که امگایی‌ها به بخش محاسبات ابری آمازون پرداخت می‌کردند، از بخش‌ام ترک آمازون بیش از دو دلار درآمد داشتند. در خود آمازون، هیچ کس اصلا به فکرش نرسیده بود که در این شرکت چنین فرصت حیرت‌انگیزی برای آربیتراژ وجود دارد!

آن‌ها برای اینکه ردی از خود باقی نگذارند در طی چند ماه گذشته مخفیانه هزاران حساب کاربری در‌ام ترک با نام‌های ساختگی ایجاد کرده بودند، و اکنون واحد‌های نرم‌افزاری ساخت پرومتئوس این هویت‌های جعلی را در اختیار گرفته بودند. مشتریان‌ام ترک معمولا پس از حدود هشت ساعت بهای کار انجام شده را می‌پرداختند و امگایی‌ها هم این پول را مجددا برای خرید زمان بیشتری از بخش محاسبات ابری سرمایه‌گذاری می‌کردند، و برای ادامه کار هم از واحد‌های نرم‌افزاری پیشرفته‌تری که آخرین نسخه پرومتئوس پیوسته در حال پیشرفت طراحی کرده بود استفاده می‌کردند. به این ترتیب آن‌ها می‌توانستند هر هشت ساعت پول خود را دو برابر کنند، و از همین رو خیلی زود به سطحی رسیدند که می‌توانستند تمام کار‌های درخواست شده در بازار‌ام ترک را انجام دهند و دریافتند که از این طریق نمی‌شود بدون جلب توجهات ناخواسته به خودشان، بیش از یک میلیون دلار در روز درآمد کسب کنند. اما همین مقدار هم برای تأمین منابع مالی لازم برای برداشتن گام بعدی بسیار بیش از حد کفایت بود، و اصلا نیازی نبود که از مدیر بخش مالی مبالغ عجیب و غریبی تقاضا کنند.