چرا هوش مصنوعی هم باهوش و هم احمق است؟!

یجین چوی |

خوب هیجان‌زده‌ام که چند ایده جذاب از هوش مصنوعی به شما بگویم. اما ابتدا، برویم سراغ فلسفه، با شروع با این جمله از ولتر، فیلسوف عصر روشنگری در قرن هجدهم، که گفت: «عقل سلیم زیاد رایج نیست.» از قضا این جمله نمی‌توانست با هیچ چیزی بیش از هوش مصنوعی همخوانی داشته باشد. با وجود این، هوش مصنوعی بی‌شک ابزار قدرتمندی است، که قهرمان جهان در بازی «گو» را شکست می‌دهد، در آزمون‌های پذیرش دانشگاه بهترین نمره را می‌گیرد و حتی در آزمون وکالت قبول می‌شود.

من متخصص کامپیوتر با سابقه ۲۰ ساله هستم، و روی هوش مصنوعی کار می‌کنم. آمده‌ام تا در مورد هوش مصنوعی شفاف‌سازی کنم. خوب امروز هوش مصنوعی مثل یک غول است. بسیار بسیار بزرگ است. تصور می‌شود نمونه‌های اخیر روی ده‌ها هزار جی‌پی‌یو و یک تریلیون کلمه آموزش دیده‌اند. چنین مدل‌های عظیمی از هوش مصنوعی، اغلب «مدل‌های زبانی بزرگ» نامیده می‌شوند، و به نظر می‌رسد جرقه‌هایی از ای‌جی‌آی یا هوش مصنوعی عمومی را نشان می‌دهد. اما گاهی مرتکب اشتباهات کوچک و احمقانه‌ای می‌شود. بسیاری معتقدند هر اشتباهی که امروزه هوش مصنوعی مرتکب می‌شود به سادگی قابل حل هستند، البته با اعمال فشار شدید و به کارگیری منابع بیشتر و بزرگتر. چه اشتباهی ممکن است رخ دهد؟

خوب فعلاً سه چالش وجود دارند که پیشاپیش در سطح اجتماعی با آن مواجه هستیم. اول، آموزش مدل‌های هوش مصنوعی بزرگ بسیار هزینه‌بر است، و تنها اندکی از شرکت‌های فناور از پس این هزینه‌ها بر می‌آیند. برای همین پیشاپیش تجمیع قدرت اتفاق افتاده است. اما مشکل بدتر امنیت هوش مصنوعی است، ما فعلاً از نعمت چند شرکت فناور برخوردار هستیم چون محققین در اجتماعات بزرگتر ابزاری برای بررسی واقعی و تحلیل این مدل‌ها در اختیار ندارند. و باقی گذاشتن حجم زیاد آثار کربن و تأثیر زیست محیطی آن را فراموش نکنیم.

و این سوالات ذهنی اضافه هم وجود دارند. آیا هوش مصنوعی بدون عقل سلیم قوی آیا واقعاً برای بشریت ایمن است؟ و آیا این حجم فشار زیاد تنها راه و حتی تنها روش صحیح آموزش هوش مصنوعی است؟

به همین خاطر این روزها می‌پرسم آیا تحقیقی معنادار بدون محاسبات حجم بزرگ اصلاً امکان دارد. و من در دانشگاه و موسسه غیرانتفاعی کار می‌کنم، پس نمی‌توانم از پس هزینه‌های مزارع بزرگ جی‌پی‌یو در خلق مدل‌های زبانی بزرگ بر آیم. با این اوصاف، فکر می‌کنم کارهای زیادی باید انجام دهیم و می‌توانیم انجام دهیم تا هوش مصنوعی را پایدارتر و انسانی‌تر کنیم. باید هوش مصنوعی را کوچکتر کنیم تا عمومی شود. و باید هوش مصنوعی را با آموزش ارزش‌ها و هنجارهای انسانی ایمن‌تر کنیم. شاید بتوانیم وجه تشبیهی از «داوود و جالوت» را تصویر کنیم، اینجا جالوت، مدل‌های زبانی بسیار بزرگ هستند، و بدنبال الهام گرفتن از اثر کلاسیک قدیمی «هنر جنگ» هستم که طبق تفسیر من می‌گوید: دشمن خود را بشناس، مبارزات را انتخاب کن و در سلاح‌ها نوآوری کن.

با اولی شروع کنیم، دشمن خود را بشناس، که یعنی نیاز داریم هوش مصنوعی را با ریزبینی ارزیابی کنیم. هوش مصنوعی در آزمون وکالت قبول می‌شود. آیا به این معناست که هوش مصنوعی از عقل سلیم قوی برخوردار است؟ ممکن است چنین فرض کنید ولی هرگز مطمئن نیستید.

خوب فرض کنید من پنج لباس را برای خشک شدن زیر آفتاب گذاشته‌ام، و پنج ساعت طول می‌کشد تا کاملاً خشک شود. چقدر طول می‌کشد تا سی لباس خشک شوند؟ جی‌پی‌تی۴، قویترین سیستم هوش مصنوعی می‌گوید سی ساعت. خوب نیست. یکی دیگر. من یک ظرف ۱۲ لیتری و یک ظرف ۶ لیتری دارم، و می‌خواهم ۶ لیتر اندازه بگیرم. چطور این کار را بکنم؟ کافی است از ظرف شش لیتری استفاده کنم. درست؟ جی‌پی‌تی۴ راه غیرمنطقی بسیار پیچیده را پیشنهاد می‌دهد.