ایلان ماسک و خبرههای فناوری خواستار توقف آزمایشهای “خطرناک” هوش مصنوعی شدند
ایلان ماسک، بنیانگذار اپل، استیو وزنیاک، و تعدادی دیگر از کارشناسان فناوری نامهای سرگشاده را امضا کردهاند که در آن خواستار توقف توسعه هوش مصنوعی (AI) شدهاند.
این نامه از آزمایشگاههای هوش مصنوعی در سراسر جهان میخواهد تا به طور موقت توسعه سیستمهای هوش مصنوعی در مقیاس بزرگ را برای مدیریت «خطرات عمیق» که مدلهای یادگیری عمیق برای جامعه ایجاد میکنند، متوقف کنند.
در این نامه آمده است: «سیستمهای هوش مصنوعی در حال حاضر در حال تبدیل شدن به رقیب انسان در وظایف عمومی هستند. سیستمهای هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آنها مثبت و خطرات آنها قابل مدیریت خواهد بود.»
نویسندگان نامه استدلال میکنند که اکنون زمان بررسی مستقل هوش مصنوعی در یک دوره شش ماهه است که در آن آزمایشگاههای هوش مصنوعی باید فوراً فعالیتهای خود را متوقف کنند.
«این مکث باید عمومی و قابل تأیید باشد و همه بازیگران کلیدی را شامل شود. اگر چنین مکثی نمیتواند به سرعت اعمال شود، دولتها باید وارد عمل شوند و یک تعلیق وضع کنند.»
کارشناسان فناوری میخواهند مجموعهای از پروتکلهای ایمنی مشترک توسعهیافته برای هوش مصنوعی را ببینند که میتواند توسط کارشناسان مستقل خارجی نظارت شود.
نویسندگان میافزایند: «این به معنای توقف توسعه هوش مصنوعی به طور کلی نیست، بلکه صرفاً به معنای عقبنشینی از مسابقه خطرناک به سمت مدلهای پیش بینی بزرگتر با قابلیتهای نوظهور است».
این نامه به ماشینهای هوش مصنوعی اشاره میکند که کانالهای اطلاعاتی ما را با اطلاعات نادرست پر میکنند. به تازگی تصاویر جعلی اخیر از دستگیری دونالد ترامپ منتشر شده بود که تقریبا در نگاه سرسرس باورپذیر بود. همچنین توانایی ChatGPT برای نوشتن مقاله و شرکت در امتحانات هم سوالبرانگیز است.
«آیا باید همه مشاغل، را خودکار کنیم؟ آیا باید ذهنهای غیرانسانی را پرورش دهیم که در نهایت ممکن است از از نظر کمی از ما پیشی گرفته، ما را منسوخ کنند و جایگزین ما شوند؟» این نامه این هشدار را مطرخ میکند.
«آیا در خطر از دست دادن کنترل تمدن خود هسنیم؟ چنین تصمیماتی نباید به رهبران فناوری منتخب واگذار شود.»
امضاکنندگان، آزمایشگاههای هوش مصنوعی را متهم میکنند که «در مسابقهای خارج از کنترل برای توسعه و استقرار ذهنهای دیجیتالی قدرتمندتر که هیچکس – حتی سازندگان آنها – نمیتواند درک، پیشبینی یا بهطور قابل اعتماد کنترل کند، قفل شدهاند.»
بیش از 1000 نفر از جمله متخصصان و متفکران برجستهای مانند ایلان ماسک، نویسنده نامدار یووال نوح هراری، بنیانگذار اسکایپ، جان تالین، بنیانگذار اپل، استیو وزنیاک، و عماد مستاک که یکی از بنیانگذاران Stability AI one بودند، این نامه را امضا کرده اند.
این نامه توسط مؤسسه Future of Life منتشر شده است که به گفته رویترز ، عمدتاً توسط بنیاد ماسک تأمین مالی می شود.
استثناهای قابل توجهی که نامه را امضا نکردهاند شامل سم آلتمن، مدیر اجرایی OpenAI، و بنیانگذار Midjourney، دیوید هولز هستند.
گری مارکوس، استاد دانشگاه نیویورک که نامه را امضا کرده است، می گوید: “نامه کامل نیست، اما روح آن درست است: ما باید سرعت خود را کم کنیم تا زمانی که عواقب هوش مصنوعی را بهتر درک کنیم.”
مطالب مرتبط
