هوش مصنوعی آنتروپیک -فابل ۵- در منگنه امنیت ملی | از انتشار جنجالی تا توقیف فوری توسط دولت آمریکا

۰۱

آنتروپیک چیست و چرا میتوس جهان را نگران کرد؟

شرکت آنتروپیک که توسط مدیران سابق اوپن‌‌ای‌آی با تمرکز بر «ایمنی» بنیان‌گذاری شده، همواره خود را به عنوان جایگزین اخلاق‌مدار در دنیای هوش مصنوعی معرفی کرده است. با این حال، زمانی که آن‌ها مدل کلاس میتوس را معرفی کردند، پارادوکس بزرگی شکل گرفت؛ این مدل در شناسایی حفره‌های امنیتی ناشناخته چنان مهارتی داشت که عملاً به یک لبه تیز برای حملات سایبری تبدیل می‌شد. قابلیت‌های هوش مصنوعی میتوس آنتروپیک در ابتدا تنها در اختیار غول‌هایی مانند گوگل و اپل قرار گرفت تا زیرساخت‌های خود را وصله کنند، اما میل به رقابت در بازار یک تریلیون دلاری باعث شد نسخه تعدیل‌شده‌ای به نام فابل ۵ برای عموم منتشر شود. آنتروپیک مدعی بود که با استفاده از پادمان‌های سخت‌گیرانه، این مدل را برای کارهای علمی و مهندسی نرم‌افزار بی‌خطر کرده است، غافل از اینکه نهادهای نظارتی به چیزی کمتر از کنترل کامل رضایت نمی‌دهند.

۰۲

فرمان توقف فوری؛ وقتی وزارت بازرگانی وارد عمل می‌شود

ماجرا از هفته گذشته و با یک اقدام ناگهانی از سوی نهادهای حاکمیتی آغاز شد. وزارت بازرگانی ایالات متحده نامه‌ای را با قید فوریت و به صورت محرمانه برای شرکت آنتروپیک ارسال کرد که محتوای دقیق آن هنوز از دسترس عموم خارج است. در این دستورِ سخت‌گیرانه، از شرکت خواسته شده بود که پلتفرم‌های پیشرفته «فابل ۵» و «میتوس ۵» را در بازه زمانی بسیار کوتاهی که کمتر از دو ساعت بود به طور کامل از دسترس خارج کند.

دلیل این همه عجله و اضطرار دولت، ترس از پدیده‌ای است که در دنیای فناوری به آن «جیل‌بریک» می‌گویند. به زبان ساده، جیل‌بریک یعنی کاربر بتواند با استفاده از روش‌های زیرکانه، تمامی فیلترها و سپرهای حفاظتی هوش مصنوعی را دور بزند و آن را مجبور کند کارهای غیرقانونی یا خطرناک انجام دهد. دولت آمریکا نگران بود که اگر این اتفاق بیفتد، هکرهای حرفه‌ای یا کشورهای متخاصم بتوانند از توانایی‌های بالای این مدل برای طراحی حملات سایبری سنگین و تخریب سیستم‌های حساس استفاده کنند.

مدیران آنتروپیک اگرچه مجبور شدند از این دستور پیروی کنند و سیستم را خاموش کردند، اما در پاسخ خود به تندی از این اقدام انتقاد کردند. آن‌ها توضیح دادند که در دنیای دیجیتال، هیچ سیستمی وجود ندارد که ۱۰۰ درصد نفوذناپذیر باشد و همیشه راهی برای دور زدن محدودیت‌ها توسط افراد بسیار متخصص پیدا می‌شود. حرف نهایی آن‌ها این بود که تعطیل کردن ناگهانی یک سرویس بین‌المللی که میلیون‌ها کاربر دارد، آن هم فقط به خاطر یک احتمال کوچک و ضعیف، نه تنها منطقی نیست بلکه باعث می‌شود کل صنعت هوش مصنوعی با یک بن‌بست بزرگ و جدی روبرو شود و پیشرفت آن متوقف شود.

۰۳

تضاد منافع در لایه‌های قدرت؛ از وزارت دفاع تا آژانس امنیت ملی

نکته عجیب در مورد قابلیت‌های هوش مصنوعی میتوس آنتروپیک، رویکردهای متناقض سازمان‌های دولتی است. در حالی که وزارت جنگ، آنتروپیک را به عنوان یک خطر برای زنجیره تامین معرفی کرده، آژانس امنیت ملی (NSA) برای استفاده از این مدل استثنا قائل شده؛ چرا که هیچ ابزار دیگری قدرت میتوس را در کشف آسیب‌پذیری‌های نرم‌افزاری ندارد. این وضعیت نشان می‌دهد که دولت آمریکا خود نیز درگیر یک دوگانگی است: از سویی می‌خواهد مانع دسترسی دشمنان به این فناوری شود و از سوی دیگر برای حفظ برتری دفاعی خود به شدت به آن وابسته است. اکنون کارشناسان هشدار می‌دهند که این مدل‌ها در ردیف تسلیحات هسته‌ای و سیستم‌های موشکی طبقه‌بندی شده‌اند و دسترسی به آن‌ها دیگر یک موضوع تجاری ساده نیست.

۰۴

تغییر سیاست داده‌ها؛ پایان دوران حریم خصوصی مطلق؟

یکی دیگر از جنبه‌های جنجالی عرضه فابل ۵، تغییر ناگهانی سیاست‌های نگهداری داده بود. برخلاف مدل‌های قبلی مانند اپوس و سونیت که اجازه حذف کامل داده‌های سازمانی را می‌دادند، فابل ۵ کاربران را ملزم به پذیرش جمع‌آوری و نگهداری داده‌ها کرد. این اقدام که تعهدات قبلی آنتروپیک به شرکت‌های بزرگ را زیر پا گذاشت، گمانه‌زنی‌هایی را در مورد فشار دولت برای دسترسی به تعاملات کاربران ایجاد کرده است. حقوقدانان بر این باورند که این تغییر سیاست، استفاده از فابل ۵ را برای سازمان‌هایی که با اطلاعات محرمانه و اسرار تجاری سر و کار دارند، به یک ریسک حقوقی بزرگ تبدیل می‌کند که می‌تواند پیامدهای درازمدتی برای اعتماد مشتریان داشته باشد.