تهدید زیستی پنهان در عصر هوش مصنوعی؛ آیا «روز صفر زیستی» آغاز عصر جدیدی از خطرات ژنتیکی است؟
آیا ممکن است هوش مصنوعی پروتئینهای سمی طراحی کند که از دید سیستمهای امنیت زیستی پنهان بمانند؟
تصور کنید روزی یک پژوهشگر در آزمایشگاهی آرام در سیاتل، تنها با چند کلیک در نرمافزار طراحی پروتئین، مولکولی را میسازد که هیچ موجود زندهای در تاریخ زمین هرگز نداشته است. ساختار سهبعدی آن زیباست، اما میتواند مانند سم «رایسین» (Ricin) کشنده باشد. اکنون دیگر تولید چنین مولکولی نیازی به آزمایشگاه مخفی یا تجهیزات گرانقیمت ندارد، بلکه به کمک هوش مصنوعی (AI) میتواند روی لپتاپی خانگی هم انجام شود.
پژوهشی تازه از مایکروسافت، مفهوم تازهای به جهان امنیت زیستی معرفی کرده است: «زیرو-دی بیولوژیک» (Biological Zero-Day). همانگونه که در امنیت سایبری این اصطلاح به رخنهای ناشناخته در نرمافزار گفته میشود، در اینجا به شکافی اشاره دارد که میتواند مانع شناسایی تهدیدهای ژنتیکی تازه شود.
موضوعی که زمانی خیالپردازانه به نظر میرسید، اکنون در حال تبدیل شدن به دغدغهای واقعی است؛ چراکه ابزارهای طراحی پروتئین با هوش مصنوعی، قادرند مولکولهایی بیافرینند که از دید سامانههای پایش ژن (biosurveillance) و فیلترهای سفارش DNA عبور کنند.
سؤال کلیدی این است: آیا جهان برای چنین تهدیدی آماده است؟
وقتی هوش مصنوعی به درِ آزمایشگاه زیستمولکولی میرسد
در دهههای اخیر، ساخت هر مولکول زیستی تنها با سفارش اینترنتی چند رشته DNA ممکن شده است. شرکتهای بیوتک در سراسر جهان خدمات «سنتز ژن» ارائه میدهند؛ یعنی هر کس میتواند توالی دلخواه خود را وارد کند و چند روز بعد آن را درون لولهای کوچک تحویل بگیرد.
برای جلوگیری از سوءاستفاده، دولتها و نهادهای صنعتی سامانهای طراحی کردند تا پیش از ارسال، توالیهای DNA را بررسی کند. این سامانه میتواند تشخیص دهد آیا رشتهٔ مورد سفارش بخشی از ژن ویروسها یا سموم شناختهشده است یا نه.
اما مشکل از جایی آغاز میشود که توالیهای DNA الزاماً یکتا نیستند. چندین رشتهٔ متفاوت میتوانند یک پروتئین واحد را بسازند، و از سوی دیگر، چندین پروتئین میتوانند کارکردی مشابه داشته باشند. این یعنی ممکن است فردی توالیای سفارش دهد که هیچ شباهتی به ژن یک سم شناختهشده ندارد، اما پروتئینی بسازد که همان اثر مرگبار را ایجاد کند.
«زیرو-دی بیولوژیک» دقیقاً چیست؟
تیم پژوهشی مایکروسافت این فرضیه را بررسی کرد که ابزارهای طراحی پروتئین مبتنی بر هوش مصنوعی میتوانند نسخههایی از سموم بسازند که از دید نرمافزارهای نظارت ژنتیکی پنهان بمانند.
برای آزمودن این ایده، آنها از مدلهای طراحی پروتئین مانند AlphaFold و RFdiffusion استفاده کردند تا نسخههای تازهای از سم معروف «ریکین» تولید کنند و سپس آنها را از فیلتر سامانههای امنیت زیستی عبور دهند.
نتیجه شوکهکننده بود: برخی از این نسخههای مصنوعی هیچ نشانهای از خطر در سامانههای موجود ایجاد نکردند. درست مانند یک «باگ امنیتی ناشناخته» در دنیای سایبری، این شکاف میتواند به مهاجمان زیستی اجازه دهد تا مولکولهایی طراحی کنند که هیچ سامانهای هشدارشان را صادر نمیکند.
نحوهٔ واکنش محققان به این «باگ زیستی»
در اقدامی شبیه به پروتکلهای امنیت سایبری، محققان مایکروسافت بلافاصله نهادهای مربوط به امنیت زیستی را مطلع کردند. این شامل کنسرسیوم بینالمللی سنتز ژن (IGSC)، دفتر سیاست علم و فناوری آمریکا (OSTP)، وزارت امنیت داخلی (DHS) و دفتر آمادگی و پاسخ به همهگیریها بود.
تا پیش از تکمیل بررسی و ارائهٔ «وصلهٔ امنیتی» (Patch) جزئیات دقیق نتایج محرمانه باقی ماند. سپس پژوهش در قالب مطالعهای گستردهتر روی ۷۲ سم مختلف انجام شد.
در مجموع بیش از ۷۵ هزار نسخه از پروتئینهای سمی با استفاده از سه ابزار متنباز هوش مصنوعی طراحی و از طریق چهار سامانهٔ نظارتی مورد بررسی قرار گرفتند.
شکاف بزرگ در فیلترهای امنیت زیستی
نتایج نهایی تفاوتهای چشمگیری را نشان داد. از میان چهار سامانهٔ بررسی، دو مورد عملکردی مطلوب داشتند، یکی متوسط بود و دیگری تقریباً اکثر نسخهها را بدون هشدار عبور داد.
نکتهٔ جالب آن بود که سامانهها در تشخیص نسخههایی که ساختار سهبعدی نزدیکتری به سم اصلی داشتند، موفقتر بودند. در مقابل، نسخههایی که تفاوت ساختاری بیشتری داشتند، اغلب از دید سیستمها پنهان ماندند—even اگر هنوز از نظر عملکردی خطرناک بودند.
پس از آگاهی از این نتایج، سه شرکت نرمافزاری بهسرعت الگوریتمهای خود را بهروزرسانی کردند و توان شناسایی آنها بهطور محسوسی افزایش یافت. با این حال، حتی نسخههای بهروزشده نیز حدود ۱ تا ۳ درصد از پروتئینهای بسیار مشابه را از قلم انداختند.
در دنیای امنیت سایبری، چنین نرخی از نفوذ شاید قابلقبول باشد، اما در زیستامنیت، حتی یک درصد نیز میتواند تفاوت میان امنیت و فاجعه باشد.
مسئله فقط درباره سموم نیست
پژوهش همچنین نشان داد برخی از پروتئینهای فرعی، مانند «کوفاکتورها» (co-factors) که برای فعال شدن یک سم ضروریاند، اصلاً توسط سیستمها تهدیدآمیز تلقی نمیشدند. در نتیجه، حتی نسخههای اصلاحشدهٔ آنها نیز بدون هشدار عبور کردند.
این یافته باعث شد برخی شرکتها اعلام کنند تهدید فوری نمیبینند، زیرا برای سوءاستفاده از این شکاف نیاز به ترکیب چند عامل همزمان است. با این حال، گروه تحقیق هشدار داد که با پیشرفت سریع طراحی مولکولی مبتنی بر هوش مصنوعی، چنین «باگهای زیستی» ممکن است در آینده به تهدید واقعی تبدیل شوند.
هوش مصنوعی و مرز نامرئی میان نوآوری و تهدید
طراحی پروتئین با هوش مصنوعی (AI protein design) در ظاهر، انقلابی در علم داروسازی و زیستفناوری است. این فناوری میتواند داروهایی دقیقتر، واکسنهایی هدفمندتر و آنزیمهایی سازگار با محیطزیست تولید کند. اما همان فناوری، اگر از مسیر درست منحرف شود، میتواند برای ساخت سموم یا پاتوژنهای مصنوعی بهکار رود.
در حال حاضر، سامانههای هوش مصنوعی هنوز در حدی نیستند که بتوانند مولکولهایی کاملاً جدید و در عین حال کارآمد بسازند. بیشتر طراحیها نیاز به آزمایشهای متعدد دارند تا تنها چند مورد از میان هزاران گزینه مؤثر واقع شوند. اما مسیر پیشرفت روشن است: مدلهایی که امروز در چند ساعت میتوانند شکل تاخوردهٔ (folding) یک پروتئین را پیشبینی کنند، ممکن است در چند سال آینده بتوانند عملکرد زیستی کامل آن را نیز تخمین بزنند.
در چنین حالتی، دیگر هیچ مرجع امنیتی نمیتواند تنها با مقایسهٔ شباهت ژنتیکی، تهدید را تشخیص دهد. چون توالی جدید ممکن است هیچ شباهتی به توالیهای شناختهشده نداشته باشد و با این حال همان اثر را ایجاد کند.
ناتوانی ذاتی سامانههای نظارتی
حتی اگر فیلترهای نظارتی بهروزرسانی شوند، همیشه محدودیتی بنیادی وجود دارد: آنها تنها قادرند توالیهای شناختهشده یا مشابه را بررسی کنند. اما وقتی هوش مصنوعی از دادههای زیستی عظیم برای ساخت مولکولهایی با عملکردهای کاملاً نو بهره میگیرد، اساساً هیچ «امضای ژنتیکی» قابل تشخیصی باقی نمیماند.
به تعبیر یکی از پژوهشگران، این درست مانند حالتی است که آنتیویروسها بتوانند فقط ویروسهای شناختهشده را شناسایی کنند، نه بدافزارهای نو که از پایه بازنویسی شدهاند.
بهعلاوه، همانطور که پژوهش مایکروسافت نشان داد، حتی درصد اندکی از خطا در غربالگری میتواند به دسترسی بالقوه برای طراحی سموم جدید منجر شود؛ خصوصاً اگر طراحان بدخواه از چندین مدل هوش مصنوعی مختلف استفاده کنند تا احتمال عبور را بالا ببرند.
تهدید واقعی در آینده نهفته است
در حال حاضر، چنین تهدیدی هنوز بیشتر در سطح نظری است. طراحی سم مؤثر به عواملی مانند نفوذپذیری به غشای سلول، پایداری در بدن، و سازوکار تخریب وابسته است که حتی برای دانشمندان خبره هم بهسختی قابل بازتولید است.
اما پژوهشگران هشدار میدهند که خطر نه در امروز، بلکه در روند شتابگرفتهٔ پیشرفت نهفته است. با ادغام مدلهای زبانی مولکولی (molecular language models) با دادههای ساختاری، ممکن است هوش مصنوعی بتواند الگوهای زیستی جدیدی خلق کند که نه بر اساس طبیعت، بلکه بر پایه منطق الگوریتمی ساخته شدهاند. چنین مولکولهایی میتوانند از دید هر سامانهٔ فعلی پنهان بمانند.
ضرورت تدوین استانداردهای جهانی امنیت زیستی
ماجرا بهوضوح نشان میدهد که دوران تازهای در امنیت زیستی آغاز شده است؛ دورانی که در آن باید همان رویکرد «امنیت از ابتدا» (security-by-design) که در دنیای نرمافزار رواج دارد، به حوزهٔ زیستمولکولی نیز منتقل شود.
متخصصان پیشنهاد کردهاند که هر نرمافزار طراحی پروتئین باید دارای «مدل هشدار زیستی» (bio-alert module) داخلی باشد که خروجیهای مشکوک را شناسایی کند. همچنین لازم است شبکهای جهانی از شرکتهای سنتز ژن ایجاد شود تا پایگاه دادهٔ مشترکی از توالیهای مشکوک بسازند.
با توجه به رشد سریع ابزارهای هوش مصنوعی، تأخیر در وضع این مقررات میتواند به معنای از دست دادن کنترل بر یکی از قدرتمندترین فناوریهای تاریخ بشر باشد.
جمعبندی
پژوهش مایکروسافت زنگ هشداری است برای عصر هوش مصنوعی در زیستفناوری. هرچند خطر فوری مشاهده نشده است، اما پدیدهٔ «زیرو-دی بیولوژیک و پروتئینهای طراحیشده با هوش مصنوعی» به ما یادآوری میکند که امنیت زیستی نمیتواند تنها به فهرست تهدیدهای شناختهشده محدود بماند.
جهان باید برای دورهای آماده شود که در آن «نوآوری مولکولی» و «تهدید زیستی» از هم جداکردنی نباشند. چالش اصلی آینده نه مهار فناوری، بلکه همگامسازی اخلاق و امنیت با سرعت تحول آن است.
❓سؤالات رایج (FAQ)
۱. زیرو-دی بیولوژیک چیست؟
به شکاف یا آسیبپذیری ناشناخته در سامانههای نظارت ژنتیکی گفته میشود که میتواند مانع شناسایی تهدیدهای زیستی جدید شود، مانند پروتئینهای سمی طراحیشده با هوش مصنوعی.
۲. آیا هوش مصنوعی واقعاً میتواند سم تولید کند؟
در حال حاضر نه بهطور کامل، اما میتواند نسخههایی از پروتئینهای شناختهشده را بازطراحی کند که برخی از آنها از فیلترهای نظارتی عبور میکنند. با پیشرفت مدلها، احتمال طراحی سمهای مؤثر افزایش مییابد.
۳. آیا سیستمهای فعلی امنیت زیستی قابل اعتماد هستند؟
تا حدی بله، اما پژوهش مایکروسافت نشان داد که حتی نسخههای بهروزشدهٔ فیلترها حدود ۱ تا ۳ درصد از پروتئینهای خطرناک را تشخیص نمیدهند.
۴. خطر اصلی در آینده چیست؟
خطر در توانایی هوش مصنوعی برای خلق پروتئینهای کاملاً جدید با عملکردهای خطرناک نهفته است؛ پروتئینهایی که هیچ شباهتی به نمونههای شناختهشده ندارند و بنابراین قابل ردیابی نیستند.
۵. چه اقداماتی برای مقابله باید انجام شود؟
ایجاد استاندارد جهانی برای غربالگری DNA، افزودن ماژولهای هشدار زیستی در نرمافزارهای طراحی پروتئین و همکاری میان دولتها و شرکتهای فناوری ضروری است.
مطالب مرتبط
