استارتاپ هوش مصنوعی پس از کشفِ یک واقعیت چندش‌آور، کل وب‌سایت خود را حذف کرد
در یکی از تلخ‌ترین نمونه‌های سوءاستفاده از هوش مصنوعی در سال‌های اخیر، یک استارتاپ کره‌ای به نام GenNomis، که در زمینه تولید تصاویر با استفاده از هوش مصنوعی فعالیت می‌کرد، به‌طور ناگهانی خود را آفلاین کرد. دلیل این اقدام، یافته‌ی نگران‌کننده‌ای بود که در جریان یک پژوهش امنیت سایبری (Cybersecurity Research) به‌دست آمد: کشف ده‌ها هزار تصویر مستهجن تولیدشده توسط نرم‌افزار این شرکت!
این تصاویر نه‌تنها محتوایی غیراخلاقی داشتند، بلکه از نظر شباهت بصری به افراد واقعی، بسیار نزدیک و فریبنده بودند. در میان آن‌ها چهره‌هایی از زنان ناشناس، شخصیت‌های مشهور، سیاستمداران و حتی در کمتا تاسف کودکان دیده می‌شد.
مسئولیت‌پذیریِ پژوهشگر، سکوت شرکت
فردی به نام جِرِمایا فاولِر (Jeremiah Fowler) که این پایگاه داده‌ی ناامن را کشف کرده بود، بلافاصله گزارش مسئولانه‌ای برای اطلاع‌رسانی به شرکت GenNomis و شرکت مادر آن، AI-Nomis، ارسال کرد. پس از این هشدار، دسترسی عمومی به پایگاه داده قطع شد. اما ماجرا به این‌جا ختم نشد. تنها چند ساعت پس از آن‌که یک خبرنگار از آن‌ها برای دریافت نظر رسمی تماس گرفت، هر دو شرکت به‌طور کامل از اینترنت محو شدند.
فراگیر شدن پدیده‌ی «دیپ‌فیک» Deepfake
ماجرای GenNomis فقط بخش کوچکی از یک روند بسیار خطرناک‌تر است: تولید فزاینده‌ی تصاویر و ویدیوهای غیراخلاقی از افراد واقعی، بدون رضایت آن‌ها. ابزارهای تولید تصویر با هوش مصنوعی، که این روزها به راحتی در دسترس کاربران عادی قرار گرفته‌اند، باعث شیوع گسترده‌ی پدیده «دیپ‌فِیک» شده‌اند.
این فناوری آن‌قدر پیشرفته شده که می‌تواند چهره‌ی افراد را در موقعیت‌هایی قرار دهد که هرگز واقعاً در آن نبوده‌اند. نتیجه؟ افترا، سوءاستفاده جنسی، اخاذی و نابودی حیثیت فردی.
فاجعه برای زنان و کودکان؛ سکوت قانون
واقعیت تلخ اینجاست که بیشتر قربانیان این محتواهای جعلی، زنان هستند. و بدتر آن‌که، در برخی موارد حتی کودکان نیز در این تصاویر دیده می‌شوند. این تولیدات نه‌تنها تجاوز به حریم خصوصی و بی‌احترامی مطلق به کرامت انسانی‌اند، بلکه در بسیاری موارد باعث اخراج افراد از شغل، آسیب روانی شدید، و تهدیدهای مالی شده‌اند.
کره جنوبی؛ مرکز موج نگران‌کننده
شاید عجیب نباشد که این استارتاپ در کره جنوبی مستقر بود. براساس یک پژوهش در سال ۲۰۲۳، حدود ۵۳ درصد از زنان قربانی در دیپ‌فیک‌ها، کره‌ای بوده‌اند؛ یعنی بیش از نیمی از تمام قربانیان جهان. برای مقایسه، زنان آمریکایی تنها ۲۰ درصد را تشکیل می‌دادند.
افزایش این نوع سوءاستفاده دیجیتال در کره جنوبی، با رشد گفتارهای زن‌ستیزانه و حملات علیه جنبش‌های حقوق زنان همراه شده است. بسیاری از چهره‌های سیاسی و رسانه‌ای در این کشور، به جای حمایت از زنان، آن‌ها را مقصر افزایش خودکشی مردان معرفی می‌کنند.
قانون‌گذاری؛ بسیار عقب‌تر از واقعیت
درحالی‌که در کشورهایی مانند چین قانون‌گذاران از ابتدا خواستار نشانه‌گذاری واضح تمام تولیدات دیجیتالی با هوش مصنوعی شده‌اند، کشورهای غربی هنوز در ابتدای مسیر قانون‌گذاری‌اند. در آمریکا، قوانین مربوط به دیپ‌فیک‌های جنسی از ایالتی به ایالت دیگر متفاوت است و بسیاری از قربانیان همچنان بدون پشتیبانی حقوقی باقی می‌مانند.
وقتی فناوری از اخلاق جلو می‌زند
داستان GenNomis فقط یک هشدار دیگر است. هشدار برای جهانی که در آن فناوری، با شتابی غیرقابل‌کنترل، از اخلاق و قانون پیشی گرفته. هرچند برخی از این وب‌سایت‌ها پس از افشاگری حذف می‌شوند، اما آسیب واردشده به هزاران زن در سراسر جهان، واقعیتی است که دیگر قابل پاک‌کردن نیست.
منبع: futurism
