برنامههای هوش مصنوعی ساخت ویدیوهای بوسه: تهدید جدید و خطرناک در دنیای دیجیتال

هوش مصنوعی (AI) به سرعت در حال تحول است و در بخشهای گوناگون زندگی انسانها حضور یافته.هر روز خبرهای مختلفی در مورد پیشرفت برنامههای هوش مصنوعی و ظهور برنامههای جدید میخوانیم که وعده میدهند کارهای وقتگیر دیروز را در زمان بسیار کوتاه انجام بدهند و چه بسا بسیار بهتر.
اما به تازگی آنچه که در حال حاضر نگرانیهایی جدی ایجاد کرده، ظهور برنامههای هوش مصنوعی است که میتوانند ویدیوهایی از بوسههای ساختگی بسازند. این برنامهها به کاربران این امکان را میدهند که با بارگذاری عکسهای دو نفر، هوش مصنوعی آنها را به ویدیوهای ساختگی تبدیل کند که در آن افراد در حال بوسیدن یکدیگر هستند. در حالی که ممکن است این برنامهها به نظر سرگرمکننده و بیضرر بیایند، اما خطرات و پیامدهای جدی و گستردهای در پی دارند.
این اپلیکیشنها به گونهای طراحی شدهاند که کاربران بدون نیاز به رضایت فرد مقابل میتوانند هر کسی را که میخواهند، در یک ویدیوی بوسه ببیند. این یعنی هیچگونه نظارت و اجازهای از سوی شخص مورد نظر در کار نیست و حتی ممکن است تصاویر و ویدیوهای افراد مشهور یا اشخاص معمولی مورد سوءاستفاده قرار گیرد. چنین اپلیکیشنهایی به شدت شبیه به برنامههای «هوش مصنوعی برهنهسازی» (AI nudifier) هستند که محتوای غیرمجاز و پورنوگرافی تولید میکنند، با این تفاوت که به جای تصاویر جنسی، در این برنامهها ویدیوهای بوسه تولید میشود که بهطور واضح نقض حریم خصوصی و حقوق افراد است.
چرا این روند خطرناک است؟
بسیاری از این برنامهها به کاربران این وعده را میدهند که میتوانند «هر کسی را که میخواهید ببوسید» یا «عشق سابق خود را دوباره ببوسید». چنین وعدههایی به ظاهر بیضرر به نظر میرسند، اما از آنجا که افراد در این ویدیوها بهطور مصنوعی در حال انجام کارهایی هستند که در واقعیت انجام ندادهاند، این برنامهها بهطور جدی به حریم خصوصی و حقوق انسانها آسیب میزنند. علاوه بر این، استفاده از این فناوریها میتواند به عادیسازی و گسترش محتوای دیپفیک (deepfake) و تصاویر ساختگی خطرناک منجر شود که با استفاده از آن میتوان محتوای زیانبارتری مانند پورنوگرافی یا تصاویر سوءاستفادهآمیز جنسی تولید کرد.
تکنولوژیهای دیپفیک به گونهای کار میکنند که تصاویر یا ویدیوهای ساختهشده بسیار واقعی به نظر میرسند و به راحتی میتوان آنها را در دنیای دیجیتال پخش کرد. این تصاویر میتوانند به سرعت در شبکههای اجتماعی منتشر شوند و بهراحتی آسیبهای جبرانناپذیری به افراد وارد کنند. به گفته هالی مکنامارا، مدیر اجرایی مرکز ملی بهرهبرداری جنسی (National Center for Sexual Exploitation)، «این برنامهها حتی اگر محتوای جنسی نداشته باشند، هنوز هم میتوانند بسیار آسیبزا و غیر اخلاقی باشند.»
گسترش تبلیغات این برنامهها: خطرات بیشتر برای کاربران
این اپلیکیشنها اکنون در سطح جهانی در حال تبلیغ هستند. بهطور خاص، پلتفرمهای اجتماعی مانند Meta (مالکیت Instagram و Facebook) و TikTok هزاران تبلیغ برای این برنامهها منتشر کردهاند. در این تبلیغات، معمولاً ویدیوهایی از افراد مشهور مانند اسکارلت جوهانسون، اما واتسون و گل گادوت دیده میشوند. حتی برخی از این تبلیغات شامل ویدیوهای ساختگی از افراد تصادفی است که در آنها وعده داده میشود میتوانید «از عشق سابق خود بوسه بگیرید» یا «در خیالپردازیهایتان کسی را که میخواهید ببوسید.» این تبلیغات بدون هیچگونه نظارت و با استفاده از تصاویر و ویدیوهای ساختهشده توسط هوش مصنوعی منتشر میشوند.
طبق بررسیهای انجامشده، شرکت Meta بیش از ۲۵۰۰ تبلیغ برای این برنامهها منتشر کرده است و حدود ۱۰۰۰ مورد از این تبلیغات هنوز هم فعال هستند. TikTok نیز مشابه همین روند را دنبال کرده و در کشورهای اروپایی حدود ۱۰۰۰ تبلیغ از این برنامهها به کاربران نشان داده است. نکته نگرانکننده این است که این تبلیغات بیشتر از آنکه بر مسائل اخلاقی یا آگاهیدهنده تمرکز کنند، بهطور مستقیم یا غیرمستقیم هنجارهای اجتماعی و اخلاقی را نقض کرده و از تصاویر واقعی افراد برای ایجاد تصاویر و ویدیوهای غیرواقعی استفاده میکنند.
محتوای ساختگی در حال گسترش است: چه پیامدهایی دارد؟
گسترش و رواج این ویدیوهای ساختگی از افراد مشهور و حتی افراد معمولی، بهطور جدی نگرانکننده است. این ویدیوها به راحتی میتوانند در شبکههای اجتماعی منتشر شوند و بهطور گسترده توسط کاربران دیگر پخش شوند. این روند نه تنها به معنای نقض حریم خصوصی افراد است، بلکه میتواند بهطور جدی امنیت روانی و اجتماعی افراد را تهدید کند.
بهعلاوه، در برخی از این تبلیغات، به کاربران وعده داده میشود که با استفاده از هوش مصنوعی میتوانند «پدر و مادرشان را که هرگز ملاقات نکردهاند، در آغوش بگیرند» یا «بهطور مجازی با شخصیتهای کارتونی محبوبشان ملاقات کنند.» این تبلیغات در ظاهر به نظر نمیرسند که آسیبزننده باشند، اما در حقیقت بهطور جدی میتوانند در آینده به تولید محتوای دیپفیکهای جنسی یا سایر انواع سوءاستفادههای آنلاین منجر شوند.
چالشهای اخلاقی و قانونی: نیاز به اقدامات جدی
گسترش استفاده از چنین برنامههایی و تبعات آن، باعث شده که بسیاری از کارشناسان و حقوقدانان از جمله هالی مکنامارا نسبت به این روند هشدار دهند. به گفته او، «این روند بهطور جدی در حال عادیسازی استفاده از دیپفیکها و تولید محتوای غیرمجاز است.» این محتوای ساختگی نه تنها یک تهدید برای حریم خصوصی افراد است، بلکه به گسترش سوءاستفادههای جنسی آنلاین نیز دامن میزند.
در نتیجه، این روندها نه تنها برای کاربران عادی، بلکه برای شرکتهای بزرگ فناوری نیز چالشهای جدی ایجاد کرده است. از جمله این چالشها میتوان به سوالات حقوقی مربوط به حریم خصوصی، حق رضایت و مسئولیتپذیری پلتفرمها اشاره کرد. متاسفانه، تا کنون بسیاری از شرکتهای بزرگ فناوری مانند Meta و TikTok با وجود تبلیغاتی که از این نوع برنامهها حمایت میکنند، اقدام جدی برای جلوگیری از گسترش این روندها انجام ندادهاند.
این نوشتهها را هم بخوانید