فیسبوک اکانت‌های دارای عکس پروفایل ساخته شده با هوش مصنوعی را پاک کرد
فیسبوک روز جمعه بیش از ۹۰۰ حساب کاربری، صفحه و گروه جعلی روی فیسبوک و اینستاگرام را پاک کرد.
فیسبوک می‌گوید این حساب‌های کاربری و صفحات یک شبکه سراسری در وب برای فشار بر افکار عمومی و فریب ان‌ها در ماجراهای ترامپ تشکیل داده بودند و نزدیک به ۵۵ میلیون کاربر را مشغول خود کردند.
این شبکه عموما از اکانت‌های جعلی، عکس‌های پروفایل ساختگی مبتنی بر هوش مصنوعی و تولید محتوا با کمک ابزارهای خودکار هوشمند استفاده کرده تا در شبکه‌های اجتماعی شایعه‌پراکنی کنند. بخشی از فعالیت این شبکه هم در رسانه‌های دیگری مانند توییتر و یوتیوب است.
این شبکه جدیدترین نشان جنگ‌های اطلاعاتی و سایبری در اینترنت است. برای اولین بار است که در این وسعت از هوش مصنوعی برای تولید عکس‌های پروفایل جعلی ولی بسیار شبیه به کاربران وب استفاده می‌شود. تا کنون هیچ‌گاه هوش مصنوعی در این حد به خدمت یک کارزار رسانه‌ای غیرمجاز و جعلی درنیامده است.
این شبکه برای طبیعی و واقعی جلوه دادن کاربران و حساب‌های کاربری آنها، اقدام به تولید عکس‌های پروفایل با استفاده از ابزارهای هوش مصنوعی کرده است. فیسبوک تا کنون موفق شده ۶۱۰ اکانت در خود شبکه اجتماعی فیسبوک، ۱۵۶ گروه، ۸۹ صفحه و ۷۲ حساب کاربری اینستاگرام را شناسایی کند.
شرکت فیسبوک با ردگیری سرمنشا این شبکه تبلیغاتی جعلی به گروه‌های راست افراطی در امریکا و بعد گروه‌هایی در دو کشور چین و ویتنام رسیده است. این افراد غالبا به پشتیبانی و حمایت از دونالد ترامپ مشغول بوده و سعی کردند برخی از ترافیک خود را از کشورهای دیگر هدایت کنند تا کمتر شکی برانگیخته شود.
بسیاری از گروه‌ها و اکانت‌هایی که دارای نام‌هایی مشابه «آمریکا به رئیس جمهور ترامپ نیاز دارد»، «ترامپ برای رئیس جمهور آمریکا» و «ما با ترامپ و پنس ایستاده‌ایم!» هستند؛ نه از داخل خاک کشور ایالات متحده بلکه از ویتنام مدیریت می‌شوند.
عکس پروفایل جعلی که واقعی نشان می‌دهند
فارغ از محتواهای تولید شده جعلی و تبلیغاتی منتشر شده در این صفحات و حساب‌های کاربری، عکس‌های پروفایل آنها بسیار جلب توجه می‌کند. عکس‌هایی که در نمای اول بسیار واقعی و حقیقی به نظر می‌رسند ولی در واقع با یک سیستم شبکه عصبی و دستکاری عکس‌های واقعی انسان‌ها تولید شدند.
هیچ‌یک از این چهره‌ها در دنیای بیرون نمونه واقعی ندارند و اگر به خوبی در عکس دقت شود؛ برخی اشکالات و نواقص دیده می‌شود. مثلا، عینک و گوشواره آنها تقارن ندارد یا برخی اجزای صورت درست و کامل نیست.
فناوری شبکه عصبی که برای تولید عکس‌های پروفایل جعلی استفاده شده است؛ تا حدود زیادی قابل قبول است و محققان را به اشتباه می‌اندازد ولی چون به خوبی آموزش دیده نشده و نمی‌تواند آناتومی صورت انسان را درک کند؛ در برخی عکس‌ها ضعف‌هایی نشان داده است.
محققان این تصاویر را با همکاری متخصصان دانشگاه فدریکوی ۲ ناپل مورد بررسی قرار داده و تقریبا (۹۹ درصد) مطمئن هستند از الگوریتم‌های هوش مصنوعی GAN برای تولید عکس‌ها استفاده شده است.