واترمارک SynthID گوگل سخت شکسته میشود، اما مشکل فیکنیوزهای هوش مصنوعی را حل نمیکند!
مدتی بود که در دنیای فناوری بحث بر سر چگونگی تشخیص محتوای واقعی از ساختههای هوش مصنوعی بالا گرفته بود و همه منتظر یک راهکار جادویی بودند. شاید تا حالا تصور میکردید که اگر یک فناوری پیشرفته بتواند امضای نامرئی روی تصاویر هوش مصنوعی بگذارد، دیگر کار تمام است و شر فیکنیوزها و عکسهای ساختگی کم میشود. اما در این پست با هم میبینیم که چطور حتی سرسختترین واترمارکهای دنیا هم نمیتوانند غول بیشاخودم اخبار جعلی را مهار کنند. در این مقاله میخواهیم ببینیم فناوری SynthID گوگل دقیقا چگونه کار میکند، چرا در برابر ویرایشهای سنگین مقاومت نشان میدهد و چرا با وجود تمام شگفتیهای فنیاش، باز هم نمیتواند امنیت خبری ما را در اینترنت تضمین کند؟ آیا واقعا امضاهای دیجیتال نامرئی درمان قطعی این درد هستند یا فقط یک مسکن موقت به شمار میروند؟
📂 فهرست بخشهای این نوشته
(کلیک کنید)
- انفجار بیسابقه محتوای مصنوعی و نیاز مبرم به شناسایی حقیقت
- نبرد واترمارک نامرئی SynthID در برابر تخریب و فشردهسازی تصویر
- نقطه ضعف بزرگ واترمارکها و خطرات مدلهای هوش مصنوعی آزاد
- پدیده سود دروغگو و شیوههای فرار مجرمان از مسئولیت
- اصالتسنجی از مبدا؛ چرا استاندارد C2PA راهکار بهتری است؟
- چالش چندپارگی ابزارهای تشخیص و سردرکمی کاربران عادی
- آیا محدودیتهای دسترسی گوگل راه را برای مهاجمان باز میگذارد؟
انفجار بیسابقه محتوای مصنوعی و نیاز مبرم به شناسایی حقیقت
درک حجم و مقیاس رسانههای تولیدشده توسط هوش مصنوعی کار سادهای نیست. آزمایشگاه استارلینگ (Starling Lab)، که یک مرکز پژوهشی مشترک بین دانشگاه استنفورد و دانشگاه کالیفرنیای جنوبی است، تخمین میزند که از زمان اختراع دوربین عکاسی، حدود ۱۴۹ سال طول کشید تا بشریت توانست ۱.۵ میلیارد تصویر ثبت کند. اما هوش مصنوعی زاید برای تولید همین تعداد تصویر، تنها به ۱۸ ماه زمان نیاز داشت. شگفتانگیزتر اینکه جهش فناوری در همین نقطه متوقف نشد و سرعت تولید محتوا ابعاد تازهای به خود گرفت.
مدتی پیش غول فناوری گوگل اعلام کرد که ابزارهای هوش مصنوعی این شرکت ظرف تنها چند سال برای ساخت بیش از ۱۰۰ میلیارد تصویر و ویدیو استفاده شدهاند. این آمار خیرهکننده نشان میدهد که ما با اقیانوسی از محتوای دستکاریشده یا کاملا ساختگی روبرو هستیم. همراه با این آمار، گوگل از همکاریهای گسترده برای توسعه فناوری واترمارک نامرئی خود به نام SynthID خبر داد؛ ابزاری که هدفش برچسبگذاری محتوای ساختهشده با هوش مصنوعی و کمک به کاربران برای تشخیص واقعیت از جعل است.
در حال حاضر دو رویکرد اصلی برای مشخص کردن محتوای ساختگی وجود دارد. روش اول استفاده از واترمارکهای نامرئی مانند SynthID است که مستقیم درون دادهها تزریق میشوند. روش دوم استفاده از طرحهای متاداده مانند اتحاد برای اثبات و اصالت محتوا (C2PA) است. گوگل از هر دو روش بهره میبرد، اما C2PA برخلاف واترمارک برای پنهان ماندن طراحی نشده است. اگرچه C2PA از نظر رمزنگاری بسیار امن است و نمیتوان آن را جعل کرد، اما حذف کردن آن فوقالعاده ساده است؛ کافی است یک تصویر را ویرایش کنید، اسکرینشات بگیرید یا آن را دوباره ذخیره کنید تا این متاداده برای همیشه پاک شود.
نبرد واترمارک نامرئی SynthID در برابر تخریب و فشردهسازی تصویر
واترمارکهایی مانند SynthID به صورت مستقیم در پیکسلهای تصویر، فریمهای ویدیو یا امواج صوتی کدگذاری میشوند. فایلهایی که دستبهدست در اینترنت میچرخند، به دلیل فشردهسازی مکرر، تغییر اندازه و ویرایش دچار افت کیفیت میشوند. اما طراحان گوگل ادعا میکنند که این امضای دیجیتال حتی در میمهای اینترنتی دستمالیشده و بیکیفیت نیز باقی میماند. پوشمیت کوهلی (Pushmeet Kohli)، از دانشمندان ارشد گوگل دیپمایند (Google DeepMind)، توضیح میدهد که تیم پژوهشی آنها از همان ابتدا فرض را بر این گذاشته بود که چنین فناوری سفارشی به شدت مورد حمله قرار خواهد گرفت، بنابراین آن را در برابر انواع تغییرات سازگار و مقاوم کردهاند.
برای بررسی صحت این ادعا، آزمایشهایی با استفاده از کتابخانههای برنامهنویسی انجام شد تا افت کیفیت ناشی از دانلود و اشتراکگذاری مکرر شبیهسازی شود. در این آزمایشها، تصاویری که به طور کامل توسط هوش مصنوعی ساخته شده بودند و تصاویری که توسط الگوریتمها ویرایش شده بودند، صدها بار تحت شدیدترین فشردهسازیها و تغییر ابعاد قرار گرفتند. جالب اینجا است که حتی پس از ۳۰۰ چرخه فشردهسازی سنگین و تبدیل شدن تصاویر به فایلهایی کاملا تار و بیکیفیت، آشکارسازهای SynthID همچنان توانستند منشا هوش مصنوعی تصویر را به درستی تشخیص دهند.
این فناوری به دلیل پخش کردن پیکسلهای خاص در سراسر مساحت تصویر، مقاومت خیرهکنندهای در برابر خرابکاریهای معمول نشان میدهد. حتی اگر از تصویر اسکرینشات بگیرید، پیکسلهای جادویی به فایل جدید منتقل میشوند. با این حال، برش دادن (Cropping) حاشیههای تصویر میتواند پاشنه آشیل این سیستم باشد. آزمایشها نشان داد اگر پس از چندصد مرحله فشردهسازی، حدود ۲۰ تا ۵۰ درصد از حاشیههای عکس برش داده شود، سیستم آشکارسازی در نهایت شکست میخورد و دیگر قادر به شناسایی واترمارک نخواهد بود.
نقطه ضعف بزرگ واترمارکها و خطرات مدلهای هوش مصنوعی آزاد
حتی اگر فرض کنیم واترمارک SynthID بتواند در برابر همه ویرایشها و حملات نفوذگران دوام بیاورد، باز هم نمیتواند مسئله اخبار جعلی و جعل هویت را به طور کامل حل کند. واترمارکها صرفا یک برچسب هستند و تکیه بر آنها مشکلات بنیادی دیگری به همراه دارد. نخست اینکه فناوریهای واترمارک یکدست نیستند؛ به عنوان مثال شرکت متا نیز واترمارک اختصاصی خود را معرفی کرده، اما پژوهشها نشان داده که تنها با یک برش ساده مجزا، افشاگری آن بیاثر میشود.
از سوی دیگر، شرکتهای بزرگ تنها سازندگان محتوای هوش مصنوعی در جهان نیستند. امروزه بیشمار الگوریتم و مدل متنباز (Open-Source) وجود دارند که هر کسی میتواند آنها را روی رایانه شخصی خود بدون هیچگونه محدودیت یا برچسبگذاری اجرا کند. آدام رز (Adam Rose)، پژوهشگر برجسته آزمایشگاه استارلینگ، به درستی اشاره میکند که مشکل اصلی تصاویری نیستند که غولهای فناوری تولید میکنند، بلکه خطر اصلی از جانب افرادی است که مدلهای اختصاصی خود را بدون هیچ ردپایی روی سیستمهای خانگی اجرا میکنند.
وقتی عموم مردم به وجود واترمارکها عادت کنند، دچار یک خطای شناختی و حس امنیت کاذب میشوند. آنها تصور خواهند کرد هر تصویر یا ویدیویی که برچسب هوش مصنوعی ندارد، حتما واقعی و معتبر است. این یک اشتباه بسیار خطرناک در عصر اینترنت است، زیرا غول جعلسازی از شیشه خارج شده و امکان ندارد بتوان تمام محتواهای تولیدشده در سراسر جهان را مجبور به ثبت امضای دیجیتال کرد.
پدیده سود دروغگو و شیوههای فرار مجرمان از مسئولیت
تولید نامحدود محتوا باعث شده که ارزش تجاری و روانی تصاویر به شدت افت کند. وقتی عرضه یک کالا بینهایت شود، ارزش آن فرو میریزد. در چنین دنیایی، به جای گشتن به دنبال کلاهبرداریها و اثبات ساختگی بودن یک تصویر، باید به سراغ چیزی رفت که نایاب است؛ و آن چیزی نیست جز «اطلاعات واقعی و تاییدشده». اگر نتوانیم مرز میان واقعیت و ساختگی را مشخص کنیم، با پدیدهای شوم به نام «سود دروغگو» (Liar’s Dividend) مواجه خواهیم شد.
اصطلاح سود دروغگو به استراتژی کلامی شومی اشاره دارد که در آن، چهرههای سیاسی یا مجرمان هنگام مواجهه با مدارک و اسناد انکارتناپذیر از تخلفات خود، ادعا میکنند که این اسناد دستکاری شدهاند یا صرفا اخبار جعلی ساختهشده توسط هوش مصنوعی هستند. مایکل کارونا (Mike Caronna)، عکاس خبری باسابقه، معتقد است که تولید محتوا با دوربینهای واقعی محدودیت فیزیکی دارد، در حالی که محتوای مصنوعی هیچ محدودیتی ندارد. بنابراین باید تمرکز خود را روی حفظ و اثبات اصالت محتوای واقعی بگذاریم تا افراد متخلف نتوانند پشت این بهانه که «این عکس کار هوش مصنوعی است» پنهان شوند.
اصالتسنجی از مبدا؛ چرا استاندارد C2PA راهکار بهتری است؟
در مقابل تلاش برای پیدا کردن ردپای هوش مصنوعی در میان حجم عظیمی از دادههای مشکوک، رویکرد معکوسی وجود دارد که به نظر کارآمدتر میرسد: پلمپ دیجیتالی عکسها در لحظه ثبت. استاندارد C2PA دقیقا همین کار را انجام میدهد. این فناوری مانند یک مهر و موم رمزنگاریشده عمل میکند که از همان لحظهای که شاتر دوربین فشاش داده میشود، اطلاعات زمان، مکان و سختافزار ثبتکننده را به صورت انکارتناپذیر روی فایل حک میکند.
اگرچه متادادههای عادی به راحتی پاک میشوند، اما بسترهایی که از C2PA پشتیبانی میکنند امکان ردیابی دستکاریها را فراهم میسازند. اگر عکسی با الگوریتمها دستکاری شود، این تغییرات به دقت ثبت میشوند. در حال حاضر استفاده از این استاندارد هنوز همهگیر نشده است و شبکه اجتماعی و گوشیهای بسیار محدودی از آن پشتیبانی میکنند. برای مثال، برخی گوشیهای هوشمند جدید گوگل جزو معدود دستگاههای پرچمداری هستند که این مهر و موم دیجیتال را به طور عمیق در سختافزار دوربین خود یکپارچه کردهاند تا ثبت واقعی تصویر را اثبات کنند.
چالش چندپارگی ابزارهای تشخیص و سردرکمی کاربران عادی
یکی از بزرگترین مشکلات فعلی در مسیر مبارزه با اخبار جعلی، نبود یک سامانه واحد و یکپارچه برای بررسی واترمارکها است. حتی اگر شرکتهای بزرگی مثل گوگل، اوپنئیآی (OpenAI) و رانوی (Runway) همگی از فناوری پایه SynthID استفاده کنند، امضاهای دیجیتالی آنها کاملا از هم مجزا است. این یعنی بررسیکننده گوگل توانایی شناسایی واترمارک فایلهای ساختهشده توسط مدلهای اوپنئیآی را ندارد و بالعکس.
این چندپارگی باعث سردرگمی شدید کاربران عادی میشود. فردی که به یک عکس در فضای مجازی شک میکند، باید آن را در چندین سامانه مختلف بارگذاری کند و اگر هیچکدام عکس را شناسایی نکردند، باز هم نمیتواند مطمئن باشد که عکس واقعی است، چرا که ممکن است توسط ابزار شرکت چهارمی ساخته شده باشد. این پراکندگی، کاربرد عملی واترمارکها را در زندگی روزمره به شدت کاهش میدهد.
آیا محدودیتهای دسترسی گوگل راه را برای مهاجمان باز میگذارد؟
گوگل برای جلوگیری از حملات مهندسی معکوس، دسترسی عمومی به ابزار بررسی SynthID را بسیار محدود کرده است. هیچ رابط برنامهنویسی (API) عمومی یا وبسایت مستقلی برای بررسی سریع فایلها وجود ندارد و کاربران باید حتما از هوش مصنوعی جمینای (Gemini) بخواهند تا اصالت فایل را بررسی کند. علاوه بر این، گوگل سقف بررسی روزانه قرار داده و اگر تصاویری مشابه را بیش از حدود ۱۰ بار در روز جهت استعلام بارگذاری کنید، حساب شما موقتا مسدود میشود.
اگرچه این استراتژی امنیتی مانع از آن میشود که هکرها با آزمون و خطای مداوم الگوریتم را دور بزنند، اما در عین حال ابزار دفاعی جامعه را هم فلج میکند. در دوران انتخابات یا بحرانهای خبری که موجی از فیکنیوزها روانه اینترنت میشود، وجود چنین محدودیتهایی مانع از راستیآزمایی سریع توسط روزنامهنگاران و مردم عادی میشود؛ مسئلهای که نشان میدهد وابستگی انحصاری به ابزارهای امنیتی شرکتهای بزرگ نمیتواند ما را از بحران ناآگاهی نجات دهد.
جمعبندی نهایی
فناوری واترمارک نامرئی SynthID گوگل بدون شک یک شاهکار مهندسی است که مقاومت خیرهکنندهای در برابر ویرایش و فشردهسازی از خود نشان میدهد. اما دل بستن به آن برای حل بحران بزرگ اخبار جعلی، آدرس اشتباه دادن است. وجود مدلهای هوش مصنوعی متنباز، عدم یکپارچگی ابزارهای تشخیص و محدودیتهای دسترسی باعث میشود کلاهبرداران همواره یک قدم جلوتر باشند. راهکار پایدار در دنیایی که با انباشت محتوای ساختگی روبرو است، نه مبارزه با سایهها، بلکه احراز اصالت دادههای واقعی از طریق استانداردهای رمزنگاری مانند C2PA از همان لحظه ثبت با دوربین است.
با بیش از ۲۰ سال نویسندگی «ترکیبی» مستمر در زمینهٔ پزشکی، فناوری، سینما، کتاب و فرهنگ.
باشد که با هم متفاوت بیاندیشیم!
مطالب مرتبط
