چگونه در آینده نزدیک هوش مصنوعی و فناوری تصویرسازی کامپیوتری، در خدمت نشر اخبار کاذب، شستشوی مغزها و حتی تولید ویدئوهای سفارشی مستهجن قرار خواهد گرفت

مقدمه و نوعی روزنوشت:

دیروز همین طور که در فلیپ‌بورد می‌گشتم، در کنار اخبار جدی چششم خورد به خبری در مورد عکس جدید یکی از به اصطلاح ستاره‌های زیبایی غرب در اینستاگرام. یک عکس بی‌معنی از او که شاید از نظر زیبایی‌شناسی «غریزی» هم زمانی خریداری نداشت، 500 هزار بار لایک خورده بود.

یادش به خیر زمانی اصطلاح ستاره یا سلبریتی به هنرپیشه‌ها و خواننده‌های شاخص داده می‌شد، اما حالا دیگر به صاحبان ابعاد فیزیکی با انحناهای عجیب هم داده می‌شود.

نسبتی با معلمان اخلاق ندارم. اما برایم عجیب است که چرا سلیقه ما هر روز بدتر از روز پیش می‌شود.

همین طور دیشب در حال مرور اخبار بودم که دیدم در یک کانال تلگرامی فارسی، عکس یکی از هنرپیشه‌های خوب تئاتر ما در حال سیگار کشیدن درج شده. مشکلی با این صحنه از تئاتر نداشتم. اما واقعا برایم جای شگفتی بود که چرا باید به جای توصیف تئاتر و داستان کلی و عوامل تولید و جایگاه آن، بیایند و یک خبر مستقل را به این امر اختصاص بدهند. یعنی یک استفاده ابزاری مطلق!

به وب‌گردی خودم ادامه دادم و ناگهان دو مقاله خیلی جالب پیدا کردم (+ و +) و با خودم گفتم که لازم است که حتما خلاصه آن را در وبلاگ «یک پزشک» برای شما بنویسم.

در یک پزشک به مبحث شستشوی فکر و دستکاری اذهان از طرق مختلف و نیز اخبار کاذب، تا حالا خیلی پرداخته‌ام.

اما اخبار کاذب و شایعات و دروغ، مسلما قدمتی به اندازه همه تاریخی بشریت دارند و حتی در صفحاتی از تاریخ، دروغ و واقعیت قابل تفکیک از هم نیستند.

متأسفانه انسان‌ها از ابزارهای جدید استفاده دوگانه‌ای می‌کنند. در دوران مدرن، در عصر اینترنت و شبکه‌های اجتماعی، می‌توان از این ابزار برای انتشار اخبار و اندیشه‌های خوب و ارتباط با دیگران استفاده می‌کرد، اما در عین حال می‌توان از آن برای انتشار اخبار کاذب هم استفاده کرد.

خوشبختانه اخیرا غربی‌ها هم که زمانی ستایشگر شبکه‌های اجتماعی بودند و فقط جنبه مثبت آن را می‌دیدند، متوجه شده‌اند که شبکه‌های اجتماعی به جای اینکه مجتمع‌کننده خرد جمعی باشند، می‌توانند برآیند حماقت‌ها و ساده‌دلی‌های جماعت باشند و افراد زیرک می‌توانند از آنها سوء استفاده کنند.

برای مقابله با این جو، به خصوص بعد از انتخاب ترامپ که برخی‌ها آن را تحت‌تأثیر خبرپراکنی‌های دروغ و هدفدار روس‌ها برای دستکاری اذهان رأی‌دهندگان آمریکایی می‌دانند، مدیران شبکه‌های اجتماعی بزرگ دست به اقدامات دیرهنگامی زده‌اند.

اما مشکل اینجاست که کار آنها در آینده نزدیک خیلی دشوارتر خواهد شد.

تا حالا ما اخبار متنی کاذب سر و کار داشتیم. دروغ‌‌پراکن‌ها سعی می‌کردند این اخبار کاذب را باورپذیر کنند، مثلا اخبار درست و نادرست را با هم ترکیب می‌کردند و در کنار یک عکس آرشیوی یا فتوشاپی، ترکیبی اغواکننده درست می‌کردند.

اما ما انسان‌ها، ذاتا اودیو-ویژوال هستیم، یعنی چیزهایی را که عملا با چشم‌های خود ببینیم و با گوش‌های خود بشنویم، باور می‌کنیم.

سناریوی بد برای ما این است که تنها در عرض یک دهه هوش مصنوعی و تصویرسازی کامپیوتری یا CGI آنقدر پیشرفت خواهد کرد که حتی افراد غیرفنی هم می‌توانند ویدئوهای ساختگی از چیزی که در ذهن دارند بسازند.

در شرایطی که همین الان هم، حتی آدم‌های کارکشته در عرصه رسانه، در مشخص کردن راست یا دروغ بودن برخی اخبار درمی‌مانند، تصور کنید که مردم عادی چطور می‌توانند در مقابل این اخبار چندرسانه‌ای ایمنی داشته باشند.

با این ابزار دولت‌ها می‌توانند به مردم دروغ بگویند، همان طور که خود مردم هم توانایی مسخره کردن شخصیت‌ها و مشاهیر، اخاذی کردن و حتی جنبه تصویری دادن به امیال جنسی و آرزوهای سرکوب‌شده خود را پیدا می‌کنند که در پی آن حتی می‌تواند اخاذی‌هایی هم صورت بگیرد.

فناوری چنین کاری در حال حاضر در مراحل کودکی خود قرار دارد. اما چشم‌اندازی باز از آینده در جلوی دید خود داریم.

بیایید مثال‌هایی از امکانات در دسترس بزنم:

در ماه جولای، پژوهشگران دانشگاه واشنگتن از یک فناوری هوش مصنوعی رونمایی کردند که توانسته بود یک ویدئوی کاذب باراک اوباما را در حال سخنرانی بسازد. در واقع هوش مصنوعی توانسته بود با تحلیل ده‌ها ساعت از ویدئوهای اوباما، یک ویدئوی جدید بسازد. این ویدئو را در اینجا ببینید.

در سال 2016، پژوهشگران Face2face کار جالب دیگری کرده بودند، آنها توانسته بودند یک ویدئوی زنده را دستکاری کنند. به این ترتیب که یک نفر جلوی دوربینی می‌ایستاد و حالات چهره خود را هر آن، تغییر می‌داد. حالا این تغییرات چهره، بی‌درنگ به ویدئوی شخصیت‌هایی مانند جورج بوش، پوتین و ترامپ، منتقل می‌شد، گویی که خود آنها در حال تغییر حالات چهره خود هستند! این ویدئو را در اینجا ببینید.

خبر دیگر این است که نرم‌افزاری به نام Lyrebird نوشته شده که می‌تواند صدای اشخاص را با دقت تقلید کند.  شرکت ادوبی هم با پروژه‌ای به نام Voco به دنبال کاری مشابه است.

در آگوست سال 2016، بسیاری از شهروندان آمریکایی به دنبال دیدن یک ویدئو، وحشت‌زده و نگران شدند. در توییتر ویدئوهایی پخش شده بود که در آن پایگاه نظامی آمریکا در ترکیه به نام پایگاه اینجرلیک نشان داده می‌شد، در حالی که 10 هزار پلیس مسلح ترکیه آن را احاطه کرده‌اند. از ویدئو اینچنین برمی‌آمد که هر آن ممکن است پایگاه سقوط کند و تسلیحات هسته‌ای احتمالی موجود در آن به یغما برود!

اما واقعیت این بود که اصلا اوضاع این طور نبود. در واقع یک تظاهرات صلح‌آمیز با حضور هزار نفر از مردم عادی در پیرامون پایگاه برگزار شده بود. اما پروپاگاندای روسیه با توضیحات اشتباه و نیز بهره بردن از اکانت‌های توییتری یا بات‌هایش، این خبر کاذب را منتشر کرده بود.

حالا تصور کنید که همین سوژه‌های سیاسی، به کمک بازوی هوش مصنوعی و CGI چه‌ها که نمی‌تواند بکند. اگر تا حالا تولید ویدئوهای کاذب بیشتر با نشان دادن انتخاب صحنه‌ها، کنار هم چیدن ویدئوهای تازه و آرشیوی صورت می‌گرفت، در عرض یک دهه، تولید ویدئوهای کاذب خیلی پیشرفته‌تر، باورپذیرتر و ساده‌تر می‌شود.

این در شرایطی است که دیدن و شنیدن، برای خیلی از ماها مترادف با باور کردن است.

جالب است که از فناوری تقلید صوت می‌توان برای کارهای تبهکارانه استفاده کرد. مثلا می‌توان با پخش صدای رئیس یک کارمند، او را به این باور رساند که رئیس اوست که در حال دادن دستور انجام کاری یا واریز پولی است.

آیا فناوری‌های محافظتی به موازات این پیشرفت‌ها، رشد خواهند کرد؟ بعد در شرایط عدم اعتمادی که ایجاد خواهد شد، کار روزنامه‌نگاری یا بلاگ‌نویسی متعهدانه به کجا خواهد رسید؟

اما جنبه شخصی‌تر فناوری‌های تصویرسازی و صداسازی نو این است که آنها می‌توانند از سوی افراد برای دست انداختن دیگران یا گرفتن باج و حق السکوت استفاده شوند.

در آگوست سال 2014، به دنبال هک موبایل چند ستاره مشهور آمریکایی، تصاویر خصوصی آنها در اینترنت پخش شد. یکی از این قربانیان هنرپیشه مشهور آمریکایی-جنیفر لارنس– بود. او که قربانی این مطلب شده بود، از این اقدام به ععنوان نوعی جنایت جنسی یاد کرد.

اما مشکل اینجاست که فناوری‌ها نو می‌توانند خیلی راحت ابزار در دست پ..ورنوگراف‌ها برای ساخت ویدئو بنا به درخواست مشتری‌ها شوند!

اگر اخبار را به زبان اصلی دنبال کنید، حتما به اصطلاح پ…ورن انتقامی برخورده‌اید. یعنی اشخاص بعد از جدایی از شرکایی زندگی‌شان برای انتقام‌گیری از آنها، عکس‌ها و ویدئوهای خصوصی را پخش می‌کنند. متأسفانه با فناوری‌های تازه امکان ساخت ویدئوهای ساختگی از هر شخصی وجود خواهد داشت!

در حال حاضر فناوری CGI بیشتر برای ساختن فیلم‌های هالیوودی یا برخی از تبلیغات گران تلویزیونی استفاده می‌شود. مثلا در فیلم جدید جنگ ستارگان، ما پیتر کراشینگ را در حال بازی کردن نفش می‌بینیم. در صورتی که این هنرپیشه 22 سال پیش مرده است، اما به کمک CGI دوباره او را به صورت کاملا باورپذیر می‌بینیم.

حالا گمان می‌رود که چیز در حال حاضر به صورت محدود با سفارش مشتریان خاص و صرف هزینه‌های هنگفت با کمک عوامل انسانی تولید می‌شود، در آینده به صورت فراگیر و حتی بدون رعایت قوانینی که هم‌اینک به دارندگان چنین خدماتی تحمیل می‌شود، با کمک فناوری‌ها نو تولید شود!

به هر حال برآورد کارشناسان این است که ظرف 5 تا 10 سال آینده امکان رخ دادن چنین سناریوهایی به صورت واقعی وجود دارند. در چنان روزهایی شاید رسانه‌های اصلی،بتوانند با ترفندهایی خود را مصون نگاه دارند، اما چگونه می‌شود تعهد به انتشار اخبار درست را به رسانه‌های اجتماعی هم تکلیف کرد؟