واتیکان از تشخیصدهنده هوش مصنوعی استفاده کرد تا به طرفداران هوش مصنوعی نشان دهد بخشنامه ضد هوش مصنوعی پاپ توسط هوش مصنوعی تولید نشده!
چند روز پیش در اخبار فناوری و دنیای شبکهٔ اجتماعی X (توییتر سابق)، حاشیهای عجیب و در نوع خود بیسابقه برپا شد که توجه خیلی از فعالان حوزهٔ هوش مصنوعی را به خود جلب کرد. شاید تا حالا تصور میکردید که بیانیهها و سندهای رسمی واتیکان صرفاً در خلوت کشیشان و با خودنویسهای سنتی نوشته میشوند، اما در این پست با هم میبینیم که چطور پای الگوریتمها و ابزارهای تشخیص هوش مصنوعی به بالاترین سطح تصمیمگیری در کلیسای کاتولیک باز شده است.
داستان از جایی شروع شد که پاپ لئوی چهاردهم (Pope Leo XIV) بیانیه یا همان بخشنامهٔ رسمی جدیدی به نام «انسانیت شکوهمند» (Magnifica Humanitas) منتشر کرد؛ سندی ۴۳ هزار کلمهای که هدف اصلی آن هشدار دربارهٔ خطرات هوش مصنوعی (Artificial Intelligence) و تاکید بر حفظ کرامت انسانی در عصر جدید بود. اما درست بعد از انتشار، موجی از ادعاها از سوی طرفداران متعصب فناوری بلند شد که پاپ و واتیکان را به ریاکاری متهم میکردند. آنها ادعا کردند که پاپ برای نوشتن این متنِ ضد هوش مصنوعی، خودش از ابزارهای هوش مصنوعی استفاده کرده است!
در ادامه نگاهی میاندازیم به این جنجال تازه و نحوهٔ پاسخ هوشمندانهٔ واتیکان به این اتهامات.
اتهام ریاکاری به رهبر کاتولیکهای جهان و واکنش طرفداران هوش مصنوعی
وقتی سندی با طول ۴۳ هزار کلمه در نقد هوش مصنوعی منتشر میشود، طبیعی است که خشم برخی از هواداران افراطی این فناوری برانگیخته شود. بلافاصله پس از انتشار بخشنامهٔ پاپ لئوی چهاردهم، گروهی از کاربران و فعالان حوزهٔ فناوری ادعا کردند که لحن و ساختار متن بیش از حد منظم است و بوی الگوریتمهای زبانی را میدهد. این افراد واتیکان را متهم کردند که برای تنظیم سندی در دفاع از انسان، از ماشین کمک گرفته است.
اگرچه مقامهای رسمی واتیکان در ابتدا تمایلی به پاسخدهی به این حاشیهها نداشتند، اما دامنهٔ شایعات در شبکههای اجتماعی به قدری بالا گرفت که آبروی رسانهای واتیکان را تهدید میکرد. همین موضوع باعث شد کلیسا به فکر راهکاری برای ابطال کامل این ادعاها بیفتد تا ثابت کند کلام رهبر کاتولیکها کاملاً زاییدهٔ ذهن و قلم انسان است.
الگوریتمها در برابر پاپ؛ الگوریتم پنگرام لبز چه گفت؟
کل این ماجرا و پارادوکس ایجاد شده به این برمیگردد که شما در دنیای امروز به چه کسی یا چه ابزاری اعتماد میکنید. در یک طرف میدان، شیفتگان هوش مصنوعی قرار دارند که اعتماد کامل خود را به ابزارهای تشخیص متن هوش مصنوعی سپردهاند؛ ابزارهایی که خودشان هم متکی بر الگوریتمهای یادگیری ماشین هستند.
موسسهٔ پنگرام لبز (Pangram Labs) که یکی از معروفترین نامها در زمینهٔ تشخیص متون تولیدشده توسط هوش مصنوعی است و در شبکهٔ اجتماعی X حضور فعالی دارد، با تحلیل برخی پستهای حساب رسمی پاپ مدعی شد که نشانههایی از هوش مصنوعی در آنها دیده میشود. بررسیهای اولیهٔ این شرکت روی متن کامل بخشنامه نشان میداد که بخش اعظم کار انسانی است، اما برخی پاراگرافها احتمالاً دستکاریشده یا حاصل ابزارهای متنی هوشمند هستند. همچنین یک پژوهشگر هوش مصنوعی به نام لینچ ژانگ (Linch Zhang) تحلیل مفصلی منتشر کرد و به این نتیجه رسید که بخشهایی از متن شبیه کارهای هوش مصنوعی است؛ البته او این احتمال را مطرح کرد که شاید کارمندان واتیکان در ویرایش نهایی از ابزار کمکی استفاده کرده باشند، نه خود پاپ.
مهر تایید بر اصالت انسانی کلام پاپ با تاییدیه شرکتهای اعتبارسنجی
پخش شدن فرضیههایی شبیه به داستانهای جاسوسی مبنی بر اینکه کارمندان واتیکان یواشکی متون هوش مصنوعی را وارد سند پاپ کردهاند، مسئولان کلیسا را بر آن داشت تا آب پاکی را روی دست همه بریزند. بر اساس گزارشهای منتشرشده، واتیکان کل این سند ۴۳ هزار کلمهای را برای شرکتی به نام پرادلی هومن (Proudly Human) فرستاد تا گواهی اصالت انسانی دریافت کند.
پرادلی هومن شرکتی است که به صورت تخصصی بررسی میکند آیا یک اثر متنی یا هنری کاملاً توسط انسان تولید شده یا خیر. برای دریافت این گواهی، واتیکان مجموعهای از نوشتهها، سخنرانیها و آثار قبلی پاپ لئوی چهاردهم را به عنوان نمونهٔ پایه یا گروه کنترل ارائه داد تا لحن و سبک نگارش سند جدید با سبک واقعی پاپ مقایسه شود. علاوه بر بررسیهای فنی، مراحل اداری دقیقی شامل احراز هویت و امضای تعهدنامهای رسمی انجام شد مبنی بر اینکه از هوش مصنوعی حتی در پیشنویس اولیه یا نوشتن یک جمله هم استفاده نشده است.
وقتی برای اثبات عدم استفاده از هوش مصنوعی، دوباره از هوش مصنوعی استفاده میشود!
نکتهٔ طنزآمیز و در عین حال جالب این پروسه در نحوهٔ تحلیل متون نهفته است. شاید باورکردنی نباشد، اما شرکت پرادلی هومن هم برای مقایسهٔ حجم عظیمی از متون و بررسی ظرایف زبانی و گرامری، از چند ابزار برپایهٔ هوش مصنوعی استفاده میکند! این شرکت با الگوریتم میانگینگیری اختصاصی خود، نحوهٔ نگارش پاپ را بررسی کرد و در نهایت حکم قطعی خود را صادر کرد: این متن کاملاً انسانی است.
در نهایت، باور کردن یا نکردن این موضوع به این بستگی دارد که شما به فرایند کدام شرکت و انگیزهٔ کدام طرف اعتماد دارید. گرچه در تاریخ پاپهای مختلفی بودهاند که اشتباهاتی داشتهاند، اما در این مورد خاص، پاپ تنها کسی است که باورهای دینی و اعتقادیاش او را از دروغگویی برحذر میدارد؛ موضوعی که شاید محکمترین دلیل برای راستگویی او در این جنجال رسانهای باشد.
چرا ابزارهای تشخیص هوش مصنوعی اغلب دچار اشتباه و خطای محاسباتی میشوند؟
یکی از سوالات مهمی که پس از این ماجرا در ذهن بسیاری از علاقهمندان به فناوری شکل میگیرد این است که چرا ابزارهایی مثل پنگرام لبز دچار خطای تشخیص شدند و متنی با نگارش انسانی را به عنوان متن الگوریتمی شناسایی کردند؟ واقعیت این است که ابزارهای تشخیص هوش مصنوعی (AI Detectors) بر پایهٔ آمارهای احتمالی، پیچیدگی متنی (Perplexity) و میزان تنوع در طول جملات (Burstiness) کار میکنند. الگوریتمها انتظار دارند متن انسانی دارای نوسانات شدید در طول جملات، ساختار غیرقابلپیشبینی و گاهی اشتباهات کوچک باشد.
زمانی که یک متن توسط متفکران، نویسندگان قدیمی یا نهادهایی مانند واتیکان نوشته میشود، به دلیل رعایت شدید قواعد نگارشی، لحن رسمی، استفاده از کلمات فاخر و ساختارهای منظم، میزان «پیچیدگی» متن کاهش مییابد. هوش مصنوعی این نظم و انضباط بالای انسانی را به اشتباه به عنوان الگوی تولیدشده توسط ماشین شناسایی میکند. همین مسئله نشان میدهد که اعتماد صددرصدی به این ابزارها منطقی نیست و نمیتوان صرفاً با یک تست ساده، فردی را به استفاده از الگوریتمها متهم کرد.
آیا کلیسای کاتولیک در طول تاریخ با فناوریهای نوظهور مخالف بوده است؟
سوال دیگری که ممکن است ذهن مخاطبان کنجکاو را به خود مشغول کند این است که آیا واکنش تند واتیکان به هوش مصنوعی و حساسیت روی این بخشنامه، نشاندهندهٔ تقابل سنتی کلیسا با فناوریهای جدید است؟ بررسی تاریخ نشان میدهد که کلیسا همواره در مواجهه با ابزارهای جدید فناوری، رویکردی دوگانه و احتیاطآمیز داشته است. زمانی که صنعت چاپ توسط گوتنبرگ اختراع شد، کلیسا در ابتدا آن را ابزاری برای تکثیر گمراهی میدانست اما خیلی زود به بزرگترین مشتری صنعت چاپ برای تکثیر کتاب مقدس تبدیل شد.
در عصر حاضر نیز کلیسا با اصل فناوری مخالف نیست، بلکه دغدغهٔ اصلی مسئولان کلیسا، «جایگزینی ماشین به جای روح و اخلاق انسانی» است. بخشنامهٔ پاپ لئوی چهاردهم نفیکنندهٔ دانش فنی نیست، بلکه هشداری است دربارهٔ پیامدهای اخلاقی و الگوریتمهایی که تصمیمگیریهای انسانی را کنترل میکنند. حساسیت شدید واتیکان روی اثبات انسانی بودن این سند نیز دقیقاً به همین دلیل است؛ چراکه سندی که از کرامت انسانی در برابر ماشین دفاع میکند، اگر خودش ساخت دست ماشین باشد، تمام اثرگذاری و نفوذ کلام خود را از دست خواهد داد.
چرا تشخیص متن انسان از ماشین به یک بحران حقوقی و اخلاقی تبدیل شده است؟
بحرانی که پیرامون سند واتیکان شکل گرفت، تنها محدود به کلیسا نیست و نشاندهندهٔ یک چالش عمیقتر در جوامع مدرن است. امروز دانشمندان، دانشگاهیان و نویسندگان در سراسر جهان با اتهامات مشابهی روبهرو هستند. وقتی مرز بین نگارش فاخر انسانی و خروجی مدلهای زبانی تا این حد باریک میشود، چگونه میتوان اصالت یک اثر را به اثبات رساند؟
این مسئله نشان میدهد که در آینده نزدیک، متکی بودن به ابزارهای آماری برای سنجش اصالت متون کافی نخواهد بود. شرکتهایی مانند پرادلی هومن با ترکیب تعهدنامههای حقوقی، احراز هویت و بررسیهای تاریخی، در حال شکل دادن به استاندارد جدیدی هستند که در آن «مسئولیتپذیری حقوقی نویسنده» به اندازهٔ تحلیلهای الگوریتمی اهمیت دارد. جنجال اخیر واتیکان ثابت کرد که در عصر هوش مصنوعی، بزرگترین دارایی هر نویسنده یا نهاد، «اعتماد و اعتبار متقابل» است.
پارادوکس بزرگ عصر دیجیتال؛ وقتی هوش مصنوعی قاضی اصالت انسان میشود
یکی از پارادوکسهای خندهدار و در عین حال تاملبرانگیز این ماجرا، نفوذ ناگزیر هوش مصنوعی در تمام لایههای اثبات حقیقت است. حتی شرکتی که گواهی «صددرصد انسانی» صادر میکند، مجبور است برای تحلیل میلیونها کلمه و بررسی سبک نگارش، از هوش مصنوعی کمک بگیرد. این یعنی انسان برای اثبات «انسان بودن» خود در دنیای امروز، راهی جز توسل به محاسبات ماشین ندارد.
این ماجرا به خوبی نشان داد که جنگ آینده بر سر متون و محتوا، جنگ بین ابزارها خواهد بود. هوش مصنوعی در یک جبهه متن را تولید میکند، در جبهه دیگر آن را متهم به ماشینی بودن میکند و در جبهه سوم، نقش قاضی را برای تبرئه انسان ایفا میکند! داستانی که برای بخشنامهٔ پاپ رخ داد، تنها مشتی نمونه خروار از چالشهایی است که همه ما در سالهای آینده با آن دستوپنجه نرم خواهیم کرد.
با بیش از ۲۰ سال نویسندگی «ترکیبی» مستمر در زمینهٔ پزشکی، فناوری، سینما، کتاب و فرهنگ.
باشد که با هم متفاوت بیاندیشیم!
مطالب مرتبط
