هم‌اکنون هوش مصنوعی می‌تواند اوباش اینترنتی را شناسایی کند

  • توسط میثاق محمدی‌زاده
  • ۷ خرداد ۱۳۹۷
  • ۱ دیدگاه

همه ما تجربه برخورد با ترول‌ها یا همان اوباش اینترنتی را داشتیم.

افرادی که با اظهارنظرهای مخالف و جنجالی‌شان، کلمات توهین‌آمیز و تحریک‌کننده به دنبال جلب نظر دیگران هستند یا از ایجاد تشنج و به جان هم انداختن کاربران لذت می‌برند.

در گذشته، ترول‌ها فقط در انجمن‌ها و تالارهای گفت‌وگو بودند اما این روزها آن‌ها را در شبکه‌های اجتماعی و زیر هر پست و عکس و توییتی می‌توان یافت.

در یک تحقیق، مشخص شده نزدیک به ۳۰ درصد کاربران اینترنتی در امریکا؛ وب را یک صحنه نبرد ایدئولوژیک قلم‌داد می‌کنند و می‌خواهند با دیگران مخالفت کنند!

شرکت‌هایی مانند توییتر، فیسبوک، اینستاگرام و مشابه این‌ها، سالانه میلیون‌ها دلار صرف مبارزه با این افراد می‌کنند و هر روز در پی ارتقای الگوریتم‌ها و مکانیزم‌های شناسایی و بلوکه‌سازی اوباش اینترنتی هستند چون به شدت فضای وب را مخرب و ناسالم می‌کنند.

حالا یک تیم تحقیقاتی از دانشگاه Cornell دارد روی هوش مصنوعی کار می‌کند که در آینده بتواند از پست‌ها و مکالمات افراد؛ پی به ترول بودن‌شان ببرد.

آن‌ها با بررسی بیش از ۱۲۰۰ سند ویکی‌پدیا به نتایج شگفت‌انگیزی رسیدند و یک سری قاعده و قانون استخراج کردند که می‌تواند در پیش‌بینی و شناسایی افراد مخرب اینترنتی بسیار مفید باشد.

مثلا دریافتند که همیشه یک نزاع و جدل اینترنتی با اتهام‌زنی مستقیم یک فرد به دیگری شروع می‌شود. معمولا هم آن فرد طرف مقابل‌اش را «شما» خطاب می‌کند.

نتیجه دریافتی دیگر این است که ترول‌ها سعی می‌کنند با مطرح کردن یک سوال مستقیم؛ کاربران را وارد یک حلقه بی‌نتیجه کنند. کاربر قربانی جواب سوال را می‌دهد ولی ناخودآگاه سوال دیگری مطرح می‌شود و باز هم باید جواب بدهد و دفاع کند و همین‌طور این نزاع و اظهارنظر توهینی ادامه پیدا می‌کند.

فعلا انسان‌ها قوی‌تراند

تیم محقق دانشگاه کرنل می‌گویند این ابزار هوش مصنوعی فعلا دقتی ۶۱.۶ درصدی در شناسایی ترول‌های اینترنتی دارد. انسان‌ها هنوز بهتر می‌توانند ترول‌ها را شناسایی کنند و دقتی ۷۲ درصدی را ثبت کردند اما در آینده هوش مصنوعی می‌تواند جایگزین انسان شود.

تیم کرنل می‌خواهد با استفاده از یادگیری ماشینی و نتایجی که به دست آورده‌اند، این ابزار هوش مصنوعی را آموزش دهند و به مرور قوی‌تر سازند.

شبکه‌های اجتماعی مانند توییتر با استخدام هزاران نفر؛ هم‌اکنون به طور دستی در حال شناسایی ترول‌ها است ولی مطمئنا در آینده‌ای نزدیک دیگر قادر نخواهد بود به این شیوه ادامه دهد.

پلتفرم‌های دیگری مانند اینستاگرام و فیسبوک هم نیازمند ابزارهای خودکار هوش مصنوعی برای مبارزه با اوباش اینترنتی هستند.

این شبکه‌های اجتماعی می‌توانند ابزار هوش مصنوعی دانشگاه کرنل را استفاده کرده و افراد مخرب فضای وب را پیش از شروع یک مکالمه یا نزاع اینترنتی، شناسایی و بلوکه کنند.

این اقدامی است که شرکت‌هایی مانند فیسبوک و گوگل حتما باید در جهت سالم‌سازی فضای وب انجام دهند وگرنه تا چند سال آینده، اینترنت فقط جولانگاه افراد بیمار می‌شود و کاربران سالم باید از وب خارج شوند.

منبع

نظرات

  1. آفرین به هوش مصنوعی 🙂

دیدگاه خود را با ما اشتراک بگذارید:

ایمیل شما نزد ما محفوظ است و از آن تنها برای پاسخگویی احتمالی استفاده می‌شود و در سایت درج نخواهد شد.
نوشتن نام و ایمیل ضروری است. اما لازم نیست که کادر نشانی وب‌سایت پر شود.
لطفا تنها در مورد همین نوشته اظهار نظر بفرمایید و اگر درخواست و فرمایش دیگری دارید، از طریق فرم تماس مطرح کنید.