اینستاگرام به کمک هوش مصنوعی زورگویی در تصاویر و متنها را کشف و فیلتر میکند
سال گذشته، اینستاگرام استفاده از یک فیلتر پیشرفته و بهبودیافته مبتنی بر یادگیری ماشینی برای کشف کلمات و عبارتهای اهانتآمیز را آغاز کرد.
این حرکت اینستاگرام در پاکسازی محیط عمومی این شبکه اجتماعی از پستهای و کامنتهای توهینآمیز بسیار موثر بود.
اکنون، اینستاگرام میخواهد این ویژگی را توسعه داده و عکسها و کپشنهای نوشته شده برای آن را به دنبال علایم قلدری و زورگویی بگردد. اینستاگرام از یک سیستم هوش مصنوعی برای بررسی عکسها و شرحها پیش از ارسال این محتوا به سوی بازرسان انسانی استفاده میکند.
اگر عکس و متنی علایم خشونت یا زورگویی را داشته باشد؛ به طور خودکار توسط سیستم اینستاگرام فیلتر خواهد شد.
این ویژگی طی هفتههای آینده برای کاربران فعال میشود. به طور دقیق، برای کاربران امریکایی در ماه اکتبر استفاده میشود چون این ماه اصطلاحا به ماه مبارزه با زورگویی و خشونت معروف است. برای کاربران انگلیسی نیز در هفته مبارزه با خشونت و زورگویی راهاندازی خواهد شد.
قرار است این فناوری به استوریها و فیلمهای زنده هم تسریع داده شود تا بتوان نظرات زورگویانه را هم فیلتر کرد.
فیلترسازی شامل تصاویر هم میشود
اینستاگرام هنوز به طور دقیق نگفته چگونه میخواهد مصادیق قلدری و زورگویی را در تصاویر و متنهای مرتبط با آنها کشف و فیلتر کند.
برخی سایتها گزارش دادند این ویژگی جدید به معنای واقعی کلمه میتواند کپشنها و نظرات نوشته شده برای یک عکس را پایش کند و نمیتواند علایم زورگویی در تصاویر را بیابد چون مصداقهای مختلفی و متضادی برای تصاویر وجود دارد.
اما اینستاگرام مشخصا میگوید به بررسی تصاویر برای یافتن تصاویر زورگویی میپردازد. اینستاگرام الگوهای خاص و قابل توجهی برای این کار طراحی کرده است که مبتنی بر مقایسه تصاویر در کنار هم و با یکدیگر است.
پس از استعفای دو موسس اصلی اینستاگرام در ماه گذشته، این ویژگی اولین محصول تیم جدید مدیریتی اینستاگرام و فیسبوک است. مدیران فیسبوک روی این شبکه اجتماعی ضربههای زیادی خورده و محبوبیت خود را از دست دادند.
آنها نمیخواهند در اینستاگرام هم چنین اتفاقی رخ دهد. به همین دلیل، به دنبال سالمسازی فضای عمومی اینستاگرام هستند و ویژگیهای جدیدی برای پاکسازی این فضا ارایه میکنند.
اینستاگرام، علاوه بر انتشار فیلتر جدید مبارزه با زورگویی، یک ویژگی جدید به نام «افکت مهربانی دوربین» را نیز منتشر کرد. در این ویژگی، کاربران میتوانند یک عکس سلفی را با انواع استیکرها و جملات محبتآمیز به زبانهای مختلف پر کنند و روی حساب کاربری خود منتشر سازند.
در حقیقت، این افکت یک شیوه و روش انتشار پیامهای مثبت و افزایش تعامل میان کاربران است.