گوگل دارد هوش مصنوعی را آموزش می‌دهد تا انسان را فریب داده؛ آن‌گاه از اشتباهات انسان برای قوی‌تر شدن سود ببرد

  • توسط میثاق محمدی‌زاده
  • ۱۴ اسفند ۱۳۹۶
  • ۱ دیدگاه

گوگل می‌خواهد از اشتباهات انسانی برای قدرتمندسازی هوش مصنوعی استفاده کند.

روبات‌های هوش مصنوعی در اینترنت و دیگر فضاها گول می‌خورند و بخشی از یک تصویر را نمی‌بینند یا آن را با تصویر و شی دیگری اشتباه می‌گیرند.

سال گذشته، یک گروه تحقیقاتی از دانشگاه MIT حمله‌ای بر علیه هوش مصنوعی گوگل ترتیب دادند و تنها با افزودن یک کد ساده به تصویر، هوش مصنوعی را مجبور کردند به یک تفنگ به جای لاک‌پشت نگاه کند. اشتباهی که یک کودک سه ساله هم می‌تواند تشخیص دهد و از ارتکاب‌اش خودداری کند.

در حقیقت، مشکل از هوش مصنوعی گوگل یا سیستم‌های یادگیری عمیق نیست. مشکل اینجا است که انسان‌ها دو چشم برای دیدن دارند ولی هوش مصنوعی چیزی نمی‌بیند بلکه تصاویر را پردازش می‌کند. بنابراین؛ به راحتی بخشی از تصویر که انسان‌ها نمی‌بینند را درک کرده و به اشتباه می‌افتد.

یافتن نقاط قوت انسان برای غلبه بر انسان

حالا گوگل برای حل این مشکل می‌خواهد از خود سیستم بینایی و درک انسان‌ها استفاده کند تا الگوریتم‌های هوش مصنوعی قوی‌تر شوند. آن‌ها دارند روی این موضوع کار می‌کنند که چرا انسان‌ها با مشاهده عکس‌ها، کمتر دچار اشتباه می‌شوند. به زبان دیگر؛ چه اجزایی در یک تصویر می‌تواند انسان‌ها را به اشتباه بیندازد و آن‌ها فریب بخورند.

گوگل به طور همزمان دارد روی مغز انسان‌ها و شبکه‌های عصبی کار می‌کند و با شبیه‌سازی آن‌ها سعی دارد؛ الگوریتم‌های یادگیری عمیق قوی‌تری بسازد که همانند انسان‌ها در مشاهده تصاویر دچار اشتباه نشوند و به سختی گول بخورند.

محققان گوگل می‌گویند:

«اگر ما بفهمیم که انسان‌ها در مقابل کدام دسته از تصاویر مقاوم هستند و در مقابل کدام نمونه‌ها دچار اشتباه می‌شوند؛ می‌توان به یک مکانیزم مشابه برای بهبود امنیت یادگیری ماشینی دست یافت.»

برای نمونه، محققان گوگل چهره یک گربه را دستکاری کردند به طوری که شبیه به یک سگ شود. چندین نمونه عکس از این دستکاری را ساخته و به طور همزمان دارند روی مغز انسان‌ها و بینایی ماشینی کار می‌کنند تا متوجه شوند چرا انسان‌ها با کمی دقت سریعا می‌توانند تفاوت‌ها را یافته و دچار اشتباه نشوند ولی هوش مصنوعی فریب می‌خورد.

عکس سمت چپ: تصویر اصلی گربه / عکس سمت راست: تصویر دستکاری شده برای شباهت‌سازی سگ

امروزه، بینایی ماشینی یکی از علوم بنیادین در هوش مصنوعی است که دارد کم‌کم وارد زندگی روزمره انسان‌ها می‌شود. خودران‌ها بهترین نمونه از کاربردهای بینایی ماشینی هستند. روبات‌های انسان‌نما نیز درصدی بینایی ماشینی دارند.

بنابراین؛ امنیت این حوزه از اهمیت بسیار بالایی برخودار است و محققان گوگل تلاش دارند این علم را به جایی برسانند که نشود با دستکاری ساده یک عکس یا افزودن چند خط کد برنامه‌نویسی به یک تصویر؛ هوش مصنوعی و بینایی ماشینی را فریب داد.

منبع

قبلی «
بعدی »

نظرات

  1. یادگیری ژرف نه یادگیری عمیق.

دیدگاه خود را با ما اشتراک بگذارید:

ایمیل شما نزد ما محفوظ است و از آن تنها برای پاسخگویی احتمالی استفاده می‌شود و در سایت درج نخواهد شد.
نوشتن نام و ایمیل ضروری است. اما لازم نیست که کادر نشانی وب‌سایت پر شود.
لطفا تنها در مورد همین نوشته اظهار نظر بفرمایید و اگر درخواست و فرمایش دیگری دارید، از طریق فرم تماس مطرح کنید.

قابل توجه شما

پیشنهادات ما

پیشنهاد می‌کنیم