این برنامه هوش مصنوعی با فریب‌کاری و پنهان‌سازی برخی اطلاعات سعی می‌کند از زیر بار وظایف‌اش شانه خالی کند

  • توسط میثاق محمدی‌زاده
  • ۱۳ دی ۱۳۹۷
  • ۴ دیدگاه

دانشگاه استنفورد با همکاری گوگل نرم‌افزار هوش مصنوعی به نام «سایکل‌گن» (CycleGAN» برای تبدیل تصاویر هوایی به نقشه‌های خیابانی طراحی کردند.

هدف گوگل این است که CycleGAN کیفیت و دقت تصاویر و نقشه‌های حیابانی گوگل مپس را بالا ببرد و جزییات بیشتری به آن‌ها اضافه کند. CycleGAN باید با ترکیب نقشه‌های خیابانی پیش‌فرض و تصاویر هواویی با یکدیگر، نقشه سومی با جزییات و دقت بسیار بالاتر بسازد.

محققان دانشگاه استنفورد پس از طراحی CycleGAN و مشاهده نتایج ترکیب چند نقشه هوایی و خیابانی توسط آن؛ متوجه شدند به صورت هوشمندانه و فریب‌کارانه‌ای برخی اطلاعات ازشان پنهان‌سازی می‌شود و در نتیجه روی نقشه نهایی اعمال نشده است.

این محققان با تحقیقات بیشتر درمی‌یابند الگوریتم یادگیری ماشینی به طور نامحسوسی سعی می‌کند از زیر کارش طفره بروند و برخی وظایف‌اش را انجام ندهد.

آن‌ها دریافتند این شبکه عصبی به جای ساخت یک نقشه جدید از روی نقشه خیابانی قبلی و با ترکیب اطلاعات جدید تصاویر هواویی؛ سعی می‌کند یک نقشه خیابانی جدید الگوبرداری و کپی‌کاری کند.

به عنوان مثال، در تصویر زیر، عکس سمت چپ عکس اصلی نقشه خیابانی یک منطقه است. عکس وسط، تصویر هوایی برای ترسیم خیابان‌ها است و تصویر سمت راست توسط برنامه CycleGAN ساخته شده است که به طور زیرکانه‌ای دو نقطه آن حذف شده است:

هدف از طراحی CycleGAN، اعمال هزاران رنگ و اطلاعات جزیی و دقیق تصاویر هوایی روی نقشه‌های گوگل مپس است که چشم انسان غالبا قادر به مشاهده آن‌ها روی نقشه نیست.

هوشمندی بیشتر ماشین یا خطای انسانی

شبکه عصبی طراحی شده برای این منظور باید بتواند به طور کامل ویژگی‌های یک نقشه را تحلیل و با ویژگی‌های نقشه دیگری مطابقت و منطبق کند تا یک نقشه بسیار دقیق‌تر حاصل شود.

اما برنامه هوش مصنوعی نهایی این کار را یاد نگرفته یا به طور هوشمندانه و حقه‌بازی سعی در انجام ندادن آن دارد و فقط یک نقشه را روی نقشه دیگری کدگذاری می‌کند.

روش کدگذاری اطلاعات در نقشه‌ها به نام «پنهان‌نگاری» یا «استگانوگرافی» (Steganography) شناخته شد و یک روش مرسوم در ارایه تصاویر هوایی از آب‌وهوا یا جذر و مدهای دریاها است که در بهبود نقشه‌های گرافیکی گوگل مپس کاربردی ندارد.

در اینجا، باید دو نکته بسیار مهم را مدنظر قرار داد. کامپیوترها و هوش مصنوعی همان کاری را انجام می‌دهند که انسان‌ها ازشان خواسته‌اند. بنابراین؛ اشتباه در طراحی شبکه عصبی و الگوریتم یادگیری ماشینی برنامه CycleGAN باعث پدید آمدن این فریب‌کاری و پنهان‌سازی اطلاعات شده است.

نکته دوم، برخی سایت‌ها از این اتفاق به عنوان «هوشمندتر شدن ماشین‌ها» یاد کردند که به نظر تعبیر صحیحی نیست و برعکس CycleGAN سعی دارد انسان‌ها و سازندگان‌اش را فریب دهد و از زیر بار انجام وظایف‌اش شانه خالی کند.

محققان طراح این برنامه هوش مصنوعی سعی دارند با بررسی‌های بیشتر شبکه عصبی CycleGAN، اشکالات را یافته و رفع کنند.

منبع

نظرات

  1. تیتر خبر مناسب خبر نیست
    شما با این تیتر باعث ترویج خرافات در زمینه هوش مصنوعی میشید.
    کامپیوتر دقیقاً همان کاری رو انجام میده که برنامه نویس ازش می خواد نه بیشتر و نه کمتر.

  2. چرت و پرت، هر برنامه نویسی میدونه که این چرت و پرته. یه باگه نه اینکه هوش مصنوعی تصمیم گرفته باشه سرخود این کارو بکنه. چرت و پرت محض.

  3. من که تفاوت رو پیدا نکردم!!

  4. ۱٫ نوشته اید: “کامپیوترها و هوش مصنوعی همان کاری را انجام می‌دهند که انسان‌ها ازشان خواسته‌اند.” پس قاعدتاً باید به کار بردن عباراتی چون “فریب کاری” و “از زیر بار وظایف شانه خالی کردن” بی معنی باشد!
    به کاربردن تعبیرات عوامانه و سطحی (اطلاعات غلط) که ناشی از جوزدگی است، در تضاد با ترویج علم است.
    ۲٫ “Steganography” هیچ ارتباطی به مطلب ندارد و تعریف به کاربرده شده در مورد آن نادرست است. فارغ از این، اصلاً فرض کنیم “روش کدگذاری اطلاعات در نقشه‌ها به نام «پنهان‌نگاری» یا «استگانوگرافی» (Steganography) شناخته شد و یک روش مرسوم در ارایه تصاویر هوایی از آب‌وهوا یا جذر و مدهای دریاها است”، اگر “در بهبود نقشه‌های گرافیکی گوگل مپس کاربردی ندارد”، چطور و چرا در داخل این متن آمده است؟!

دیدگاه خود را با ما اشتراک بگذارید:

ایمیل شما نزد ما محفوظ است و از آن تنها برای پاسخگویی احتمالی استفاده می‌شود و در سایت درج نخواهد شد.
نوشتن نام و ایمیل ضروری است. اما لازم نیست که کادر نشانی وب‌سایت پر شود.
لطفا تنها در مورد همین نوشته اظهار نظر بفرمایید و اگر درخواست و فرمایش دیگری دارید، از طریق فرم تماس مطرح کنید.