«اپل فوتوز» عزیز! مادربزرگ من سگ نبود! داستان یک خطای دردناک در فناوری
این روایت از زبان یک پژوهشگرِ فناوری و عکاس روایت می‌شود؛ کسی که هم تجربه‌ی انسانی و خاطرات عزیز وو ژرفی از مادربزرگ خود داشته و هم شناخت تخصصی از الگوریتم‌ها و سیستم‌های یادگیری ماشینی (Machine Learning). او با نگاهی نقادانه و در عین حال صمیمی، ماجرایی را تعریف می‌کند که از یک اشتباه ساده نرم‌افزاری آغاز شد، اما معنایی تلخ و پیچیده با خود دارد. این متن ترکیبی‌ست از پژوهش فنی، تجربه زندگی و دغدغه‌های انسانی در برخورد با فناوری‌هایی که هنوز راه درازی تا شناخت انسان دارند.
وقتی فناوری چهره‌ی انسان را نمی‌شناسد
در دل آرشیو دیجیتال یک خانواده، تصویری از مادربزرگی دیده می‌شود که با روسری سفید، دستی بر پیشانی، در آرامش استراحت می‌کند. تصویری سیاه‌وسفید، با کنتراست ظریف میان رنگ پوست تیره و لباس سفید، ثبت‌شده با نگاهی هنری و انسانی. اما همین تصویر، در جست‌وجوی واژه «سگ» (Dog)، توسط برنامه‌ی Apple Photos به‌عنوان یکی از نتایج نشان داده می‌شود. اشتباهی که از دید یک کاربر عادی شاید قابل چشم‌پوشی باشد، اما برای کسی که مادربزرگش را انسانی صدساله، خردمند و رنج‌دیده از تاریخ استعمار می‌دانسته، شوکه‌کننده و زخم‌زننده است.
مادربزرگی که در دوران پیش از استقلال غنا متولد شده و آن‌قدر زیسته که کارت تبریک تولد از سوی ملکه انگلستان دریافت کرده، نباید در کنار تصاویری از سگ‌ها ظاهر شود. به‌ویژه زمانی که خود سیستم‌های هوش مصنوعی هنوز در تشخیص افراد سیاه‌پوست دچار خطاهای جدی هستند. این تجربه، به‌نوعی تکرار ماجرایی مشابه با اشتباه معروف گوگل در ده سال گذشته است؛ همان‌زمانی که یک زوج آفریقایی‌تبار، به اشتباه «گوریل» برچسب خوردند.
در پژوهش‌های مختلف درباره‌ی هوش مصنوعی، این مسئله بارها بررسی شده که چگونه داده‌های ناقص، آموزش ناعادلانه و نبود تنوع در تصاویر آموزشی، باعث بروز چنین خطاهایی می‌شوند. آنچه برای یک سیستم «تصویر» است، برای انسان «خاطره» و «شخصیت» است. مادربزرگ این خانواده، دارای فرزانگی و حکمت، تاریخ و عشق بوده؛ نه صرفاً چهره‌ای تیره در کادری محدود.
هنری برای بزرگداشت، نه تحقیر
در توضیح این عکس، یک انسان بر بافت پوست، خطوط چهره و تضاد روشنایی و عمق شخصیت مادربزرگ یاد می‌کند. اما همین عکس از دید ماشین، شاید شبیه الگوی تصویری موی حیوانات تیره‌رنگ بوده باشد. این‌جاست که تضاد اصلی پدیدار می‌شود: آنچه برای انسان «تجلیل» است، برای ماشین می‌تواند «کد اشتباه» باشد.
در مقابل، سگی به نام «باک‌آی» (Buckeye) – که متعلق به همسر نویسنده بوده – در جست‌وجوی همان واژه به‌درستی نمایش داده می‌شود. تصویر آن سگ، با رنگ سفید و لکه‌های مشخص، به‌راحتی توسط الگوریتم تشخیص داده می‌شود. همین مقایسه ساده، دردناک است. چهره‌ی انسانی که با دقت و عشق عکاسی شده، اشتباه گرفته می‌شود؛ اما یک حیوان خانگی، به‌راحتی تشخیص داده می‌شود.
خواسته‌ای کوچک از غولی بزرگ
نویسنده این تجربه، خواستار غرامت یا جنجال رسانه‌ای نیست. او فقط یک چیز می‌خواهد: امکان تصحیح. هم‌اکنون هیچ گزینه‌ای در Apple Photos وجود ندارد که کاربر بتواند به سیستم اعلام کند یک تصویر، به اشتباه در دسته‌بندی خاصی ظاهر شده است. نتیجه؟ تا زمانی که عکس حذف نشود، هر بار که کسی در تلفن همراه این خانواده عبارت «سگ» را جست‌وجو کند، تصویر مادربزرگ نشان داده می‌شود.
او پیشنهاد می‌کند که اپل، راهی برای علامت‌گذاری خطای تشخیص به وجود آورد؛ یا حتی امکان ارسال این تصویر برای آموزش بهتر الگوریتم‌ها را فراهم کند. زیرا بر اساس یافته‌های پژوهشی، سیستم‌های هوش مصنوعی زمانی بهبود می‌یابند که از خطاهای انسانی، و با کمک خود انسان‌ها یاد بگیرند. و این خطا، زمانی دردناک‌تر است که در مورد رنگین‌پوستان بیشتر رخ می‌دهد.
پایان یک زندگی، و آغاز یک مطالبه
در پایان این روایت، ما با یاد زنی روبه‌رو هستیم که صد سال زندگی کرده، فرزندان و نوه‌هایی را با عشق بزرگ کرده، و با شأن و وقار زیسته است. او تنها یک چهره در میان هزاران تصویر نیست. او نشانه‌ای است از تاریخ، از فرهنگ، از پایداری انسانی در برابر نادیده‌گرفتن‌ها.
فناوری، با تمام وعده‌هایش، اگر انسان را نشناسد، نه‌تنها بی‌فایده، بلکه تحقیرکننده است. هوش مصنوعی باید یاد بگیرد که همه را ببیند؛ بدون پیش‌فرض، بدون تبعیض. و این آغازش می‌تواند از احترام به چهره‌ای باشد که دیگر در این دنیا نیست، اما هنوز در حافظهٔ تصویرها، نفس می‌کشد.
منبع: petapixel
