فناوری تشخیص چهره، همین حالا هم راه خود را در زندگی روتین آدم‌ها باز کرده است. مدتهاست که فیس‌بوک از این فناوری استفاده می‌کند و به کمک آن می‌توان در موارد زیادی آدم‌هایی که در یک عکس هستند را تشخیص داد، پلیس هم که به صورت گسترده‌ای از این فناوری استفاده می‌کند.
اما مدتی پیش یک پژوهشگر MIT به نام جوی بولاموینی، متوجه یک مشکل جدی در فناوری تشخیص چهره شد: این فناوری در تشخیص چهره زنان تیره‌پوست، مشکل جدی دارد!
به همین خاطر او نگران شد که این خطاها و اشتباهات بتواند تاثیر منفی بر زندگی زنانی، مثل خود او، داشته باشد و پروژه‌ای را برای اعلام یک هشدار همگانی برای اصلاح این مشکل شروع کرد.
بولاموینی در بررسی‌های خود متوجه شد که هوش مصنوعی تشخیص چهره آمازون، در این زمینه مشکلات زیادی دارد. مایکروسافت و IBM هم تا حدی همین مشکل را داشتند.
آمازون در واکنش به این هشدار، ترجیح داد که از سیاست حمله و انکار استفاده کند و می‌گوید که اصلا روش و معیار بررسی بولاموینی مشکل دارد و او تشخیص چهره را با تحلیل چهره اشتباه گرفته است. اما به دنبال این موضع‌گیری آمازون؛ گروهی از پژوهشگران حوزه هوض مصنوعی و همچنین سیاستمدارانی از کنگره و سنای آمریکا از خانم بولاموینی حمایت کردند.
مشکل اصلی این است که فناوری تشخیص چهره به سرعت توسط پلیس و نهادهای دواتی گرفته تا کارهای تجاری و حتی کنترل ورود افراد به آپارتمان‌ها، در حال استفاده روز‌افزون است.
اما علت این مشکل چیست؟
حدس اولیه این است که الگوریتم‌ها، در هنگام تکامل، اساسا بر اساس ساختارهای صورت مردان سفیدپوست، برنامه‌ریزی شده بودند.
بر اساس برآوردها، الگوریتم‌های تشخیص چهره از IBM گرفته تا مایکروسافت و آمازون و Face Plus Plus چینی، در مورد زنان تیره‌پوست، ضریب اشتباه بسیار بالای ۳۴.۷ درصد دارند. در حالی که خطای آنها در مورد مردان با پوست روشن، تنها یک درصد است.
