کتاب ریاضی به مانند یک اسلحه نابودگر “Weapons of Math Destruction” نوشته‌ی کاثی اُنیل – وقتی الگوریتم‌ها تمدن انسانی را تهدید می‌کنند

۲۵ مرداد ۱۴۰۳آخرین بروزرسانی: ۲۵ مرداد ۱۴۰۳

زمان تقریبی مطالعه 3 دقیقه

درباره‌ی نویسنده: کاثی اُنیل

کاثی اُنیل (Cathy O’Neil) یک ریاضیدان، داده‌نگار و نویسنده‌ی معروف است. او در رشته‌ی ریاضیات از دانشگاه هاروارد فارغ‌التحصیل شده و سپس در رشته‌ ریاضیات کاربردی از دانشگاه MIT دکترا گرفته است. پس از اتمام تحصیلات، کاثی وارد دنیای دانشگاهی شد و به عنوان استاد ریاضیات فعالیت کرد. اما بعدها به حوزه‌ی امور مالی و داده‌نگاری وارد شد و در شرکت‌های مختلفی به عنوان دانشمند داده (Data Scientist) فعالیت کرد. این تجربه‌ها باعث شد تا او از نزدیک با استفاده و سوءاستفاده از الگوریتم‌ها در دنیای واقعی آشنا شود.

دیگر کتاب‌های کاثی اُنیل شامل “Doing Data Science” است که او با همکاری ریچل شورر نوشته و به آموزش مفاهیم داده‌کاوی و تحلیل داده می‌پردازد.

کتاب “ریاضی به مانند یک اسلحه نابودگر” نوشته‌ی کاثی اُنیل، یکی از مهم‌ترین آثار در زمینه بررسی تاثیرات منفی الگوریتم‌ها و مدل‌های ریاضی در جوامع معاصر است. این کتاب به شکلی جامع و مستند، به چگونگی استفاده از این ابزارهای به ظاهر بی‌طرف و علمی برای تصمیم‌گیری‌هایی می‌پردازد که نه تنها عادلانه نیستند، بلکه گاهی اوقات نابرابری‌های اجتماعی را تشدید می‌کنند.

محتوای کتاب و بررسی آن

کتاب “ریاضی به مانند یک اسلحه نابودگر” به تفصیل به تحلیل الگوریتم‌هایی می‌پردازد که در زمینه‌های مختلف به کار گرفته می‌شوند. این الگوریتم‌ها ممکن است در نگاه اول بی‌طرف و منطقی به نظر برسند، اما در واقع، اغلب بر پایه داده‌های ناقص، مغرضانه یا تاریخی که دارای نابرابری‌های اجتماعی هستند، ساخته شده‌اند. اُنیل به این نکته اشاره می‌کند که این الگوریتم‌ها به دلیل مقیاس بزرگ و پنهانی که دارند، می‌توانند نتایج بسیار مخربی برای افراد و جامعه به همراه داشته باشند. او از این الگوریتم‌ها را تخریب‌گر می‌داند، زیرا آن‌ها بدون هیچ گونه بررسی دقیق یا حسابرسی اجتماعی، تصمیم‌هایی می‌گیرند که می‌توانند زندگی افراد را به شدت تحت تأثیر قرار دهند.

مثال‌هایی از الگوریتم‌های نابودکننده

کتاب مثال‌های متعددی از الگوریتم‌هایی را ارائه می‌دهد که در زندگی روزمره تأثیرات مخرب دارند:

سیستم‌های امتیازدهی اعتباری: این سیستم‌ها تصمیم می‌گیرند که چه کسی شایسته دریافت وام است و چه کسی نیست. این تصمیم‌ها بر اساس داده‌های تاریخی و بدون در نظر گرفتن تغییرات احتمالی در زندگی افراد گرفته می‌شود، که می‌تواند به تداوم نابرابری‌های اقتصادی منجر شود.
الگوریتم‌های استخدامی: بسیاری از شرکت‌ها از الگوریتم‌ها برای فرآیند استخدام استفاده می‌کنند. این الگوریتم‌ها ممکن است بر اساس الگوهای گذشته که شامل تبعیض‌های جنسیتی، نژادی و غیره است، عمل کنند و به این ترتیب نابرابری‌ها را در محیط کار تقویت کنند.
الگوریتم‌های پیش‌بینی جرم: در برخی از شهرها، از الگوریتم‌ها برای پیش‌بینی محل وقوع جرم استفاده می‌شود. این الگوریتم‌ها اغلب به شکلی ساخته شده‌اند که بر اساس داده‌های تاریخی نابرابری‌های نژادی را تقویت می‌کنند و موجب هدف قرار دادن گروه‌های خاصی از جامعه می‌شوند.

تاثیراهای اجتماعی و اخلاقی الگوریتم‌ها

کاثی اُنیل در کتابش به این نکته اشاره می‌کند که الگوریتم‌ها به شکلی نگران‌کننده جایگزین تصمیم‌گیری‌های انسانی شده‌اند. این ابزارهای ریاضی به دلیل حجم عظیم داده‌هایی که پردازش می‌کنند، از کنترل خارج شده و به جای تسهیل زندگی، به ابزارهایی برای تقویت تبعیض و نابرابری تبدیل شده‌اند.

او تاکید می‌کند که مشکل اصلی در اینجا نه فقط در ساختار خود الگوریتم‌ها، بلکه در فقدان شفافیت و پاسخگویی در استفاده از آن‌ها است. از آنجا که این الگوریتم‌ها به شکلی پنهانی و در مقیاس بزرگ عمل می‌کنند، کنترل و اصلاح آن‌ها بسیار دشوار است. به عنوان مثال، اگر یک فرد به دلیل نتایج یک الگوریتم از دریافت وام محروم شود، احتمالاً هیچ راهی برای اعتراض یا اصلاح آن نتیجه ندارد، زیرا فرآیند تصمیم‌گیری به کلی از دید او پنهان است.

پیشنهاهایی برای آینده

کتاب “ریاضی به مانند یک اسلحه نابودگر” علاوه بر نقد و بررسی مشکلات، به ارائه راهکارهایی برای بهبود وضعیت نیز می‌پردازد. اُنیل پیشنهاد می‌کند که استفاده از الگوریتم‌ها باید تحت نظارت دقیق‌تری قرار گیرد و شفافیت بیشتری در این فرآیندها وجود داشته باشد. همچنین، او بر لزوم مشارکت افراد متخصص در زمینه‌های مختلف (مانند اخلاق، حقوق، و علوم اجتماعی) در طراحی و پیاده‌سازی این الگوریتم‌ها تاکید می‌کند تا از بروز تبعیض‌ها و نابرابری‌ها جلوگیری شود.

بازخوردها و نقدها

کتاب “ریاضی به مانند یک اسلحه نابودگر” با استقبال گسترده‌ای از سوی محققان، فعالان اجتماعی و منتقدان روبرو شده است. بسیاری از منتقدان این کتاب را به دلیل تحلیل دقیق و شفافش ستوده‌اند و آن را به عنوان یک اثر مهم در زمینه‌ی نقد استفاده از داده و الگوریتم‌ها معرفی کرده‌اند. با این حال، برخی نیز بر این باورند که کتاب به شکل بیش از حدی به نقد الگوریتم‌ها می‌پردازد و کمتر به جنبه‌های مثبت و پتانسیل‌های آن‌ها اشاره می‌کند.

کتاب “ریاضی به مانند یک اسلحه نابودگر” یک اثر مهم و ضروری برای کسانی است که به تاثیرات اجتماعی و اخلاقی فناوری‌های نوین علاقه‌مند هستند. این کتاب نه تنها به بررسی مشکلات موجود می‌پردازد، بلکه دعوتی است برای بازنگری و تجدید نظر در استفاده از الگوریتم‌ها و مدل‌های ریاضی در جامعه. خواندن این کتاب می‌تواند دیدگاه‌های جدید و مهمی در مورد چگونگی شکل‌گیری تصمیم‌های اجتماعی و تاثیرات آن‌ها بر زندگی افراد به دست دهد.