چگونه الگوریتم‌های شخصی‌سازی شبکه‌های اجتماعی افکار و سلیقه ما را هدایت می‌کنند؟

هر بار که گوشی هوشمند خود را برمی‌دارید و وارد دنیای اینترنت می‌شوید، یک هوش مصنوعی نامرئی در حال رصد کوچک‌ترین رفتارهای شماست. این سیستم‌های پیچیده که با عنوان الگوریتم‌های شخصی‌سازی شناخته می‌شوند، ادعا می‌کنند که تنها به دنبال بهبود تجربه کاربری ما هستند. اما حقیقت بسیار پیچیده‌تر و گاه تاریک‌تر است. در این مقاله می‌خواهیم ببینیم الگوریتم‌های شخصی‌سازی چگونه سلیقه و افکار ما را به کنترل خود درآورده‌اند و سبک زندگی ما را تغییر می‌دهند. آیا ما واقعا با اراده آزاد خود انتخاب می‌کنیم یا سلیقه ما بازتابی از کدهای برنامه‌نویسی‌شده است؟ با بررسی سازوکار پنهان این سیستم‌ها، متوجه خواهید شد که چگونه دنیای آنلاین ذهن ما را مهندسی می‌کند.

سیستم‌های توصیه گر و نحوه ردیابی داده‌های کاربران

سیستم‌های توصیه‌گر (Recommendation Systems) موتورهای محرک اینترنت مدرن هستند که وظیفه دارند از میان میلیاردها محتوای موجود، جذاب‌ترین گزینه‌ها را برای هر کاربر فیلتر کنند. این فرآیند با جمع‌آوری مداوم داده‌های رفتاری شما آغاز می‌شود. هر زمان که روی یک پست کلیک می‌کنید، ثانیه‌هایی که روی یک تصویر مکث می‌کنید، جستجوها و حتی سرعت اسکرول کردن شما در صفحه، همگی به عنوان سیگنال‌های ارزشمند توسط الگوریتم ثبت می‌شوند. این سیستم‌ها اطلاعات را به دو روش صریح مانند لایک‌ها و امتیازدهی‌ها و ضمنی مانند زمان تماشا و تاریخچه بازدید جمع‌آوری می‌کنند تا یک نقشه دیجیتال از علایق شما بسازند.

با پیشرفت یادگیری ماشین، این سیستم‌ها دیگر فقط به داده‌های ساده متکی نیستند. آن‌ها با استفاده از شبکه‌های عصبی عمیق، رفتارهای شما را در سطح میکرو تحلیل می‌کنند. برای مثال، الگوریتم می‌داند شما در چه ساعاتی از شب به چه نوع ویدیوهایی تمایل دارید و یا در چه شرایط روحی خاصی، احتمال خرید آنلاین شما افزایش می‌یابد. این جمع‌آوری گسترده داده‌ها، عملاً حریم خصوصی را به یک مفهوم نمادین تبدیل کرده است. گوشی هوشمند شما به یک دستگاه شنود و ردیاب تبدیل شده که اطلاعات رفتاری شما را به عنوان سوخت اصلی برای ماشین‌های پیش‌بینی رفتار ارسال می‌کند تا تصمیمات بعدی شما به راحتی قابل پیش‌بینی باشد.

حلقه‌های بازخورد مثبت و تقویت رفتارهای تکراری

یکی از مفاهیم کلیدی در مهندسی الگوریتم‌ها، ایجاد حلقه‌های بازخورد مثبت (Positive Feedback Loops) است. این حلقه‌ها زمانی شکل می‌گیرند که الگوریتم بر اساس رفتارهای گذشته شما، محتوای مشابهی را پیشنهاد می‌دهد و شما با تعامل مجدد با آن محتوا، فرضیه الگوریتم را تایید می‌کنید. به عنوان مثال، اگر شما یک بار ویدیویی درباره یک نظریه توطئه تماشا کنید، سیستم در دفعات بعدی ویدیوهای بیشتری در همان موضوع نشان می‌دهد. با تماشای مداوم این ویدیوها، الگوریتم به این نتیجه می‌رسد که این موضوع علاقه اصلی شماست و در نتیجه جریان محتوای شما را کاملاً با آن پر می‌کند.

این فرآیند به مرور زمان سلیقه و رفتارهای شما را کانالیزه و محدود می‌کند. به جای اینکه با ایده‌ها و دیدگاه‌های جدید مواجه شوید، مدام در یک چرخه تکراری از اطلاعات همگن غوطه‌ور می‌شوید. این سیستم‌ها برای به حداکثر رساندن زمان حضور شما در پلتفرم طراحی شده‌اند و تغییر سلیقه یا نشان دادن محتوای متفاوت، یک ریسک تجاری برای آن‌ها محسوب می‌شود. در نتیجه، الگوریتم‌ها با تقویت رفتارهای تکراری، عملاً قدرت کشف و شهود طبیعی انسان را سرکوب کرده و ما را به نسخه‌های پیش‌بینی‌پذیر و یک‌بعدی از خودمان تبدیل می‌کنند که سلیقه‌مان توسط کدهای کامپیوتری دیکته می‌شود.

حباب‌های فیلتر و محصور شدن در پیله‌های فکری

اصطلاح حباب فیلتر (Filter Bubble) اولین بار توسط فعال اینترنت الی پارایزر مطرح شد و به وضعیتی اشاره دارد که در آن الگوریتم‌ها، کاربر را از اطلاعات و دیدگاه‌هایی که با باورهای او همخوانی ندارند، محروم می‌کنند. وقتی سیستم متوجه می‌شود شما به دیدگاه‌های سیاسی، مذهبی یا اجتماعی خاصی تمایل دارید، به تدریج تمام صداهای مخالف را از فید خبری شما حذف می‌کند. در این حالت، شما احساس می‌کنید که تمام دنیا مانند شما فکر می‌کنند، زیرا هرچه در صفحه خود می‌بینید تاییدکننده نظرات شخصی شماست، در حالی که این صرفاً یک دنیای شخصی‌سازی‌شده و ساختگی است.

این حباب‌ها به تدریج توانایی نقد و تفکر چندوجهی را در جامعه از بین می‌برند. فردی که درون یک حباب فیلتر محصور شده است، دیگر نمی‌تواند درک کند چرا دیگران نظرات متفاوتی دارند، زیرا او هرگز با داده‌ها و استدلال‌های طرف مقابل مواجه نمی‌شود. این انزوای فکری ناخواسته، یکی از بزرگ‌ترین چالش‌های دموکراسی در عصر حاضر است. الگوریتم‌ها با بهینه‌سازی مداوم محتوا بر اساس سلیقه شخصی، دیوارهای نامرئی اما بسیار ضخیمی به دور ذهن ما می‌کشند و ما را در پیله‌هایی از تعصبات شخصی زندانی می‌کنند که خروج از آن‌ها کار بسیار دشواری است.

اقتصاد دوپامین و طراحی اپلیکیشن‌های اعتیادآور

طراحی پلتفرم‌های اجتماعی مدرن بر پایه اصول روان‌شناسی رفتاری و سیستم پاداش مغز استوار است که به آن اقتصاد دوپامین (Dopamine Economy) می‌گویند. ویژگی‌هایی مانند اسکرول بی‌انتها، لایک‌های لحظه‌ای و اعلان‌های هوشمند همگی طراحی شده‌اند تا ترشح هورمون دوپامین را در مغز تحریک کنند. الگوریتم‌ها متوجه می‌شوند که چه زمانی و با چه توالی محتوایی را نشان دهند تا بیشترین پاداش مغزی را ایجاد کنند. این دقیقاً همان سازوکاری است که ماشین‌های اسلات در کازینوها برای معتاد کردن بازیکنان استفاده می‌کنند؛ پاداش‌های تصادفی و غیرقابل پیش‌بینی.

وقتی گوشی هوشمند خود را برای دیدن یک پیام باز می‌کنید و ناگهان متوجه می‌شوید یک ساعت گذشته را صرف تماشای ویدیوهای کوتاه کرده‌اید، شما قربانی این سیستم طراحی اعتیادآور شده‌اید. الگوریتم با تحلیل واکنش‌های عصبی ناخودآگاه شما، جریان محتوا را به گونه‌ای مدیریت می‌کند که توجه شما هرگز قطع نشود. این استخراج بی‌رحمانه توجه، سلیقه و اولویت‌های زندگی شما را تغییر می‌دهد. تمرکز شما از اهداف بلندمدت به لذت‌های آنی کوتاه تغییر می‌یابد و سلیقه هنری و فرهنگی شما به سمت محتوای سریع، سطحی و پر سر و صدا هدایت می‌شود که بلعیدن آن برای مغز خسته راحت‌تر است.

اتاق‌های پژواک و تشدید قطبی‌سازی در جامعه

اتاق پژواک (Echo Chamber) پدیده‌ای اجتماعی-دیجیتالی است که در آن باورها و عقاید یک گروه با تکرار مداوم در یک سیستم بسته، تقویت و بزرگ‌نمایی می‌شوند. الگوریتم‌های شبکه‌های اجتماعی بزرگ‌ترین کارخانه‌های ساخت این اتاق‌های پژواک هستند. از آنجا که محتوای خشم‌برانگیز و هیجانی نرخ تعامل بالاتری دارد، الگوریتم‌ها تمایل دارند پست‌های قطبی‌کننده و افراطی را بیشتر ترویج کنند. این امر باعث می‌شود که گروه‌های مختلف جامعه به شدت در مقابل یکدیگر گارد بگیرند و فضای گفتگو و همدلی از بین برود.

در این بستر، تفکر اعتدالی و میانه به حاشیه رانده می‌شود، زیرا الگوریتم‌ها پاداشی به آن نمی‌دهند. کاربران برای دیده شدن در سیستم پاداش‌دهی پلتفرم، مجبور می‌شوند مواضع افراطی‌تری اتخاذ کنند تا توجه بیشتری جلب نمایند. این قطبی‌سازی شدید که توسط کدهای هوش مصنوعی هدایت می‌شود، آسیب‌های عمیقی به بافت اجتماعی جوامع مدرن وارد کرده است. ما دیگر با یک واقعیت مشترک روبرو نیستیم، بلکه هر گروه بر اساس الگوریتم اختصاصی خود، نسخه متفاوتی از حقیقت و اخبار را دریافت می‌کند که این امر تفاهم جمعی را عملاً غیرممکن می‌سازد.

دستکاری سلیقه موسیقی، هنر و مد توسط ماشین‌ها

بسیاری از ما تصور می‌کنیم سلیقه ما در انتخاب موسیقی، فیلم، کتاب و لباس، بازتابی از هویت و اصالت درونی ماست. اما در عصر الگوریتم‌ها، این ادعا تا حد زیادی به چالش کشیده شده است. پلتفرم‌های پخش موسیقی و فیلم با استفاده از الگوریتم‌های خود، تعیین می‌کنند که کدام هنرمندان شانس شنیده شدن داشته باشند. وقتی پلتفرمی به طور مداوم سبک خاصی از موسیقی یا یک آرتیست مشخص را در لیست‌های پخش خودکار قرار می‌دهد، گوش مخاطب به تدریج به آن عادت کرده و آن را به عنوان سلیقه شخصی خود قبول می‌کند.

این دستکاری ظریف منجر به همگن‌سازی (Homogenization) فرهنگ و هنر در سطح جهانی شده است. هنرمندان برای اینکه توسط الگوریتم‌ها پیشنهاد داده شوند، ساختار آثار خود را تغییر می‌دهند؛ مثلاً مقدمه آهنگ‌ها را کوتاه‌تر می‌کنند تا کاربر در ثانیه‌های اول آن را رد نکند. این یعنی الگوریتم‌ها نه تنها سلیقه مصرف‌کننده را کنترل می‌کنند، بلکه فرآیند خلق اثر هنری را نیز تغییر می‌دهند. سلیقه ما دیگر حاصل کشف‌های شخصی در کتاب‌فروشی‌های قدیمی یا آرشیوهای موسیقی نیست، بلکه خروجی بهینه‌سازی‌شده فرمول‌های ریاضی است که برای جلب رضایت توده‌ها طراحی شده‌اند.

تاثیرات شناختی الگوریتم‌ها بر قدرت توجه و تمرکز

قرار گرفتن مداوم در معرض جریان‌های محتوایی بهینه‌شده توسط الگوریتم‌ها، ساختار بیولوژیکی مغز و توانایی‌های شناختی ما را بازنویسی می‌کند. یکی از بارزترین تغییرات، کاهش شدید دامنه توجه (Attention Span) است. پلتفرم‌های ویدیوی کوتاه با ارائه محتواهای جذاب در چند ثانیه، سیستم پاداش مغز را به سرعت ارضا می‌کنند. این امر باعث می‌شود که مغز دیگر تحمل خواندن یک مقاله طولانی یا تماشای یک فیلم عمیق دو ساعته را نداشته باشد و مدام به دنبال محرک‌های بعدی بگردد.

این پدیده که دانشمندان علوم اعصاب به آن بیقراری دیجیتال می‌گویند، توانایی تفکر عمیق و تمرکز متمرکز را به شدت تضعیف می‌کند. مغز ما یاد می‌گیرد که اطلاعات را به صورت بسیار سطحی و گذرا پردازش کند. علاوه بر این، تصمیم‌گیری‌های روزمره ما نیز تحت تاثیر قرار می‌گیرند؛ زیرا ما به مرور زمان به این عادت می‌کنیم که بگذاریم الگوریتم‌ها برای ما تصمیم بگیرند که چه بپوشیم، چه بخوریم و به چه چیزهایی فکر کنیم. این واگذاری تدریجی اراده به ماشین، قدرت تحلیل مستقل را در نسل جدید به شدت کاهش می‌دهد.

نقش الگوریتم‌های شخصی‌سازی در انتخابات و سیاست

قدرت الگوریتم‌ها دیگر محدود به خرید کالا یا گوش دادن به موسیقی نیست، بلکه به ابزاری قدرتمند برای شکل‌دهی به سرنوشت سیاسی کشورها تبدیل شده است. رسوایی معروف کمبریج آنالیتیکا (Cambridge Analytica) در جریان انتخابات ریاست‌جمهوری آمریکا و رفراندوم برگزیت، نشان داد که چگونه با تحلیل داده‌های شخصی‌سازی‌شده کاربران، می‌توان پروفایل‌های روان‌شناختی دقیقی از آن‌ها ساخت و سپس با تبلیغات هدفمند و مهندسی‌شده، رای و تصمیمات سیاسی آن‌ها را تغییر داد.

الگوریتم‌ها می‌توانند نقاط ضعف، ترس‌ها و تعصبات شما را شناسایی کنند. اگر سیستم متوجه شود شما از بیکاری یا ناامنی می‌ترسید، اخبار و تبلیغاتی را به شما نشان می‌دهد که این ترس را تشدید کرده و شما را به سمت یک نامزد سیاسی خاص هدایت کند. این دستکاری روانی در مقیاس وسیع، بدون اینکه کاربران متوجه شوند در حال رخ دادن است. سیاستمداران امروز دیگر نیازی به متقاعد کردن توده‌ها ندارند؛ آن‌ها کافی است الگوریتم‌ها را با داده‌های درست تغذیه کنند تا ماشین‌ها کار متقاعدسازی و شستشوی مغزی مخاطبان را به صورت انفرادی و کاملاً شخصی‌سازی‌شده انجام دهند.

تحلیل ریاضی فیلترینگ مشارکتی و یادگیری عمیق

برای درک چگونگی تسلط الگوریتم‌ها بر ذهن، باید به زیر هود ریاضی آن‌ها نگاهی بیندازیم. یکی از روش‌های اصلی، فیلترینگ مشارکتی (Collaborative Filtering) است. این روش بر این فرض استوار است که اگر کاربر الف و کاربر ب در چند موضوع سلیقه مشترکی داشته باشند، احتمالاً در موضوعات دیگر نیز نظرات مشابهی خواهند داشت. الگوریتم با ماتریس‌های غول‌پیکر داده، شما را در گروهی از هزاران کاربر مشابه قرار می‌دهد و محصولاتی را که آن‌ها دوست داشته‌اند و شما هنوز ندیده‌اید، به شما پیشنهاد می‌دهد.

امروزه این روش با شبکه‌های عصبی عمیق (Deep Neural Networks) ترکیب شده است که می‌توانند روابط غیرخطی و بسیار پیچیده بین داده‌ها را کشف کنند. این مدل‌ها نیازی به تعریف دستی ویژگی‌ها ندارند؛ آن‌ها خودشان الگوهای پنهانی در رفتار شما پیدا می‌کنند که خودتان هم از آن‌ها بی‌خبرید. برای مثال، الگوریتم ممکن است متوجه شود که خرید یک رنگ خاص از لیوان توسط شما، با تمایلتان به تماشای فیلم‌های علمی-تخیلی در روزهای بارانی رابطه دارد. این سطح از پیش‌بینی ریاضی، عملاً مقاومت در برابر پیشنهادهای الگوریتم را برای ذهن ناآگاه انسان غیرممکن می‌سازد.

تاریخچه الگوریتم‌ها از پیشنهاد کتاب تا جریان‌های زنده

سفر الگوریتم‌های توصیه‌گر از سیستم‌های بسیار ساده در اواخر دهه ۱۹۹۰ آغاز شد. در آن زمان، سایت‌های فروشگاهی مانند آمازون از فیلترینگ ساده استفاده می‌کردند؛ مثلاً «مشتریانی که این کتاب را خریدند، آن کتاب را هم خریدند». این سیستم‌ها صرفاً بر اساس تراکنش‌های خرید کار می‌کردند و درک عمیقی از کاربر نداشتند. نقطه عطف بعدی، مسابقه معروف نتفلیکس در سال ۲۰۰۶ بود که جایزه‌ای یک میلیون دلاری برای بهبود ۱۰ درصدی الگوریتم توصیه‌گر خود تعیین کرد و توجه دانشمندان داده را به این حوزه جلب نمود.

با ظهور گوشی‌های هوشمند و شبکه‌های اجتماعی در دهه ۲۰۱۰، این سیستم‌ها وارد فاز جدیدی شدند. الگوریتم‌ها از حالت منفعل (منتظر ماندن برای جستجوی کاربر) به حالت فعال (تغذیه مداوم کاربر با جریان بی‌پایان محتوا) تغییر شکل دادند. پلتفرم‌های اشتراک ویدیو با معرفی فیدهای هوشمند مبتنی بر هوش مصنوعی، مرزهای شخصی‌سازی را جابجا کردند. امروزه، سیستم‌ها نه بر اساس رفتارهای گذشته، بلکه بر اساس پیش‌بینی لحظه‌ای و تحلیل رفتارهای زنده و میلی‌ثانیه‌ای کاربر کار می‌کنند که این امر قدرت کنترل آن‌ها را به اوج خود رسانده است.

جهت‌گیری‌های ناخودآگاه و تعصبات تعبیه‌شده در کدها

یک سوءبرداشت بزرگ این است که الگوریتم‌ها چون ماشین هستند، کاملاً بی‌طرف و عادلانه عمل می‌کنند. واقعیت این است که الگوریتم‌ها توسط انسان‌ها برنامه‌نویسی می‌شوند و با داده‌های تولیدشده توسط جوامع انسانی که خود دارای تعصبات تاریخی هستند، آموزش می‌بینند. در نتیجه، این سیستم‌ها تعصبات و جهت‌گیری‌های ناخودآگاه (Algorithmic Bias) را بازتولید و حتی تشدید می‌کنند. به عنوان مثال، الگوریتم‌های استخدامی ممکن است به طور ناخودآگاه رزومه‌های زنان یا اقلیت‌ها را به دلیل داده‌های تاریخی گذشته رد کنند.

این تعصبات الگوریتمی بر نحوه توزیع اطلاعات نیز اثر می‌گذارند. سیستم‌ها ممکن است محتوای تولیدشده توسط گروه‌های خاصی از جامعه را کمتر در معرض دید قرار دهند یا بازنمایی‌های کلیشه‌ای را تقویت کنند. از آنجا که عملکرد این سیستم‌ها در جعبه‌های سیاه (Black Boxes) شرکت‌های فناوری پنهان است، ردیابی و اصلاح این سوءگیری‌ها کار بسیار سختی است. ما بدون اینکه بدانیم، جهان را از پشت عینک تعصب‌آمیز و کالیبره‌نشده ماشین‌هایی می‌بینیم که ادعای بی‌طرفی علمی دارند اما در عمل، نابرابری‌ها را بازتولید می‌کنند.

راه‌های بازپس‌گیری استقلال ذهنی و حاکمیت بر داده‌ها

آیا راه فراری از این کنترل نامرئی وجود دارد؟ بله، بازپس‌گیری استقلال ذهنی نیازمند رویکردی آگاهانه و فعال در مواجهه با فناوری است. اولین قدم، سم‌زدایی دیجیتال و کاهش زمان استفاده از پلتفرم‌های اعتیادآور است. همچنین می‌توان با تغییر تنظیمات حریم خصوصی در گوشی هوشمند، مسدود کردن کوکی‌های ردیاب و استفاده از موتورهای جستجوی بدون ردیابی، حجم داده‌های ورودی به الگوریتم‌ها را به حداقل رساند تا سیستم نتواند پروفایل دقیقی از ما بسازد.

علاوه بر اقدامات فنی، ما باید به طور فعال سلیقه خود را به چالش بکشیم. به جای تکیه بر پیشنهادات خودکار، به دنبال منابع مستقل بگردیم، کتاب‌ها و موسیقی‌هایی را خارج از فضای دیجیتال کشف کنیم و به طور عمدی با دیدگاه‌های مخالف حباب فکری خود مواجه شویم تا دیوارهای حباب فیلتر فرو بریزد. شناخت نحوه کارکرد این سیستم‌ها، اولین و مهم‌ترین سپر دفاعی ماست. با افزایش آگاهی عمومی، می‌توانیم از مصرف‌کنندگان منفعل و هدایت‌شده، به کاربران خلاق و مستقلی تبدیل شویم که خودشان مسیر افکار و علایقشان را انتخاب می‌کنند.

سوالات متداول

دکتر علیرضا مجیدی

پزشک، نویسنده و بنیان‌گذار وبلاگ «یک پزشک»

دکتر علیرضا مجیدی، نویسنده و بنیان‌گذار وبلاگ «یک پزشک».
با بیش از ۲۰ سال نویسندگی «ترکیبی» مستمر در زمینهٔ پزشکی، فناوری، سینما، کتاب و فرهنگ.
باشد که با هم متفاوت بیاندیشیم!

دربارهٔ علیرضا مجیدی در یک پزشک