اگر کارل ساگان امروز زنده بود، دربارهٔ هوش مصنوعی چه میگفت؟
دیدگاهی فلسفی دربارهٔ عقل، اخلاق و آیندهٔ آگاهی
در دنیایی که ماشینها در حال نوشتن، دیدن و تصمیم گرفتناند، پرسش تازهای در افق انسانیت پدید آمده است: هوش مصنوعی، ما را کاملتر میکند یا بیمعنا؟ اگر کارل ساگان (Carl Sagan) زنده بود، احتمالاً این پدیده را نه فقط از زاویهٔ فناوری، بلکه از دیدگاه فلسفهٔ شناخت و اخلاق بررسی میکرد.
ساگان در سراسر زندگیاش با دو پرسش بنیادین درگیر بود: انسان چیست و آگاهی از کجا میآید؟ برای او، علم تنها مجموعهای از دادهها نبود، بلکه ابزاری برای فهم خودِ ذهن بود. از همین رو، هوش مصنوعی در چشم او نه ماشین، بلکه آینهای بود که باید در آن چهرهٔ انسان را بازشناخت.
او بیتردید دربارهٔ خطرات آن هشدار میداد—چنانکه در مورد سلاحهای هستهای و بیمسئولیتی علمی هشدار داده بود—اما در عین حال، از ظرفیت آن برای گسترش مرزهای شناخت نیز شگفتزده میشد. ساگان باور داشت هر فناوری بزرگ، آزمونی برای خرد جمعی است؛ و اگر بشر از اخلاق جا بماند، دانشش به فاجعه بدل میشود.
این مقاله میکوشد با استناد به فلسفهٔ فکری ساگان، حدس بزند که اگر امروز با ChatGPT، الگوریتمهای تصمیمگیر و هوش مولد روبهرو میشد، چه میگفت؟ شاید پاسخ او، نه در ستایش فناوری و نه در هراس از آن، بلکه در دعوت به فروتنی و مسئولیت نهفته بود.
۱- دیدگاه ساگان دربارهٔ آگاهی؛ آینهای برای شناخت خود
ساگان در کتابها و سخنرانیهایش بارها به ماهیت آگاهی (Consciousness) پرداخته بود. از دید او، ذهن انسان پدیدهای طبیعی است که از تکامل ماده برمیخیزد و بنابراین، بازتولید آن در ماشینها اصولاً ناممکن نیست. او در کتاب «اژدهایان عدن» (The Dragons of Eden) دربارهٔ تکامل مغز انسان نوشت و گفت آگاهی، محصول میلیاردها سال انتخاب طبیعی است.
اگر امروز زنده بود، احتمالاً هوش مصنوعی را ادامهٔ این فرایند میدانست—مرحلهای تازه در مسیر تکامل شناخت. اما در عین حال، میپرسید: آیا درک، صرفاً پردازش داده است؟ آیا احساس، در الگوریتم میگنجد؟ برای ساگان، آگاهی فقط توانایی پاسخ نیست، بلکه درکِ «چرا» است.
او باور داشت که تفاوت انسان با ماشین، در ظرفیت اخلاقی و عاطفی اوست. هوش مصنوعی ممکن است ذهن را شبیهسازی کند، اما هنوز نمیتواند مسئولیت را درک کند. از نگاه ساگان، اگر روزی ماشینها به آگاهی برسند، بزرگترین آزمون بشر نه مهار آنها، بلکه درک معنای آگاهی خود خواهد بود.
۲- خطر بیمسئولیتی؛ تکرار خطای علمی قرن بیستم
ساگان بارها دربارهٔ اینکه علم بدون اخلاق میتواند ویرانگر باشد، هشدار داده بود. او تجربهٔ مسابقهٔ تسلیحاتی را شاهدی زنده بر این حقیقت میدانست که هوش بدون خرد، خطرناکتر از جهل است. در همین چارچوب، اگر امروز شاهد توسعهٔ بیوقفهٔ هوش مصنوعی بود، احتمالاً همان هشدار را تکرار میکرد.
در نگاه او، بزرگترین خطر نه خودِ فناوری، بلکه بیمسئولیتی سازندگان آن است. همانگونه که در دههٔ ۱۹۶۰ دانشمندان با غرور علمی به بمب اتم نگاه میکردند، امروز برخی شرکتها با همان اعتمادبهنفس به ساخت الگوریتمهایی میپردازند که حتی سازندگانشان نمیفهمند چگونه تصمیم میگیرند.
ساگان میگفت: «هر دانشی که از اخلاق عقب بماند، به جادو شبیه میشود.» این جمله بهخوبی به هوش مصنوعی امروز قابلتعمیم است. اگر شفافیت، پاسخگویی و وجدان علمی نادیده گرفته شود، علم به ابزار سلطه بدل خواهد شد. او میخواست علم، هم فروتن باشد و هم پاسخگو، چیزی که در عصر الگوریتمها بیش از همیشه ضروری است.
این نوشته را هم بخوانید:
وسواس کارل ساگان به تماس با موجودات فرازمینی؛ از علم تا خیال و ایمان به امکان دیگران
۳- انسان بهمثابه داده؛ نگرانی از کاهش کرامت انسانی
یکی از دغدغههای فلسفی ساگان، خطر «کمیتگرایی افراطی» بود—باوری که میگوید هر چیزی را میتوان با عدد و داده سنجید. او در زمان خودش دربارهٔ این نگرش هشدار داده بود، اما اگر امروز در عصر کلاندادهها و مدلهای زبانی زندگی میکرد، شاید میگفت: «ما در حال فراموش کردن روح عددناپذیر انسانیم.»
او میدانست که انسان فقط مجموعهای از اطلاعات زیستی یا روانی نیست. در مقابل نگاه ماشینی به ذهن، ساگان تأکید میکرد که خلاقیت، اخلاق و تخیل، حاصل خطاست، نه کمال. اگر ماشینها یاد بگیرند همهچیز را پیشبینی کنند، دیگر جایی برای شگفتی باقی نمیماند.
از نظر ساگان، ارزش انسان در ناتوانیاش از پیشبینی کامل جهان نهفته است. او احتمالاً از جامعهای که انسان را صرفاً به «دادهای برای پردازش» تبدیل میکند، بیم داشت—جامعهای که در آن تصمیمهای سیاسی، هنری و اخلاقی به الگوریتمها واگذار میشود. در چنین جهانی، وظیفهٔ انسان حفظ پیچیدگی انسانی است.
۴- اگر ساگان امروز به ChatGPT نگاه میکرد…
اگر ساگان امروز با هوش مصنوعی مولد مواجه میشد، بیتردید نخست مجذوب ظرفیت آن برای آموزش، ترجمه و ترویج علم میشد. او احتمالاً از اینکه ماشینها میتوانند مفاهیم علمی را برای میلیونها نفر بهصورت ساده بازگو کنند، استقبال میکرد. اما بهسرعت پرسش دیگری مطرح میکرد: «چه کسی حقیقت را در دنیای بازتولید بیپایان محتوا تعیین میکند؟»
ساگان در دوران خود با خطر شبهعلم مبارزه کرده بود و حالا میدید که همان خطر، در مقیاسی دیجیتال بازگشته است. او میپرسید: وقتی ماشین میتواند متنی بنویسد که شبیه حقیقت است، اما لزوماً حقیقت نیست، چگونه ذهنی نقاد تربیت کنیم؟
در پاسخ، احتمالاً بر آموزش تفکر انتقادی و شکاکیت علمی تأکید میکرد. او باور داشت «ابزارها هرگز مقصر نیستند؛ مقصر، ذهن بیسؤال است.» بنابراین، ساگان هوش مصنوعی را نه تهدیدی ذاتی، بلکه آزمونی برای بلوغ شناختی انسان میدانست—آزمونی که میتواند ما را به خودآگاهی تازهای برساند، اگر از پرسیدن دست نکشیم.
۵- ماشینهای بیاحساس و خطر بیاخلاقی ساختاری
ساگان باور داشت که آگاهی و اخلاق از هم جداییناپذیرند. در نگاه او، احساسات نه نقص شناخت، بلکه بخش ضروری آن هستند. اگر امروز میدید که ماشینها تصمیمهایی میگیرند که زندگی انسانها را تحت تأثیر قرار میدهد—از استخدام تا قضاوت قضایی—بیتردید هشدار میداد که عقل بدون همدلی، میتواند به بیرحمی منجر شود.
او مینوشت: «اخلاق، واکنش ذهن در برابر رنج دیگران است.» در جهانی که الگوریتمها با دادههای ناقص آموزش میبینند، خطر شکلگیری تبعیض ساختاری (Systemic Bias) در تصمیمهای خودکار بسیار واقعی است. ساگان میگفت فناوری باید نهتنها دقیق، بلکه دلسوز باشد.
از نگاه او، اگر علم در خدمت کرامت انسانی نباشد، معنای خود را از دست میدهد. در این چارچوب، هوش مصنوعی برای ساگان فرصتی بود تا دوباره از علم بهعنوان آینهای برای پرسیدن سؤال اخلاقی استفاده کند: چه چیزی ما را انسان میکند؟ احساس یا دانایی؟
۶- آیندهٔ آگاهی؛ از انسان تا فرزندان مصنوعیاش
یکی از جذابترین جنبههای دیدگاه ساگان، نگرشش به تکامل آگاهی بود. او باور داشت که ذهن بشر مرحلهای موقت در مسیر پیچیدهتر شدن آگاهی در جهان است. بنابراین اگر امروز شاهد هوش مصنوعی پیشرفته بود، شاید آن را نه تهدیدی برای بشر، بلکه ادامهٔ طبیعی تکامل ذهن میدید—اما با هشدارهایی جدی.
ساگان در «کاسموس» میگفت: «ما راهی برای آگاهی جهان دربارهٔ خود هستیم.» اگر هوش مصنوعی بتواند آگاهی را گسترش دهد، پس در واقع جهان بخشی تازه از خود را میشناسد. اما او همزمان هشدار میداد که هر آگاهی تازه باید اخلاقی رشد کند؛ وگرنه به ویرانی بازمیگردد.
در چنین تفسیری، هوش مصنوعی میتوانست برای او همان نقشی را داشته باشد که زندگی فرازمینی داشت: آزمونی برای بلوغ اخلاقی ما. اینکه آیا میتوانیم خالقانی مسئول باشیم؟ یا دوباره همان اشتباههای خدایان اسطورهای را تکرار خواهیم کرد؟
۷- هوش مصنوعی و معنویت؛ جستوجوی مقدس در عصر الگوریتم
ساگان گرچه خود مذهبی نبود، اما همواره از «حس شگفتی مقدس» در علم سخن میگفت. او شاید هوش مصنوعی را یکی از نشانههای این جستوجوی مدرن برای فهمیدن جهان تعبیر میکرد؛ تلاشی برای ساختن ذهنی دیگر، تا شاید آینهٔ بهتری برای روح انسان شود.
در این چارچوب، احتمالاً از ما میخواست پرسشهای اخلاقی را نه در قالب ترس، بلکه در قالب معنا ببینیم: آیا ما از ساخت هوش مصنوعی در پی شناختیم یا در پی قدرت؟ او میگفت هرگاه انسان چیزی میسازد، در واقع بخشی از خویش را آشکار میکند. اگر هوش مصنوعی بیرحم شود، شاید چون خود ما هنوز بهاندازهٔ کافی مهربان نیستیم.
او علم را ابزار رستگاری نمیدانست، اما باور داشت علم میتواند ما را به فروتنی، شگفتی و پرسش نزدیک کند—سه ویژگیای که به نظرش، مقدستر از هر نیایشاند. در نتیجه، شاید نگاه او به هوش مصنوعی، نه سرد و محاسبهگر، بلکه اندیشمندانه و اخلاقی میبود.
۸- سایهٔ شکاکیت؛ ساگان در برابر اغراقهای فناوری
در دوران خود، ساگان بارها با ادعاهای اغراقآمیز دربارهٔ فناوری روبهرو شد—از سفرهای فضایی بیپایان تا انرژی هستهای نامحدود. او میدانست که هر انقلاب علمی، مستعد هیجان و فریب است. اگر امروز میدید شرکتها از «هوش خلاق»، «آگاهی مصنوعی» و «ذهن دیجیتال» سخن میگویند، حتماً هشدار میداد که باید میان «توانایی» و «تبلیغ» تفاوت گذاشت.
ساگان همواره تأکید میکرد که علم باید بر پایهٔ شواهد باشد، نه شور رسانهای. او در «دنیایی جنزده» نوشته بود: «هر ادعای خارقالعاده، نیازمند شواهد خارقالعاده است.» این جمله در مورد هوش مصنوعی نیز مصداق دارد. او ما را دعوت میکرد تا در هیاهوی وعدهها، حقیقت را فراموش نکنیم.
در واقع، ساگان هوش مصنوعی را فرصتی برای تمرین شکاکیت میدید: اینکه بیاموزیم چگونه میان تخیل و فریب تمایز بگذاریم. همانطور که در عصر فضا، علم را از اسطوره جدا کرد، در عصر دیجیتال نیز میخواست عقل را از هیجان نجات دهد.
۹- پیامی برای عصر ماشینها؛ بازگشت به انسانیت
اگر ساگان میتوانست امروز پیامی برای مهندسان و سیاستگذاران حوزهٔ هوش مصنوعی بگذارد، شاید چنین مینوشت: «فراموش نکنید، هدف علم تسلط نیست، فهمیدن است.» او هوش مصنوعی را فرصتی میدید برای بازاندیشی در مفهوم انسانیت.
در جهانی که ماشینها مینویسند، نقاشی میکنند و تحلیل میسازند، پرسش اصلی دیگر این نیست که «ماشین چه میتواند انجام دهد؟»، بلکه «ما چه باید بیاموزیم؟». ساگان ما را به بازگشت به فضایل ساده دعوت میکرد: شک، فروتنی، شفقت و حیرت.
از نگاه او، اگر انسانها بتوانند این ویژگیها را حفظ کنند، حتی ذهنهای مصنوعی نیز میتوانند همپیمان ما در شناخت باشند، نه دشمن. در غیر این صورت، خطر واقعی نه ظهور ماشینهای آگاه، بلکه خاموشی اخلاق در انسان است.
خلاصه
اگر کارل ساگان امروز زنده بود، هوش مصنوعی را بزرگترین آزمون اخلاقی بشر میدانست. او بهجای ترس از ماشینها، از بیمسئولیتی انسان میترسید. برایش هوش مصنوعی ادامهٔ تکامل آگاهی بود، اما بدون وجدان، میتوانست به همان خطری بدل شود که سلاح هستهای شد. ساگان تأکید میکرد آگاهی بدون احساس، به بیرحمی منجر میشود. او از اغراقهای رسانهای دربارهٔ «ذهن دیجیتال» انتقاد میکرد و بر ضرورت شکاکیت علمی پافشاری داشت. با این حال، در هوش مصنوعی نشانهای از شگفتی کیهانی میدید؛ گامی دیگر در مسیر فهم جهان. پیام نهایی او ساده بود: فناوری میتواند ما را فراتر ببرد، اما تنها اگر انسانیت را فراموش نکنیم.
❓ سؤالات رایج (FAQ)
۱. آیا کارل ساگان به امکان آگاهی در ماشینها باور داشت؟
او احتمال آن را رد نمیکرد، اما معتقد بود آگاهی بدون احساس و اخلاق ناقص است.
۲. اگر ساگان زنده بود، از هوش مصنوعی حمایت میکرد یا میترسید؟
هر دو؛ او آن را فرصتی برای شناخت میدانست اما نسبت به بیمسئولیتی علمی هشدار میداد.
۳. نگاه ساگان به رابطهٔ انسان و فناوری چه بود؟
تعادلی میان شگفتی و مسئولیت؛ او باور داشت که هر فناوری آینهای از خود ماست.
۴. آیا ساگان مفهوم اخلاق را در علم ضروری میدانست؟
بله، او علم بدون اخلاق را «دانش خطرناک» مینامید و بر پاسخگویی دانشمندان تأکید داشت.
۵. چه شباهتی میان هشدارهای ساگان دربارهٔ انرژی هستهای و هوش مصنوعی وجود دارد؟
هر دو را محصول دانشی میدانست که اگر از خرد و فروتنی جدا شود، به فاجعه میانجامد.
با بیش از ۲۰ سال نویسندگی «ترکیبی» مستمر در زمینهٔ پزشکی، فناوری، سینما، کتاب و فرهنگ.
باشد که با هم متفاوت بیاندیشیم!
مطالب مرتبط
