آیا بینش ناقص ما برای استفاده از فناوری‌های نوین، روزی باعث انقراض‌مان خواهد شد؟

تصور می‌کنم برنامه‌نویس‌ها با بیل جوی آشنا باشند. امروز قصد داشتم مقاله‌ای بنویسم که به نحوی با بیل جوی مرتبط بود، اما متوجه مقاله بسیار ارزشمند از ایشان شدم که خیلی‌ها این مقاله را برجسته‌ترین نوشته و اندیشه او می‌دانند.

10-2-2014 7-40-59 PM


از زمانی که درگیر خلق فن‌آوری‌های نو شدم، ابعاد اخلاقی آنها همیشه مرا نگران می‌کرد، ولی تنها در پاییز سال ۱۹۹۸ بود که متوجه شدم، خطراتی که در قرن بیست ویکم با آنها رو به رو هستیم تا چه اندازه نگران‌کننده است. ناراحتی من از زمانی شروع شد که با ری کرزویل -مخترع معروف اولین ماشین خواندن برای نابینایان و بسیاری از وسایل حیرت‌انگیز دیگر- آشنا شدم.

10-2-2014 6-54-24 PM


خرید کتاب با ۱۵٪ تخفیف(همه کتاب‌ها)

ری و من هر دو از سخنرانان کنفرانسی در مرکز جورج گیلدر بودیم و من کاملاً تصادفی و زمانی که سخنرانی هر دوی ما به پایان رسیده بود، در هتل با او رو به رو شدم. ری به من گفت، سرعت پیشرفت فن‌آوری افزایش خواهد یافت و پیش‌بینی کرد که انسان‌ها به تدریج یا تبدیل به روبات می‌شوند یا به نحوی با آنها درهم می‌آمیزند که کاملاً شبیه روبات به نظر برسند. با این که قبلاً از این قبیل اظهارات شنیده بودم ولی گفته‌های او مرا کاملاً غافلگیر کرد؛ به خصوص از این جهت که ری دارای توانایی ثابت شده‌ای در زمینه پیش‌بینی و خلق آینده بود.

من از قبل می‌دانستم که فناوری‌های جدید مانند مهندسی ژنتیک و فن‌آوری نانو به ما قدرت بازسازی جهان را داده‌اند، ولی پیش‌بینی چنین سناریوی واقع‌بینانه و زودرسی برای خلق روبات‌های هوشمند مرا غافلگیر کرد. ری یک نسخه پیش از چاپ کتاب خود به نام «عصر ماشین‌های معنوی» به من داد که در آن زمینه فاضله خود را پیش‌بینی کرده بود؛ مدینه فاضله‌ای که در آن انسان‌ها از طریق یکی شدن با فن‌آوری روبات به نامیرایی دست می‌یابند.

(خوشبختانه این کتاب با عنوان انگلیسی The age of spiritual machines  به فارسی ترجمه شده است – نشر پیکان – ترجمه سیمین موحد – ۵۷۲ صفحه)

بخشی از این کتاب (به قلم تئودور کاژینسکی) که مرا بیش از سایر قسمت‌ها نگران کرد مربوط به چالش‌های ناشی از جنبش‌های ضد علم و فن‌آوری بود. در آن بخش، از قول نویسنده‌ای آمده بود که خواه انسان‌ها کنترل کامل دنیای خود را به کامپیوترها و سایر ماشین‌ها بدهند یا ندهند، آینده برای اکثریت بشر تیره خواهد بود. شرحی که کاژینسکی از دنیای تیره پیش‌روی بشر می‌دهد در واقع توضیح مشکل شناخته شده بشر در طراحی و استفاده از فن‌آوری است. به عنوان مثال، استفاده بیش از حد از داروهای آنتی‌بیوتیک باعث ظهور انواع باکتری‌های مقاوم به آنتی‌بیوتیک شد. همچنین مبارزه برای ریشه‌کنی انگل مالاریا با استفاده از سم د.د.ت، منجر به ظهور انواع مقاوم پشه مالاریا گردید.
دلیل این قبیل مشکلات واضح است: سیستم‌های دست‌اندرکار، پیچیده هستند و شامل تعامل و بازخورد میان اجزای مختلف می‌باشند. هر نوع تغییر در چنین سیستمی، باعث آبشاری از تغییرات می‌شود که پیش‌بینی مسیر آن دشوار است. این موضوع به خصوص زمانی که پای اعمال انسانی در میان باشد صدق می‌کند.

تقریباً در همان زمان بود که کتاب هانس موراوک به نام روبات به دست من رسید. موراوک یکی از دانشمندان پیشگام در زمینه علوم روباتیک در دانشگاه کارنژی ملون است. وی در این کتاب اظهار داشته بود، زمانی قاره‌های آمریکای شمالی و جنوبی از یکدیگر جدا بودند. در آن زمان پستانداران جفت‌دار، گونه غالب آمریکای شمالی و کیسه‌داران، گونه غالب آمریکای جنوبی را تشکیل می‌دادند. زمانی که به دلیل پایین رفتن آب، این دو قاره از طریق پاناما به یکدیگر متصل شدند، گونه‌های جفت‌دار آمریکای شمالی به دلیل سیستم متابولیسم و تولیدمثل و نیز دستگاه عصبی پیشرفته‌تر، به سادگی بر کیسه‌داران آمریکای جنوبی فایق آمده و آنها را به عنوان گونه برتر کنار زدند.

10-2-2014 6-57-50 PM

به گفته وی در یک بازار کاملاً آزاد، روبات‌های برتر نیز همان بلایی را بر سر انسان خواهند آورد که گونه‌های جفت‌دار آمریکای شمالی، چندین هزار سال پیش بر سر گونه‌های کیسه‌دار آمریکای جنوبی آوردند. صنایع روباتیک برای دستیابی به ماده، انرژی و فضا به رقابت می‌پردازند و هنگامی که قادر به فراهم‌سازی ملزومات خود نباشند، انسان‌های بیولوژیک را از گردونه حیات حذف می‌کنند.

10-2-2014 7-01-10 PM

بعد از آن بود که تصمیم گرفتم با دوستم، دنی هیلیس، گفتگو کنم. معروفیت دنی به عنوان یکی از بنیان‌گذاران شرکت ماشین‌های متفکر است که موفق شد یک ابرکامپیوتر موازی بسیار پر قدرت بسازد. با این که پست فعلی من در شرکت سان مایکروسیستمز، دانشمند ارشد است، ولی کار من بیشتر معماری کامپیوتر است و احترامی که به دانش دنی در زمینه علوم اطلاعاتی و فیزیکی قائل هستم، بیش از هر کس دیگری است که می‌شناسم. دنی همچنین ید طولایی در زمینه پیش‌بینی روندهای آینده دارد.

Danny Hillis

هنگامی که در لس‌آنجلس با دنی و همسرش مشغول صرف ناهار بودیم، من در مورد ایده کرزویل مبنی بر یکی شدن انسان‌ها و روبات‌ها با او صحبت کردم و پاسخی که دنی داد مرا کاملاً غافلگیر کرد. او خیلی ساده گفت که این تغییرات به تدریج صورت خواهد گرفت و ما به آنها عادت خواهیم کرد. البته من چندان هم شگفت‌زده نشدم، چون قبلاً نقل قولی در کتاب کرزویل از دنی خوانده بودم که می‌گفت:

«من هم به اندازه تمام انسان‌ها به بدنم علاقه دارم ولی اگر بتوانم با یک بدن سیلیکونی۲۰۰ سال زندگی کنم، آن را می‌پذیرم.»

پرسشی که ذهن مرا به خود مشغول داشته بود که چرا من قبلاً این همه در مورد خطر دانش روباتیک نگران نبودم؟ چرا سایر مردم نگران این گونه سناریوهای کابوس‌گونه نیستند؟ بخشی از پاسخ، مربوط به طرز تلقی ما از مسائل جدی است. با توجه به این که ما به زندگی با پیشرفت‌های علمی عادی خو گرفته‌ایم، مدتی زمان می‌برد تا متوجه این حقیقت شویم که فن‌آوری‌های برتر قرن بیست ویکم یعنی روباتیک، مهندسی ژنتیک و فن‌آوری نانو تهدید متفاوتی با تمام فن‌آوری‌هایی که قبلاً وجود داشته‌اند در مقابل ما قرار می‌دهند.

ارگانیسم‌های مهندسی شده و رباتهای نانو از یک عامل به شدت خطرناک برخوردارند: آنها قابلیت تکثیر خود به نحوی را دارا می‌باشند. بمب فقط یک بار منفجر می‌شود ولی به این گونه پدیده‌ها، قابلیت تکثیر شدن را دارند و ممکن است به سرعت از کنترل خارج شوند. البته هر یک از این فن‌آوری‌ها، چشم‌اندازهای ناگفته‌ای نیز دارد.

پیش‌بینی نامیرایی تقریبی که کرزویل به آن اشاره می‌کند، مشوق ماست؛ مهندسی ژنتیکی به زودی منجر به ایجاد درمان‌های جدید برای بسیاری از بیماری‌ها می‌شود؛ و فن‌آوری نانو و پزشکی نانو قادر به مداوای بیماری‌های بیشتری است. آنها می‌توانند باعث افزایش قابل توجه به طول عمر متوسط ما شوند و کیفیت زندگی ما را بهبود بخشند. با این حال، هر یک از این فن‌آوری‌ها منجر به مجموعه‌ای از پیشرفت‌های کوچک و فردی می‌شوند که نتیجه آن، تجمع قدرتی بزرگ و بنابراین خطری بزرگ‌تر است. فن‌آوری‌های قرن بیست و یکم به اندازه‌ای نیرومند هستند که می‌توانند باعث سوانح و نیز سوء استفاده‌های کاملاً جدید شوند. از همه خطرناک‌تر این است که این گونه سوانح و سوء استفاده‌ها، برای اولین بار کاملاً در دسترس افراد و گروه‌های کوچک قرار دارند. آنها برای کسب این توانایی‌ها، نیازمند تأسیسات عظیم یا مواد خام نادر نیستند بلکه صرف داشتن آن کافی است. بنابراین احتمالی که ما با آن مواجه هستیم، صرفاً تولید سلاح‌های کشتارجمعی نیست بلکه کشتارجمعی دانش محوری است که میزان تخریب آن تا حدود زیادی در اثر خودتکثیری تشدید می‌شود.

هنگامی که نوجوان بودم به تماشای برنامه پیشتازان فضا ساخته جین رادنبری می‌نشستم. من ایده وی را مبنی بر این که آینده انسان‌ها در فضاست قبول کرده بودم ولی مهم‌تر از آن، وجود قهرمانانی بود که معتقد به ارزش‌های اخلاقی نیرومند بودند. این موضوع برای من جاذبه فراوانی داشت؛ یعنی این که آینده بشر در سلطه انسان‌های معتقد به اصول اخلاقی بود و نه روبات‌ها. نمرات ریاضی من در دبیرستان همیشه عالی بود و بعد از ورود به دانشگاه میشیگان، دوره‌های پیشرفته ریاضی را گذراندم. بعد از آن بود که به تدریج با علوم کامپیوتر آشنا شدم؛ ماشین حیرت‌انگیزی که با استفاده از یک برنامه خاص می‌توانست مشکلات خاصی را حل کند. بعدها به عنوان برنامه‌ریز ابرکامپیوترها مشغول کار شدم. بعد از مدتی وارد دانشگاه برکلی شدم و طی چند سال موفق به نوشتن نرم‌افزارهایی شدم که شامل سیستم پاسکال، برنامه‌های سودمند یونیکس و یک ویراستار متن به نام vi2 بود که هنوز هم بعد از ۲۰ سال، بر روی کامپیوترهای کوچک مورد استفاده قرار می‌گیرد. تا اوایل دهه ۱۹۸۰، نسخه یونیکسی که نوشته بودم به موفقیت فراوان دست یافت ولی مشکلی که در برکلی با آن رو به رو بودم، عدم وجود فضای کافی بود. بنابراین هنگامی که سایر بنیان‌گذاران مایکروسیستمز با من گفت وگو کردند، من بلافاصله فرصت را برای همکاری با آنها غنیمت دانستم. در این شرکت، من ساعت‌های متمادی کار کردم و در خلق فن‌آوری‌های پیشرفته ریزپردازشگرها و فن‌آوری‌های اینترنت مانند جاوا و جینی شرکت داشتم. این‌ها را به این دلیل گفتم تا نشان دهم که ضد پیشرفت و فن‌آوری نیستم. برعکس، من همیشه اعتقاد نیرومندی به ارزش تحقیقات عملی به منظور کشف حقیقت و نیز توانایی عظیم علوم مهندسی برای ایجاد پیشرفت مادی داشته‌ام، ولی در عین حال که از معضلات اخلاقی عواقب فن‌آوری در زمینه‌هایی ماند تحقیقات تسلیحاتی آگاهی داشتم، انتظار نداشتم که با این گونه مسائل در حوزه کاری خود رو به رو شوم. دست کم نه به این زودی.

از مدت‌ها قبل متوجه شده بودم که پیشرفت‌های بزرگ در زمینه فن‌آوری اطلاعات، حاصل تلاش دانشمندان کامپیوتر، معماران کامپیوتر یا مهندسین برق نیست بلکه حاصل کار دانشمندان فیزیک است. در زمینه کاری خود به عنوان یکی از طراحان سه سیستم ریزپردازشگر (SPARC,picojava,MAJC) و به عنوان طراح برنامه‌های مربوط به آنها، من دارای دانش دست اولی از قانون مور هستم. به مدت چندین دهه، قانون مور به درستی میزان توانایی ما برای بهبود فن‌آوری نیمه رساناها را پیش‌بینی کرده است. تا یک سال قبل من تصور می‌کردم که میزان پیشرفت پیش‌بینی شده توسط قانون مور تنها تا سال ۲۰۱۰ ادامه خواهد یافت و در آن سال ما به حد نهایت محدودیت‌های فیزیکی می‌رسیم. اکنون برای من مسجل شده است که فن‌آوری جدیدی به موقع ابداع خواهد شد تا به رشد بیشتر در این زمینه‌ها کمک کند. هنگام طراحی نرم‌افزارها و ریزپردازشگرها، هرگز این احساس را نداشتم که مشغول طراحی یک دستگاه هوشمند هستم. نرم‌افزار و سخت‌افزار چنان شکننده و قابلیت‌های ماشین برای فکر کردن چنان محدود است که این موضوع، حتی به عنوان یک احتمال در آینده، بسیار ناممکن به نظر می‌رسید.

اکنون بعد از ۳۰ سال، ایده جدیدی به ذهن من خطور کرده است: این که شاید در حال خلق ابزاری باشم که منجر به ایجاد فن‌آوری‌ای خواهد شد که به تدریج جای گونه بشر بر روی زمین را می‌گیرد. با توجه به این که تمام عمر کاری خود را مشغول ساخت سیستم‌های نرم‌افزاری بوده‌ام، به نظرم می‌رسد که این آینده به آن خوبی که برخی افراد تصور می‌کنند از آب در نخواهد آمد. رؤیای دانش روباتیک این است که ماشین‌های هوشمند قادر خواهند بود تمام کارهای ما را انجام دهند تا ما در آسایش کامل زندگی کنیم و به این ترتیب به بهشت بازگردیم! چقدر طول می‌کشد تا این گونه روبات‌های هوشمند ساخته شوند؟ با توجه به پیشرفت‌های نو ظهور در قدرت محاسبه کامپیوترها، به نظر می‌رسد این کار تا سال ۲۰۳۰ ممکن باشد. به محض وجود این گونه روبات‌های هوشمند، تنها قدم کوتاهی تا ایجاد یک گونه روبات باقی می‌ماند. روبات هوشمندی که می‌تواند نمونه‌های خود را بسازد.

رؤیای دوم علم روباتیک این است که فن‌آوری روباتیک به تدریج جای ما را خواهد گرفت و به این ترتیب با سوار کردن ضمیر انسانی خود در آنها، به حالتی شبیه نامیرایی دست خواهیم یافت. این همان فرآیندی است که دنی هیلیس تصور می‌کند به تدریج به آن خو می‌گیریم، ولی در صورت سوار کردن ضمیر انسانی خود در محصول فن‌آوری خودمان، چه‌قدر احتمال دارد که بعد از آن خودمان و یا اصولاً انسان باشیم؟

معماری ژنتیک، نوید دهنده ایجاد انقلاب در کشاورزی با افزایش بازده محصولات و کاهش استفاده از مواد آفت‌کش؛ خلق ده‌ها هزار گونه جدید باکتری، گیاه، ویروس و جانداران؛ جایگزین کردن تولید با نمونه‌سازی؛ ایجاد درمان‌هایی برای بسیاری از بیماری‌ها؛ افزایش طول عمر و کیفیت زندگی ما و چیزهایی خیلی خیلی بیشتر است. فن‌آوری‌هایی مانند شبیه‌سازی انسانی، آگاهی ما را در مورد مسائل اخلاقی که با آن رو به رو هستیم افزایش داده‌اند. اگر، مثلاً بتوانیم با مهندسی مجدد، خود را به چند گونه مجزا نابرابر تقسیم کنیم، در آن صورت ما مفهوم برابری را که اساس دموکراسی ماست تهدید خواهیم کرد. آگاهی از خطرات موجود در مهندسی ژنتیک در حال رشد است. عامه مردم از مواد غذایی تغییر داده شده توسط شیوه‌های ژنتیکی آگاه و از این بابت نگران هستند. با این حال، فن‌آوری مهندسی ژنتیک رشد فراوانی کرده است. با این که مسائل مهمی در این زمینه وجود دارند.

نگرانی اصلی خود من در رابطه با مهندسی ژنتیک چیز دیگری است: این فن‌آوری به ما قدرت می‌دهد تا یک طاعون سفید ایجاد کنیم خواه به صورت نظامی، تصادفی، یا در اثر یک عمل عمدی تروریستی. اولین بار شرح عجایب فن‌آوری نانو توسط برنده جایزه نوبل فیزیک، ریچارد فینمن، طی سخنرانی در سال ۱۹۵۹ آمد که متعقاباً به چاپ رسید. کتابی که در سال‌های اواسط دهه ۱۹۸۰ بر من تأثیر عمیقی به جا گذاشت، کتاب اریک درکسلر به نام موتورهای آفرینش بود که در آن وی شرح زیبایی در این مورد داده بود که چگونه دستکاری ماده در سطح اتمی می‌تواند باعث ایجاد مدینه فاضله‌ای در آینده شود که مملو از فراوانی خواهد بود؛ جایی که در آن می‌توان تقریباً همه چیز را با هزینه اندک تولید کرد و تقریباً هر نوع بیماری قابل تصور یا مشکل فیزیکی را می‌توان از طریق فن‌آوری نانو و هوش‌های مصنوعی حل کرد. به خاطر دارم که بعد از مطالعه این کتاب، احساس خوبی در مورد فن‌آوری نانو داشتم. به عنوان یک متخصص فن‌آوری، این کتاب حسی از آرامش به من داد؛ به این معنی که فن‌آوری نانو به ما نشان خواهد داد که پیشرفت غیرقابل تصور نیز ممکن و در واقع، غیرقابل اجتناب است. دیدگاه آینده‌نگرانه درکسلر باعث شد که گاه و بی‌گاه به شرح عجایب فن‌آوری نانو برای سایر افرادی که چیزی در این مورد نشنیده بودند بپردازم.

10-2-2014 7-18-21 PM

این عجایب با خطرات واضحی نیز همراه هستند که من از آنها مطلع هستم. همچنان که من طی یک کنفرانس فن‌آوری نانو در سال ۱۹۸۹ بیان کردم، ما نمی‌توانیم صرفاً کار علمی انجام دهیم و توجهی به این قبیل مسائل اخلاقی نداشته باشیم. متأسفانه همانند فن‌آوری هسته‌ای، موارد استفاده مخرب از فن‌آوری نانو، بیش از موارد استفاده سازنده از آن است. از فن‌آوری نانو می‌توان برای مقاصد نظامی و تروریستی استفاده کرد و وسایلی مخربی که به این ترتیب ساخته می‌شوند، می‌توانند منجر به تخریب انتخابی شوند؛ مثلاً، می‌تواند بر یک منطقه جغرافیایی خاص یا گروهی از مردم با خصوصیات ژنتیکی خاص تأثیر گذارد. یکی از خطرات عظیمی که می تواند ناشی از قدرت عظیم فن‌آوری نانو باشد، خطر نابود کردن بیوسفر زیست کرده است که تمام حیات روی زمین به آن بستگی دارد.

عامل اصلی که می‌تواند برای ما حکم ترمز را داشته باشد، وجود قدرت خود تکثیری مخرب فن‌آوری‌های ژنتیکی، نانو و روباتیک است. خودتکثیری، شیوه غالب مهندسی ژنتیکی است که از دستگاه‌های سلولی برای تکثیر طرح‌های خود استفاده می‌کند. داستان‌های زیادی در مورد روبات‌هایی مانند بورگ در ادبیات علمی تخیلی ما وجود دارد که به تدریج جهش یافته و سعی می‌کنند از قید و بند مهارت‌های اخلاقی که سازندگان آنها بر آنها تحمیل کرده‌اند رهایی یابند. فن‌آوری‌های هسته‌ای، بیولوژیک و شیمیایی به کار گرفته شده در سلاح‌های کشتار جمعی قرن بیستم، در اصل نظامی بودند و در آن آزمایشگاه‌های دولتی توسعه یافتند. در مقابل، فن‌آوری‌های ژنتیکی، نانو و روباتیک قرن بیست ویکم، دارای موارد استفاده تجاری هستند و تقریباً به صورت انحصاری توسط شرکت‌ها توسعه یافته‌اند. در عصر تجارت‌گرایی، فن‌آوری در حال تحویل مجموعه‌ای از اختراعات تقریباً جادویی است که از هر زمان دیگر سودآورتر هستند.

از زمان کودکی به خاطر دارم که مادربزرگ من شدیداً مخالف استفاده بیش از حد از داروهای آنتی‌بیوتیک بود. او از قبل از جنگ جهانی اول پرستار بود و دارای این اعتقاد منطقی که استفاده از آنتی‌بیوتیک‌ها، جز در مواردی که مطلقاً ضروری باشند، برای انسان مضر است. او مخالف پیشرفت نبود. او طی سال ۷۰ سال کارکردن به عنوان پرستار، شاهد پیشرفت‌های فراوانی بود؛ ولی او مانند بسیاری از افراد منطقی دیگر، احتمالاً عقیده داشت که طراحی روبات‌هایی که جایگزین انسان شوند، نشانه غفلت شدید ماست، آن هم در زمانی که ما برای استفاده از مسائل ساده با این همه مشکل مواجهیم.

ما باید درسی از ساخت اولین بمب اتمی و مسابقه تسلیحاتی متعاقب آن می‌گرفتیم. ما در آن زمان خوب عمل نکردیم و مشابهتی که آن زمان با زمان فعلی ما دارد، نگران‌کننده است. تلاش برای ساخت اولین بمب اتمی به رهبری فیزیکدان برجسته‌ای به نام رابرت اپنهایمر ذاتاً به سیاست علاقه نداشت ولی از آنچه که آن را تهدید شدید تمدن غرب در اثر روی کار آمدن رایش سوم می‌نامید، کاملاً آگاهی داشت، با انرژی‌ای که این نگرانی به او داده بود، او با هوش نیرومند، علاقه شدید به فیزیک و رهبری پرجاذبه خود، به آزمایشگاه لس‌آلاموس آمد و رهبری تلاش موفقی توسط مجموعه‌ای باورنکردنی از مغزهای بزرگ را برای اختراع سریع بمب به عهده گرفت. ما می‌دانیم که هنگام آماده‌سازی برای اولین آزمایش اتمی، فیزیکدان‌ها این کار را علی‌رغم خطرات محتمل فراوان انجام دادند. آن‌ها در ابتدا بر اساس محاسبات ادوارد تلر از این نگران نبودند که انفجار اتمی ممکن است اتمسفر زمین را به آتش بکشد، محاسبه مجدد نشان داد که این خطر تنها در حد سه در میلیون است. با این حال، اپنهایمر به اندازه‌ای نگران این موضوع بود که ترتیب تخلیه بخش جنوب‌غربی ایالت نیومکزیکو را داد. البته خطر شروع مسابقه تسلیحات هسته‌ای نیز وجود داشت. ظرف یک ماه از اولین آزمایش موفقیت‌آمیز، دو بمب اتمی شهرهای هیروشیما و ناکازاکی را نابود کردند. برخی دانشمندان پیشنهاد کرده بودند که این بمب صرفاً نمایش داده شود و بر روی شهرهای ژاپن انداخته نشود. ولی تراژدی پرل‌هاربر هنوز در ذهن آمریکایی‌ها زنده بود و برای رئیس‌جمهور ترومن بسیار دشوار بود که بتواند صرفاً به نمایش بمب‌ها اکتفا کند. با این حال، حقیقت اصلی احتمالاً بسیار ساده است: به گفته فیزیکدانی به نام فریمن‌دایسون، «دلیل استفاده از بمب این بود که هیچ کس شهامت و آینده‌نگری این را که بگوید نه، نداشت.»
در نوامبر سال ۱۹۴۵، سه ماه بعد از بمباران‌های اتمی، اپنهایمر به شدت از دیدگاه علمی دفاع کرد و گفت:

«نمی‌توان دانشمند بود مگر این که اعتقاد داشته باشید که دانش جهان و قدرت ناشی از آن، برای انسان‌ها ارزش ذاتی دارد و این که شما از آن برای کمک به اشاعه دانش استفاده می‌کنید و آماده قبول عواقب آن نیز هستید.»

10-2-2014 7-34-00 PM

اپنهایمر همراه با سایر دانشمندان، به تلاش برای پیش‌گیری از مسابقه مخفی تسلیحات هسته‌ای ادامه داد. با این حال، تلاش او و سایر تلاش‌هایی که به منظور حمایت از اقدامات معقول جهت بین‌المللی کردن سلاح‌های هسته‌ای به منظور ممانعت از مسابقه تسلیحاتی به عمل آمد، یا به دلیل سیاست‌های آمریکا و بی‌اعتمادی داخلی و یا به دلیل مخالفت شوروی‌ها، با شکست مواجه شد. به این ترتیب فرصت طلایی برای اجتناب از مسابقه تسلیحاتی به سرعت از دست رفت. دو سال بعد، در سال ۱۹۴۸، اپنهایمر به مرحله دیگری در تفکرات خود رسید. او گفت که فیزیکدان‌ها به نوعی احساس گناه رسیده‌اند که نمی‌توانند آن را نادیده بگیرند. در سال ۱۹۴۹، اتحاد شوروی یک بمب اتمی منفجر کرد. تا سال ۱۹۵۵، هم ایالات متحده و هم اتحاد شوروی بمب‌های هیدروژنی خود را آزمایش کرده بودند. به این ترتیب، مسابقه سلاح‌های هسته‌ای آغاز شد.

امروزه هم، مانند آن زمان، ما در حال خلق فن‌آوری‌های جدیدی هستیم که این بار انگیزه اصلی ایجاد آن‌ها را پاداش‌های مالی عظیم و رقابت جهانی تشکیل می‌دهد و ما علی‌رغم خطرات واضح، به ندرت به این موضوع توجه می‌کنیم که زندگی کردن در دنیایی که حاصل آنچه که ما تصور و خلق می‌کنیم است، چه شکلی خواهد داشت. بله من قبول دارم که دانش خوب است؛ همچنان که جستجوی حقایق جدید نیز امر مطلوبی است. ما از زمان‌های باستان همواره به دنبال دانش بوده‌ایم. ارسطو کتاب متافیزیک خود را با این گفته شروع می‌کند که تمام انسانها ذاتاً تمایل به دانستن دارند. ولی علی‌رغم پیشینه تاریخی آن، اگر دسترسی آزاد و توسعه نامحدود دانش باعث شود که در معرض خطر آشکار انقراض نسل قرار گیریم، عقل سلیم حکم می‌کند که باید حتی عقاید قدیمی و دیرپای خود را نیز مورد تجدید نظر قرار دهیم. اگر می‌توانستیم به عنوان یک گونه جاندار، در مورد آنچه می‌خواهیم، مقصدی که به سوی آن حرکت می‌کنیم و دلیل این امر، به توافق برسیم، در آن صورت در آینده با خطرات بسیار کمتری مواجه می‌شدیم. در آن صورت بود که می‌توانستیم درک کنیم چه چیزهایی را می‌توانیم و باید کنار گذاریم. در غیر این صورت، به سادگی وارد مسابقه تسلیحاتی دیگری با استفاده از فن‌آوری‌های ژنتیک، نانو و روباتیک خواهیم شد؛ به همان ترتیب که طی قرن بیستم درگیر مسابقه تسلیحاتی با استفاده از فن‌آوری‌های هسته‌ای، بیولوژیک و شیمیایی بودیم. احتمالاً این بزرگ‌ترین خطر است؛ چون زمانی که چنین مسابقه‌ای آغاز شود، پایان دادن به آن بسیار مشکل خواهد بود. این بار ما درگیر جنگ با دشمنی نیستیم که تمدن ما را تهدید می‌کند؛ بلکه عادات، تمایلات، نظام اقتصادی و نیاز رقابتی برای دانستن است که ما را به این نبرد می‌کشاند.

به نظر من، همه ما آرزو داریم که می‌توانستیم مسیر خود را با توجه به ارزش‌های جمعی و اصول اخلاقی تعیین کنیم. اگر ظرف چند هزار سال گذشته به خرد جمعی بیشتری دست می‌یافتیم، در این صورت، گفت‌وگو برای رسیدن به این هدف، عملی‌تر بود و دیگر به اندازه زمان حال از قدرتهای عظیمی که قرار است به آنها دست یابیم، نمی‌ترسیدیم. تصور بر این است که غریزه بقا می‌تواند ما را به سوی چنین گفت‌وگویی سوق دهد. تمام افراد چنین تمایلی دارند ولی به عنوان یک گونه جاندار، رفتار ما در این جهت نیست. زمانی چرچیل، نخست‌وزیر وقت انگلیس گفت، آمریکایی‌ها همیشه بهترین کار را انجام می‌دهند؛ البته بعد از این که تمام راه‌های دیگر را امتحان کردند. در این مورد ما باید با دوراندیشی بیشتری عمل کنیم چون اگر بخواهیم کار درست را برای آخرین مرحله نگه داریم، ممکن است اصلاً نتوانیم آن را انجام دهیم!

10-2-2014 7-38-36 PM

هنوز اعتقاد دارم که زمینه‌های فراوانی برای امیدوار بودن وجود دارد. تلاشهای ما برای کنترل سلاح‌های کشتارجمعی طی قرن گذشته، مثال خوبی در این مورد است. کنار گذاشتن تکثیر سلاح‌های بیولوژیک توسط ایالات متحده، ناشی از تشخیص این نکته بود که هر چند تولید این گونه سلاح‌ها احتیاج به تلاش‌های عظیم دارد ولی بعد از تولید و تکثیر آنها، قرار گرفتن این قبیل تسلیحات مرگبار در اختیار گروه‌های یاغی و تروریستی بسیار ساده خواهد بود. کنار گذاشتن فن‌آوری‌های ژنتیکی، نانو و روباتیک باید هم در سطح اینترنت و هم در سطح تأسیسات فیزیکی مورد تأیید قرار گیرد. همچنین تأیید این موضوع نیازمند اتخاذ قوانین اخلاقی نیرومند از جانب دانشمندان و مهندسین است؛ چیزی شبیه سوگند بقراط.

سؤال این است که مبنای اخلاقی جدید برای تعیین مسیر خود را کجا می‌توانیم پیدا کنیم. به نظر من، ایده‌ای که دالایی لاما -رهبر روحانی تبت- در کتاب خود به نام اخلاقیات برای هزاره جدید مطرح کرده است، پاسخ مناسبی به این پرسش است. دالایی لاما می‌گوید، مهم‌ترین چیز برای ما، زندگی کردن همراه با دوست داشتن دیگران است و جوامع ما باید تصور نیرومندتری از مسئولیت جهانی و وابستگی متقابل ما به یکدیگر داشته باشند. او همچنین استدلال می‌کند که ما باید درک کنیم که چه چیز مردم را خوشحال می‌سازد و قبول کنیم که نه پیشرفت مادی و نه رفتن به دنبال قدرت دانش، هیچ یک کلید حل این معما نیستند.

10-2-2014 7-50-46 PM

هنوز بسیاری از افرادی که از خطرات این فن‌آوری‌ها اطلاع دارند به نحو حیرت‌انگیزی خاموشند. من نمی‌دانم آنها ترس خود را در کجا پنهان می‌کنند. آیا در این مورد شکی وجود دارد که دانش می‌تواند تبدیل به سلاحی علیه خودمان شود؟ بنابراین من هنوز به جستجو ادامه می‌دهم. چیزهای بسیار بیشتری برای یادگیری وجود دارد. هنوز معلوم نیست که ما موفق می‌شویم یا شکست می‌خوریم؛ معلوم نیست که آیا به حیات ادامه می‌دهیم یا قربانی فن‌آوری‌های خود می‌شویم. من تلاش می‌کنم به پاسخ‌های بهتری دست یابم.

منبع: نشریه سیاحت غرب – شماره ۳۳

متن انگلیسی این نوشته


حالا حالاها با بیل جوی کار داریم و در آینده نزدیک مقاله‌هایی در مورد وی و حاشیه‌هایش در یک پزشک خواهید خواند.


نظرات

  1. عالی بود
    یکی از دقدقهای من همینه

  2. من معتقدم اخلاقیات در این ماراتن فقط یک قدم عقب می ماند !انسان طناب اعدام را خودش به گردن می اندازد و ربات ها چهار پایه را از زیر پایش می کشند.

  3. نشر پیکان کتاب «عصر ماشین‌های معنوی» ری کوروزویل را ندارد.اگر جای دیگر سراغ دارید لینک بذارین. ممنونم دکتر مجیدی که همیشه بهترین مطالب رو در اختیار خوانندگان یک پزشک قرار میدهید.

  4. به نظر من ما دیگه توی دوران هیاهو سیاسی که بعد از جنگ جهانی دوم به وجود آمده بود زندگی نمی کنیم ما بیشتر تحت تاثیر سرمایه داران هستیم تا سیاست مداران .

    “در عصر تجارت‌گرایی، فن‌آوری در حال تحویل مجموعه‌ای از اختراعات تقریباً جادویی است که از هر زمان دیگر سودآورتر هستند.”

    وقتی به این فکر میکنیم که یک سرمایه دار از هوش مصنوعی چه استفاده ای برای کسب سود بیشتر میتونه ببره موضوع مشخص تر میشه .
    تحلیل ابردیتاها مثل جامعه مصرف کننده و بازار و اطلاعات شرکت های رقیب ، استفاده از روبات های هوشمند در بورس چه برای تحلیل بازار چه برای پوزیشن گرفتن و ورود به بازار و….
    در واقع تصمیم گیرنده در بازار نه سرمایه دار هست نه تحلیل
    گران و نه خرده پاها . این هوش مصنوعی خواهد بود که برای سود بیشتر سرمایه داران تصمیم میگیره . حالا این هوش مصنوعی که قدرت بسیار زیادی به علت هوش بالاش پیدا کرده میتونه اونقدر هوشمند باشه که مستقل از خواسته صاحبانش تصمیم گیری کنه .

    به نظر من همه ی تحلیل هایی که در رابطه با آینده هوش مصنوعی و ما انسان ها و خطراتی که ما رو تهدید میکنه میشه همش در رابطه با این سوال است که :
    آیا ما میتونیم هوش مصنوعی بسازیم که به اندازه ی ما و یا بیشتر هوشمند باشه اما به اندازه ما منفعت طلب نباشه ؟!

  5. انسان ها همواره از ناشناخته ها می ترسند و این ترس طبیعی است و جزئی از تکامل انسان است. حال ورود به تکنولوژی های جدید و کاربرد آن در زندگی انسان هر چند در سطوح کلان (ملت ها و دولت ها) نیازمند خرد جمعی بسیار مترقی است در سطوح خرد تنها تکنولوژی های جدیدی که کارا هستند ماندگار می شوند و نگرانی در مورد آنها احساس نمی شود. دانشمندان فیزیک و یا متخصصان روبات زمانی که در مورد دانش زیست و ژنتیک نظر مبدهند همواره با ترس است و بالعکس و باز هم مسئله ناشناخته هاست، شاید اگر آنها در مورد دانش مهندسی ژنتیک همانند فیزیک یا روباتیک تخصص داشتند ترس را کنار می گذاشتند. ولی با تمام این مطالب ترس خوب است!!!!!

دیدگاه خود را با ما اشتراک بگذارید:

ایمیل شما نزد ما محفوظ است و از آن تنها برای پاسخگویی احتمالی استفاده می‌شود و در سایت درج نخواهد شد.
نوشتن نام و ایمیل ضروری است. اما لازم نیست که کادر نشانی وب‌سایت پر شود.
لطفا تنها در مورد همین نوشته اظهار نظر بفرمایید و اگر درخواست و فرمایش دیگری دارید، از طریق فرم تماس مطرح کنید.