تعمیم قوانین سه گانه روباتیک آسیموف، 23 اصلی که هوش مصنوعی را باید به آنها مقید کرد

3

قوانین سه‌گانه روباتیک آسیموف، خیلی مختصر و مفید، اصول و قوانینی که روبات‌ها باید به آنها وفادار باشند، را تببین می‌کردند.

شمایی کودکان و نوجوانان دهه 60 و اویل دهه 70ممکن است این 3 قانون را بارها در حین مطالعه علمی- تخیلی آسیموف خوانده باشید.

2-3-2017 11-22-40 AM

اما جالب است بدانید که نویسندگان داستان‌های علمی- تخیلی این قوانین را افزایش داده‌اند و در این سال‌های طولانی که بازار کتاب ما کساد بود و در شرایطی که هم‌اینک هم کمتر مترجم و ناشری است که ریسک ترجمه داستان‌های تازه از نویسندگان جدید علمی- تخیلی را قبول کند، خیال‌پردازان این سه قانون را به شش قانون رسانده‌اند:

  • قانون منهای یکم – یک روبات نباید به موجود حس‌گر آسیب برساند و یا با خودداری از عملی موجب آسیب دیدن به او گردد.
  • قانون صفرم – یک روبات نباید به بشریت آسیب برساند و یا با خودداری از عملی موجب آسیب دیدن به بشریت شود.
  • قانون یکم (تکمیل شده) – یک روبات نباید به انسان آسیب برساند و یا با خودداری از عملی موجب آسیب دیدن او شود، مگر این که قانون صفرم نقض شود.
  • قانون دوم – یک روبات باید به تمام دستوراتی که از سوی انسان به او داده می‌شود عمل کند، مگر این که دستورات قانون اول را نقض کند.
  • قانون سوم – یک روبات، تا جایی که قوانین اول یا دوم نقض نشود، باید از وجود خود حفاظت کند.
  • قانون چهارم – یک روبات باید همیشه ماهیت روباتی خود را حفظ کند.
  • قانون پنجم – یک روبات باید بداند که روبات است.

هنوز رؤیای آسیموف و نویسندگان داستان‌های علمی- تخیلی در زمینه روباتیک برآورده نشده و ما هنوز روبات‌هایی به هوشمندی و توانایی مثلا آر دنیل الیواو نداریم. اما هوش مصنوعی این چند ساله با سرعت خوبی در حال پیشرفت است و ما شاهد هستیم که هوش مصنوعی و یادگیری ماشینی اینک می‌توانند کارهایی بکنند که پیش از این تصورش را نمی‌کردیم.

می‌توان تصور کرد که یکی دو دهه بعد هوش مصنوعی به آستانه‌ای از توانمندی برسد که کم کم برخی از توانایی‌هایی‌ که تا امروز فقط در انحصار پردازش یا توان تصمیم‌گیری مدارهای مغزی ما بود را به چالش بکشد.

اما اگر این توانایی هوش مصنوعی از آغز بی‌سامان رشد کند و در قید و بندی نباشد، بالقوه می‌تواند برای بشریت مخرب هم باشد.

از همین رو است که افرادی پیدا شده‌اند که در پی ایجاد قوانین و اصولی برای هوش مصنوعی به مانند قوانین روباتیک هستند.

در اینجا 23 اصلی را که در یکی از سایت‌ها پیشنهاد شده بود، با هم مرور می‌کنیم که البته آن نظم و مختصر و مفید بودن قوانین روباتیک را ندارند، اما مرور آنها قطعا می‌تواند جالب باشد.

  • هدف هوش مصنوعی نباید ایجاد هوشمندی بی‌ سمت و سو باشد، این هوشمندی باید سودمند باشد.
  • سرمایه‌گذاری باید در جهت تقویت آن دسته از فناوری‌های هوش مصنوعی باشد که در زمینه‌هایی مانند دانش اجتماعی، اخلاق، اقتصاد، دانش و علوم کامپیوتر سودمند باشند.
  • باید تعامل و بده بستان سالمی بین پژوهشگران هوش مصنوعی و قانون‌گذران برقرار شود.
  • در جامعه پژوهشگران هوش مصنوعی اعتماد، همکاری و شفافیت باید برقرار شود.
  • هوش مصنوعی نباید برای مقاصد نژادپرستانه و سلطه‌جویانه مورد استفاده قرار گیرد.
  • از ایمنی کاربردهای هوش مصنوعی باید اطمینان حاصل شود.
  • دلایل نقایص احتمالی یک یک فناوری هوش مصنوعی باید به صورت شفاف اعلام شود.
  • در تصمیم‌گیری‌های حساس مثلا تصمیم‌گیری‌های قضایی، تصمیم و پیشنهادات هوش مصنوعی حتما باید توسط یک کاربر انسانی تأیید شود.
  • توسعه‌دهندگان هوش مصنوعی باید در قابل کاربردهای نادرست و سوء استفاده از فناوری‌شان مسئولیت‌پذیر باشند.
  • هوش مصنوعی باید به ارزش‌ها و آرمان‌های بشریت وفادار باشد.
  • تک تک مردم باید حق دسترسی، مدیریت و کنترل دیتایی که تولید می‌کنند و می‌تواند ماده خام پردازش سیستم‌های هوشمند باشد را داشته باشند.
  • محصولات هوش مصنوعی نباید به هیچ عنوان آزادی‌ها و حریم خصوصی افراد را تحدید کنند.
  • هوش مصنوعی باید در حد امکان تعداد بیشتری از مردم را پوشش بدهد و گستره سودرسانی وسیعی داشته باشد.
  • منافع اقتصادی فناوری‌های هوش مصنوعی باید بین همه انسان‌های تقسیم شود.
  • انسان‌های باید همیشه و در همه وضعیت‌ها، توانایی مداخله در تصمیم‌گیری‌های الگوریتم‌های هوش مصنوعی را داشته باشند.
  • نباید به بهانه‌های واهی، امکان پیشرفت هوش مصنوعی را سد کرد.
  • از مسابقه تسلیحاتی با استفاده از هوش مصنوعی باید اجتناب شود.
  • در صورت نبود توافق عمومی، نباید محدودیت و حد بالایی برای پیشرفت هوش مصنوعی قائل شد.
  • از انجا که هوش مصنوعی می‌تواند تاریخ را در روی زمین به راستی دگرگون کند، مدیریت آن باید با رعایت همه جوانب،‌ اداره خردمندانه منابع و اطمینان از سلامت سیستم‌های صورت بگیرد.
  • خطرات احتمالی ناشی از هوش مصنوعی باید از قبل پیشبینی شوند و برنامه‌هایی برای پرهیز از آنها وجود داشته باشند.
  • سیستم‌ هوشمند یکه توانایی ارتقای خودکار خودشان یا تکثیر خودکار خود را دارند باید با دقت تحت نظر باشند و مقررات کنترلی شدیدی برای آنها اعمال شود.
  • ابرهوشمندی باید تحت ایده‌آل‌های اخلاقی مشترک توسعه پیدا کند و در خدمت بشریت باشد، نه اینکه در انحصار سازمان یا کشوری خاص باشد.

اگر خواننده جدید سایت «یک پزشک»  هستید!
شما در حال خواندن سایت یک پزشک (یک پزشک دات کام) به نشانی اینترنتی www.1pezeshk.com هستید. سایتی با 18 سال سابقه که برخلاف اسمش سرشار از مطالب متنوع است!
ما را رها نکنید. بسیار ممنون می‌شویم اگر:
- سایت یک پزشک رو در مرورگر خود بوک‌مارک کنید.
-مشترک فید یا RSS یک پزشک شوید.
- شبکه‌های اجتماعی ما را دنبال کنید: صفحه تلگرام - صفحه اینستاگرام ما
- برای سفارش تبلیغات ایمیل alirezamajidi در جی میل یا تلگرام تماس بگیرید.
و دیگر مطالب ما را بخوانید. مثلا:

تجدید خاطره‌ای با وبلاگستان – اسکرین شات‌هایی از برخی از وبلاگ‌های قدیمی خوب

شبکه‌های اجتماعی وبلاگ‌ها را فرونرخیتند. دلایل فروریختن آنها بسیار بیشتر از محبوب شدن شبکه‌های اجتماعی بود:1- بسته شدن ابزارهای رایگان‌های وبلاگ‌نویسی2- نوع نوشتن وبلاگ‌نویس‌ها که هم بسیار انرژی‌بر و وقت‌گیر بود و هم به خاطر…

اگر گوشی‌های موبایل، دهه‌ها زودتر اختراع می‌شدند

در دوره‌ای پس از همگانی شدن استفاده از گوشی‌های موبایل، تنوع ظاهری آنها بسیار زیاد بود و هیچ گوشی‌ای شبیه گوشی دیگر نبود. اما الان شکل همه گوشی‌ها تقریبا یکی شده است.ما خیلی منتظر گوشی‌های تاشو یا رول‌شونده ماندیم تا این یکنواختی را به…

چرا بعضی‌ها وقتی پا به سن می‌گذارند جذاب می‌شوند یا دست‌کم کمتر زشت به نظر می‌رسند؟ عکس‌های قدیمی…

خب، این هم بحثی است که نمی‌دانم شما تا حالا در موردش با کسی صحبت کرده‌اید یا خیر. برخی در جوانی واقعا چهره یا قامت غیرقابل تحملی دارند. مثلا زیاد زمخت هستند، بینی یا فک یا گوش‌های بزرگ دارند. تناسب چهره ندارند. کلا جزو زیباروها به حساب…

داستان گنبد بتنی در جزایر مارشال که پر از زباله‌های مرگبار هسته‌ای است

یک گنبد بتنی یا اصطلاحا Runit Dome بین سال‌های 1977 و 1980 به منظور مهار زباله‌های رادیواکتیو حاصل از آزمایش‌های هسته‌ای جنگ سرد آمریکا ساخته شد. اما شروع به ترک خوردن کرده است.جزایر مارشال یک کشور جزیره‌ای زیبا است که در اقیانوس آرام…

کهن‌ترین درختان جهان

" بث مون " عکاسی است که در سانفرانسیسکو زندگی می کند و بیش از 14 سال از عمرش را صرف شناسایی و عکاسی از قدیمی ترین درختان جهان کرده است. او به کشورها و سرزمین های دورافتاده سفر می کند تا از درختان قطور قدیمی تصاویر زیبایی را ثبت کند. او می…

اگر قرار بود ابرقهرمان‌ها، لباس‌های قرن نوزدهمی می‌پوشیدند

ما عادت کرده‌ایم ابرقهرمان‌ها را در لباس‌های امروز ببینیم و فیلم‌های زیادی هم که بر مبنای کامیک‌بوک‌ها ساخته شده، این تصور را در ذهن ما تشدید کرده‌اند.اما اگر قرار بود همین ابرقهرمان‌ها لباس‌های قرن نوزذهمی می‌پوشیدند، چه می‌شد؟…
آگهی متنی در همه صفحات
دکتر فارمو / شیشه اتومبیل / نرم افزار حسابداری / خرید سیلوسایبین / هوش مصنوعی / قیمت وازلین ساج / مقاله بازار / شیشه اتومبیل / قیمت ایمپلنت دندان با بیمه /سپتیک تانک /بهترین دکتر لیپوماتیک در تهران /بهترین جراح بینی در تهران / آموزش تزریق ژل و بوتاکس / دوره های زیبایی برای مامایی / آموزش مزوتراپی، PRP و PRF /کاشت مو / مجتمع فنی تهران /قیمت روکش دندان /خدمات پرداخت ارزی نوین پرداخت / درمان طب / لیست قیمت تجهیزات پزشکی / دانلود آهنگ / سریال ایرانی کول دانلود / دانلود فیلم دوبله فارسی /داروخانه اینترنتی آرتان /اشتراك دايت /فروشگاه لوازم بهداشتی /داروخانه تینا /لیفت صورت در تهران /فروش‌ دوربین مداربسته هایک ویژن /سرور مجازی ایران /مرکز خدمات پزشکی و پرستاری در منزل درمان نو /توانی نو / ثبت برند /حمل بار دریایی از چین /سایت نوید /پزشک زنان سعادت آباد /کلاه کاسکت / لمینت متحرک دندان /فروشگاه اینترنتی زنبیل /ساعت تبلیغاتی /تجهیزات پزشکی /چاپ لیوان /خرید از آمازون /بهترین سریال های ایرانی /کاشت مو /قیمت ساک پارچه ای /تولید محتوا /دانلود نرم افزار /
3 نظرات
  1. rezaorg می گوید

    سه قانون اصلی را هم میزدید

  2. zhilevan می گوید

    حالا برای منی که رشته تحصیلی و علاقه اصلی ام هوش مصنوعی صحبت در این رابطه ساده تره. ولی متاسفانه همه اینها فقط تئوریه ، و با توجه به بحث سود جویی و پول هنگفتی که از ربات های که تو امر جنگ و کشتار و شکار بتونن به آدم ها کمک کن این امر محاله که بصورت کامل اجرا بشه. عین همه چیز های که الان وجود داره تو ظاهر دم از حقوق بشر میزنن ولی در پشت قضیه داستان دیگه ای هست . همین الانشم بخاطر در دسترس بودن دراون ها ، کارتل های برای جابه جا کردن مواد مخدر از دروان ها استفاده میکنند و چند وقت دیگه ربات هوشمند قاتل هم به تولید بیشتر برسن استفاده میکنن. پیاده سازی این موردم خیلی ساده است یه ربات که به شکل اصلحه هوشمند که توسط تصاویری که از دوربین های درون یه منطقه امنیتی میگیره حرکت های مشکوک رو تو اون منطقه عبور ممنوع چک میکنه و حتی می تونه به پردازش تصویر افراد یا خودروهایی که جز کادر مجاز تردد اون منطقه نیستن نابود کنه. این یه کاربرد ساده بود وقتی به این مساله فکر کنید میبینید که چقدر می تونه هوش مصنوعی تو کاربردهای این چنینی وحشتاک باشه.

  3. رضا می گوید

    در تکمیل صحبت دوستمون باید اشاره کنم یکی از مهمترین و بزرگترین مراکز تحقیقات در زمینه رباتیک “دارپا”ست که متعلق به وزارت دفاع آمریکاست و هدف اصلیش توسعه و ساخت فناوری‌های نوین برای استفاده ارتش آمریکاست، نتیجتا این قوانین بهمان کتابهای علمی و تخیلی تعلق دارند تا دنیای واقع.

ارسال یک پاسخ

آدرس ایمیل شما منتشر نخواهد شد.

••4 5