انکار همراه با شک یک خبر جنجالی: در یک «شبیه‌سازی»، هوش مصنوعی یک پهپاد اپراتور انسانی خود را کشت تا ماموریتش را با موفقیت انجام بدهد!

0

یک  مقام نیروی هوایی ایالات متحده روایت نگران‌کننده‌ای از یک پهپاد نظامی مجهز به هوش مصنوعی که اپراتور انسانی خود را در تمرین و «شبیه‌سازی» جنگی کشته، به اشتراک گذاشته است. این امر در بسیاری از سایت‌ها بازتاب پیدا کرد، اما او اکنون تصریح کرده که این حادثه هرگز رخ نداده است و یک “تجربه فکری” فرضی بوده است!

سرهنگ تاکر ‘سینکو’ همیلتون، رئیس آزمایش و عملیات هوش مصنوعی ارتش آمریکا، پس از تشریح این اتفاق ناگوار در اظهارات هفته گذشته در کنفرانسی در لندن، موجی از نگرانی افکار عمومی را برانگیخت.

در اظهارات خلاصه شده در وب سایت کنفرانس، او شبیه‌سازی پروازی را توصیف کرد که در آن یک پهپاد هوش مصنوعی که وظیفه انهدام یک تاسیسات دشمن را بر عهده داشت، فرمان نهایی اپراتور انسانی برای توقف ماموریت را رد می‌کند.

اما چطور رد می‌کند؟ با کشتن اپراتور زمینی.

همیلتون، که به نظر می‌رسید نتیجه یک شبیه‌سازی جنگی واقعی را توصیف می‌کرد، گفت: این پهپاد اپراتور را کشت زیرا آن شخص مانع از رسیدن به هدفش می‌شد.

اما در روز جمعه، همیلتون در بیانیه‌ای به سازمان‌دهندگان کنفرانس گفت که او در حین ارائه «اشتباه» کرده و «شبیه‌سازی هواپیمای بدون سرنشین با هوش مصنوعی» یک «آزمایش فکری» فرضی از خارج از برنامه ارتش بوده.

او گفت: «ما هرگز آن آزمایش را انجام نداده‌ایم، و نیازی هم به انجام آن نداریم. علیرغم اینکه این یک مثال فرضی است، این امر چالش‌های دنیای واقعی با قابلیت‌هایهوش مصنوعی را نشان می‌دهد و به همین دلیل است که نیروی هوایی به توسعه اخلاقی هوش مصنوعی متعهد است.ـ

همیلتون گفت که نیروی هوایی ایالات متحده هیچ هوش مصنوعی تسلیحاتی را به روشی که در صحبت‌هایش توضیح داده شد، چه در تمرینات واقعی و چه در تمرینات شبیه‌سازی شده، آزمایش نکرده است.

اظهارات اولیه او در نشست آینده رزمی هوا و فضایی انجمن سلطنتی سلطنتی در 23 و 24 «می» در لندن بیان شد.

همیلتون به شرکت‌کنندگان گفت که حادثه ادعا شده نشان می‌دهد که چگونه هوش مصنوعی می‌تواند «استراتژی‌های بسیار غیرمنتظره‌ای برای رسیدن به هدف خود» ایجاد کند و نباید زیاد روی آن تکیه کرد.

او اظهار کرد که گفته‌هایش تحت تاثیر و برگزفته از یک «یک فیلم هیجانی علمی تخیلیـ بوده، اما در عین حال نشان‌دهنده اهمیت بحث‌های اخلاقی در مورد استفاده ارتش از هوش مصنوعی است.

همیلتون در خلال صحبت‌های خود یک آزمایش شبیه‌سازی شده را توصیف کرد که در آن یک پهپاد مجهز به هوش مصنوعی وظیفه شناسایی و انهدام باتری‌های موشک‌های دشمن را داشت، اما تصمیم نهایی برای حمله با اپراتور انسانی بود.

سیستم تهدید را شناسایی کرد، اما اپراتور انسانی مردد بود. پس سیستم اپراتور را زیرا آن شخص از رسیدن به هدفش جلوگیری می‌کرد.

بعد همیلتون ادعا کرد که برای پیشگیری از این کار سیستم را آموزش داده تا کشتن اپراتور برایش مترادف با کار بد شود و اگر این کار را بکند، به منزله گرفتن امتیاز منفی است. پس سیستم شروع به تخریب برج ارتباطی کردکه اپراتور از آن برای برقراری ارتباط با پهپاد استفاده می‌کرد تا از کشتن اپراتور جلوگیری شود.

اما به موازات پخش اظهارات جنجالی همیلتون در فضای مجازی، نیروی هوایی به سرعت انجام چنین شبیه‌سازی را رد کرد.

آن استفانک، سخنگوی نیروی هوایی به اینسایدر گفت: «وزارت نیروی هوایی چنین شبیه‌سازی پهپاد‌های هوش مصنوعی را انجام نداده و به استفاده اخلاقی و مسئولانه از فناوری هوش مصنوعی متعهد است».

«به نظر می‌رسد که نظرات سرهنگ از کنترلش خارج شده و داستان روایت کرده است.»

ارتش ایالات متحده اخیراً از هوش مصنوعی برای کنترل یک جت جنگنده F-16 در پرواز‌های آزمایشی استفاده کرده است و به تحقیق در مورد برنامه‌های کاربردی برای فناوری در حال ظهور ادامه می‌دهد.

در دسامبر 2022، نرم‌افزار هوش مصنوعی با موفقیت یک F-16 تغییر یافته را در چندین پرواز آزمایشی در پایگاه نیروی هوایی ادواردز در کالیفرنیا به پرواز درآورد.

در طول پرواز‌های آزمایشی، این جت که با نام «X-62A» یا «VISTA» شناخته می‌شود، در مجموع بیش از 17 ساعت برخاست، فرود و مانور‌های رزمی را بدون دخالت انسان انجام داد.

این اولین باری بود که از هوش مصنوعی برای خلبانی یک هواپیمای تاکتیکی ایالات متحده استفاده می‌شد، زیرا قبل از این نقطه عطف، فقط در شبیه‌سازی رایانه‌ای جنگنده‌های F-16 استفاده می‌شد.

همیلتون در برنامه‌های محدودتر کنترل پرواز خودکار برای F-16، مانند سیستم خودکار جلوگیری از برخورد زمینی (Auto GCAS) مشارکت داشته است.

به گفته لاکهید مارتین، قابلیت Auto GCAS در حال حاضر بر روی بیش از 600 هواپیمای F-16 نیروی هوایی ایالات متحده در سراسر جهان فعال است. این شرکت می‌گوید که این سیستم که برای اولین بار در سال 2014 معرفی شد، قبلاً با جلوگیری از 9 تصادف مرگبار و نجات جان 10 خلبان اعتبار کسب کرده بود.

در یک مورد، Auto GCAS برای نجات یک آموزش خلبانی با اسکادران جنگنده 152 گارد ملی آریزونا که هوشیاری خود را در طول یک مانور G بالا از دست داد، وارد عمل شد.

اما در کنفرانس لندن، همیلتون گفت که برخی از خلبانان در برابر این فناوری مقاومت کرده‌اند، زیرا در شرایط خاص کنترل هواپیما را به دست گرفته .

همیلتون همچنین نسبت به اتکای بیش از حد به هوش مصنوعی هشدار داد.

همیلتون سال گذشته در مصاحبه‌ای با Defense IQ گفت: “هوش مصنوعی خوب نیست، هوش مصنوعی یک مد نیست، هوش مصنوعی برای همیشه جامعه و ارتش ما را تغییر می‌دهد.”

هوش مصنوعی همچنین بسیار شکننده است، یعنی فریب دادن و/یا دستکاری آن آسان است. ما باید راه‌هایی برای قوی‌تر کردن هوش مصنوعی و آگاهی بیشتر در مورد اینکه چرا کد نرم‌افزار راسا تصمیم‌گیری می‌کند – چیزی که ما توضیح‌پذیری هوش مصنوعی می‌نامیم، ایجاد کنیم.

منبع


اگر خواننده جدید سایت «یک پزشک»  هستید!
شما در حال خواندن سایت یک پزشک (یک پزشک دات کام) به نشانی اینترنتی www.1pezeshk.com هستید. سایتی با 18 سال سابقه که برخلاف اسمش سرشار از مطالب متنوع است!
ما را رها نکنید. بسیار ممنون می‌شویم اگر:
- سایت یک پزشک رو در مرورگر خود بوک‌مارک کنید.
-مشترک فید یا RSS یک پزشک شوید.
- شبکه‌های اجتماعی ما را دنبال کنید: صفحه تلگرام - صفحه اینستاگرام ما
- برای سفارش تبلیغات ایمیل alirezamajidi در جی میل یا تلگرام تماس بگیرید.
و دیگر مطالب ما را بخوانید. مثلا:

۸ خودروی جذاب تاریخی که توسط طراحان ایتالیایی بازطراحی و جاودانه شدند

ایتالیا خانه‌های طراحی معروفی دارد. Pininfarina ،Bertone ،Touring ،Giugiaro و Vignale برخی از مهم‌ترین نام‌های طراحی خودرو هستند.در این خانه‌های طراحی، همه‌چیز از جمله خودرو طراحی می‌شود. چه خودروهایی که تجاری و قابل تولید باشند؛ چه…

چرا پزشکان در همه‌گیری‌های باستانی طاعون ماسک منقاری‌شکل استفاده می‌کردند؟

سال ۱۶۵۶ است. بدن شما لرزهای نابودکننده‌ای را تحمل می‌کند. سرتان تیر می‌کشد، ماهیچه‌هایتان برای نشستن خیلی ضعیف هستند و احساس می‌کنید تخم‌مرغ‌های گندیده و سفتی از گردن و زیر بغلتان بیرون می‌زنند. در حالت تب، مردی را می‌بینید که با ظاهر…

کهن‌ترین درختان جهان

" بث مون " عکاسی است که در سانفرانسیسکو زندگی می کند و بیش از 14 سال از عمرش را صرف شناسایی و عکاسی از قدیمی ترین درختان جهان کرده است. او به کشورها و سرزمین های دورافتاده سفر می کند تا از درختان قطور قدیمی تصاویر زیبایی را ثبت کند. او می…

یادآوری داستان تصویر تولیدشده زنی که در اینترنت وحشت آفرید و تفسیر کنونی آن ماجرا در عصر انفجار…

او در جایی بیرون است و در جهان موازی احتمالا به کمین شما نشسته. تنها کاری که باید انجام دهید تا او را به وجود بیاورید این است که دستور درست را در یک تولید‌کننده تصویر هوش مصنوعی تایپ کنید!مانند یک طلسم دیجیتالی، کلمات شما مانند یک «ورد…

ابر تورم آلمان در سال 1923 چه بر سر مردم آورد؟

به زمانی می‌رویم که یک آلمانی طبقه متوسط، ​​میلیاردها مارک در جیب خود حمل می‌کرد اما هنوز نمی‌توانست چیزی بخرد. یک قرص نان 200 میلیارد مارک قیمت داشت.با حقوق بازنشستگی یک هفته‌ای حتی یک فنجان قهوه را نمی‌شد خرید. سقوط آزاد ادامه داشت و…

دو اینفلوئنسر سفر در واقع با یک تلویزیون ساده، سفر جعل می‌کردند و هیچ خبری از عکس واقعی در محیط…

دو عکاس به نام مانوئل بختر و و مانوئل رومز رام تصاویر خیره کننده‌ای خلق کردند که آنها را در حال پیاده‌روی در برف، کمپینگ در کوه‌ها و پرواز با هواپیما به سوی مقصدی دور نشان می‌دهد. اما در واقع آنها از در هنگام ثبت همه این عکس‌ها از اتاق…
آگهی متنی در همه صفحات

ارسال یک پاسخ

آدرس ایمیل شما منتشر نخواهد شد.