به گزارش سیتنا، هواپیماهای نظامی آمریکا در بهار امسال در حال پرواز بودند که مقامهای آمریکایی متوجه موضوعی نگرانکننده شدند: اطلاعاتی که مبنای یک عملیات مسلحانه علیه یک کشتی چینی قرار گرفته بود، توسط یک چتبات هوش مصنوعی تولید شده و در واقع ساختگی بود. این عملیات در آخرین لحظات لغو شد و از وقوع یک درگیری احتمالی با چین جلوگیری شد.
این اتفاق نگرانی فزایندهای را میان مقامهای نظامی و کارشناسان درباره استفاده بیشتر تصمیمگیران از هوش مصنوعی ایجاد کرده است؛ زیرا خطاهای این سامانهها ممکن است پیش از آنکه مورد بررسی قرار گیرند، در زنجیره فرماندهی منتقل شوند و مبنای تصمیمهای حساس قرار بگیرند.
بر اساس این گزارش، اطلاعات جعلی در جریان جنگ با ایران منتشر شد و ادعا میکرد این کشتی حامل قطعات و تجهیزات مرتبط با یک برنامه تسلیحات هستهای است.
منشأ این اطلاعات نادرست، یکی از تحلیلگران فرماندهی عملیات ویژه آمریکا بود که از یک چتبات هوش مصنوعی برای ترکیب اطلاعات منابع عمومی با دادههای اطلاعاتی محرمانه استفاده کرده بود. چتبات محموله کشتی را به اشتباه شناسایی کرد و تحلیلگر نیز در مرحله بعد، برای تهیه یک گزارش با ظاهر رسمی، دوباره از همان ابزار استفاده کرد. این گزارش حاوی اطلاعات نادرست سپس در کانالهای فرماندهی نظامی منتشر شد.
این اتفاق در شرایطی رخ داده است که ارتش آمریکا با سرعت در حال ادغام هوش مصنوعی در فرایندهای نظامی است تا تصمیمگیری را سریعتر کند و برتری خود در برابر چین را حفظ کند. پنتاگون نیز پیشتر اعلام کرده بود که هوش مصنوعی میتواند با سرعت بخشیدن به زنجیره تصمیمگیری و عملیات نظامی، به فرماندهان کمک کند در زمان مناسب واکنش نشان دهند.
با این حال، همین سرعت میتواند در صورت نبود نظارت انسانی کافی، باعث شود خطاهای تولیدشده توسط هوش مصنوعی نیز با سرعت بیشتری در فرایند تصمیمگیری نظامی پیش بروند.
جیک استکلر، پژوهشگر مؤسسه GovAI و افسر سابق ارتش آمریکا، در واکنش به این حادثه گفت درک میزان عدمقطعیت موجود در مدلهای زبانی بزرگ برای نیروهای نظامی اهمیت زیادی دارد؛ بهویژه در تصمیمهایی که ممکن است به استفاده از زور منجر شوند، مانند هدفگیری، تحلیل اطلاعات و برنامهریزی عملیاتی، چراکه چنین تصمیمهایی میتوانند پیامدهای مرگ و زندگی داشته باشند.
با این حال، استکلر معتقد است این حادثه باید به افزایش سازوکارهای ایمنی و نظارتی در استفاده از هوش مصنوعی منجر شود، نه کنار گذاشتن این فناوری. به گفته او، این ابزارها در شرایط مناسب و با وجود تدابیر حفاظتی لازم میتوانند مفید باشند، اما اولویت دادن به سرعت استفاده از هوش مصنوعی بدون توجه کافی به ایمنی و نظارت انسانی، احتمال وقوع حوادثی را افزایش میدهد که در نهایت اعتماد نیروهای نظامی به این سامانهها را کاهش خواهد داد.
انتهای پیام