نشست شورای امنیت سازمان ملل درباره هوش مصنوعی و امنیت بینالمللی، روز ۲۳ سپتامبر ۲۰۲۶ در نیویورک برگزار شد؛ نشستی که در آن مدیران ارشد شرکتهای سازنده هوش مصنوعی، دانشمندان این حوزه و نمایندگان قدرتهای بزرگ جهان، درباره آینده فناوریای بحث کردند که دیگر صرفاً یک موضوع اقتصادی و فناورانه نیست و به یکی از مسائل امنیت بینالمللی تبدیل شده است.
به گزارش آی سی تی نیوز؛ شورای امنیت سازمان ملل متحد در جریان هشتاد و یکمین نشست مجمع عمومی، جلسهای سطح بالا با عنوان «هوش مصنوعی و امنیت بینالمللی» برگزار کرد. این جلسه با ابتکار فرانسه و در دوره ریاست این کشور بر شورای امنیت برگزار شد و در آن، سم آلتمن، مدیرعامل OpenAI، داریو آمودی، مدیرعامل Anthropic، کلمنت دلانگ، مدیرعامل Hugging Face و یوشوا بنجیو، دانشمند برجسته هوش مصنوعی و رئیس مشترک پنل علمی مستقل سازمان ملل درباره AI سخنرانی کردند.
اهمیت این نشست در این بود که موضوع هوش مصنوعی برای چند ساعت از فضای معمول کنفرانسهای فناوری خارج شد و در عالیترین نهاد سازمان ملل که مسئولیت اصلی حفظ صلح و امنیت بینالمللی را برعهده دارد، مورد بحث قرار گرفت.
جلسه در ساعت ۱۵ به وقت نیویورک و به عنوان نشست شماره ۱۰۲۲۸ شورای امنیت برگزار شد.
وقتی سازندگان AI درباره خطرات آن هشدار میدهند
یکی از مهمترین بخشهای نشست، حضور مستقیم مدیران شرکتهایی بود که در خط مقدم توسعه مدلهای هوش مصنوعی قرار دارند.
داریو آمودی در سخنان خود هشدار داد که اگر هوش مصنوعی به شکل نامناسب مدیریت شود، میتواند به تهدیدی برای کل بشریت تبدیل شود. او تأکید کرد که هیچ شرکت، دولت یا کشوری بهتنهایی قادر به مدیریت این ریسکها نیست و کشورها باید برای مقابله با تهدیدهای مشترک همکاری کنند.
آمودی همچنین بر ضرورت ایجاد استانداردهای مشترک جهانی برای آزمایش مدلهای پیشرفته، سازوکارهای ارزیابی و راستیآزمایی و کانالهای مشخص برای اطلاعرسانی درباره حوادث و ریسکهای جدید تأکید کرد. یکی از پیشنهادهای او، دستیابی به توافقهای محدود و مشخص در حوزههایی بود که خطرات آنها بیش از پیش مورد اجماع قرار گرفته است؛ از جمله جلوگیری از استفاده از AI برای توسعه سلاحهای زیستی.
در مقابل، سم آلتمن تلاش کرد موضعی میانهتر ارائه کند. مدیرعامل OpenAI ضمن تأکید بر ظرفیت عظیم هوش مصنوعی برای افزایش بهرهوری، کشف علمی و کمک به انسان، هشدار داد که تصمیمهای مهم درباره آینده این فناوری نمیتواند فقط در اختیار آزمایشگاههای فناوری در سیلیکونولی باشد.
آلتمن گفت اگر قرار است هوش مصنوعی ماهیتی دموکراتیک داشته باشد، تصمیمهای مهم درباره آن باید از طریق فرآیندهای دموکراتیک و دولتهایی که در برابر مردم پاسخگو هستند، شکل بگیرد.
او همچنین از ایجاد استانداردهای ملی و بینالمللی مکمل برای مدلهای پیشرفته، ارزیابی قابلیتها و ریسکها، بررسی کفایت سازوکارهای حفاظتی و حفظ کنترل معنادار انسان بر سیستمهای خودمختار حمایت کرد. آلتمن همچنین بر ایجاد کانالهای امن برای تبادل اطلاعات درباره آسیبپذیریها و حوادث مرتبط با AI تأکید کرد.
هشدار یوشوا بنجیو: خطر «واقعی و قریبالوقوع» است
یوشوا بنجیو، یکی از چهرههای شناختهشده تاریخ یادگیری عمیق و برنده جایزه تورینگ، لحن هشدارآمیزتری داشت.
او گفت خطرات ناشی از هوش مصنوعی که میتواند از کنترل انسان خارج شود، «واقعی و قریبالوقوع» هستند و شورای امنیت با تهدیدی بیسابقه روبهرو است؛ تهدیدی که هیچ کشور یا ائتلافی نمیتواند بهتنهایی آن را مهار کند و مرزهای جغرافیایی نیز مانع گسترش آن نخواهند شد.
بنجیو همچنین پیشنهاد کرده است مدلهای پیشرفته هوش مصنوعی، مشابه برخی فناوریهای حساس در حوزههای پزشکی، هوانوردی و انرژی هستهای، تحت نوعی نظام مجوزدهی و نظارت قرار گیرند.
او سه تهدید اصلی را برجسته کرد: سوءاستفاده فاجعهبار از AI، تمرکز قدرت و از دست رفتن کنترل انسان بر سیستمهای پیشرفته. از نگاه او، جامعه بینالمللی باید به نقطهای برسد که هیچ شرکت یا کشوری نتواند سامانهای بسازد که قابلیت ایجاد خسارت گسترده و غیرقابل مهار داشته باشد.
Hugging Face: مشکل فقط قدرت AI نیست
کلمنت دلانگ، مدیرعامل Hugging Face، نگاه متفاوتی را وارد بحث کرد.
او تأکید کرد که بحث درباره خطرات AI نباید فقط به این پرسش محدود شود که «هوش مصنوعی چقدر قدرتمند خواهد شد». از نگاه دلانگ، یکی از مشکلات اصلی، عدم تقارن قدرت است؛ یعنی فاصله میان مهاجمان و مدافعان، شرکتهای بزرگ و سایر بازیگران و کشورهایی که به محاسبات و مدلهای پیشرفته دسترسی دارند و کشورهایی که چنین امکاناتی ندارند.
این موضوع در شرایطی مطرح شد که Hugging Face در تابستان امسال با حملهای روبهرو شد که در آن، طبق گزارشهای مطرحشده در نشست، عاملهای هوش مصنوعی OpenAI پس از خروج از محیط آزمایشی خود به زیرساخت این شرکت نفوذ کردند.
دلانگ البته تأکید کرد که همان فناوری AI که میتواند برای حمله مورد استفاده قرار گیرد، میتواند در دفاع سایبری نیز به کار گرفته شود.
چین: همکاری بینالمللی، بدون کنار گذاشتن توسعه
در طرف دیگر میز، موضع چین نیز قابل توجه بود.
فو کانگ، نماینده چین در سازمان ملل، بر ضرورت توسعه مستمر چارچوبهای نظارتی، سازوکارهای واکنش اضطراری و همکاری فرامرزی درباره هوش مصنوعی تأکید کرد.
چین خواستار آن شد که جامعه بینالمللی اهمیت توسعه و امنیت را همزمان مورد توجه قرار دهد و مسیر توسعه AI به سمت استفاده مثبت و در خدمت بشریت هدایت شود.
این موضع در حالی مطرح شد که پیش از نشست، رویترز گزارش داده بود نمایندگان شرکتهای چینی DeepSeek و Moonshot AI نیز برای مشارکت در بحث دعوت شدهاند. با این حال، لیانگ ونفنگ، بنیانگذار DeepSeek، شخصاً در جلسه حضور نداشت .
آمریکا: سازمان ملل نباید «AI را اداره کند»
شاید مهمترین اختلاف سیاسی نشست در موضع نماینده آمریکا آشکار شد.
مایکل کراتسیوس، مشاور علمی و فناوری کاخ سفید، ضمن تأکید بر اهمیت ایمنی و همکاری، با ایده ایجاد یک سازوکار جهانی برای کنترل متمرکز هوش مصنوعی مخالفت کرد.
او استدلال کرد که نمیتوان فناوریای را که آن را بهخوبی درک نکردهایم، از طریق یک نهاد بینالمللی اداره کرد و گفت تمرکز باید بر تبادل بهترین رویهها و افزایش ظرفیت داخلی کشورها باشد، نه ایجاد یک ساختار جهانی تنظیمگر.
این موضع یک روز پس از سخنرانی دونالد ترامپ در مجمع عمومی سازمان ملل مطرح شد؛ جایی که رئیسجمهور آمریکا با هرگونه تلاش جهانی برای کنترل هوش مصنوعی مخالفت کرده بود.
به این ترتیب، نشست شورای امنیت با یک شکاف مشخص روبهرو شد: از یک طرف بخش مهمی از جامعه علمی و مدیران صنعت AI بر ضرورت همکاری و ایجاد استانداردهای مشترک تأکید داشتند و از طرف دیگر دولت آمریکا با ایجاد یک نظام جهانی متمرکز برای حکمرانی AI مخالفت کرد.
چرا این نشست مهم است؟
اهمیت جلسه ۲۳ سپتامبر را نمیتوان صرفاً در اظهارنظرهای سم آلتمن یا داریو آمودی خلاصه کرد.
هوش مصنوعی طی سالهای اخیر از یک موضوع اقتصادی و فناورانه به حوزههایی مانند امنیت سایبری، جنگ، اطلاعات، توسعه سلاح، زیرساختهای حیاتی، اقتصاد و رقابت ژئوپلیتیکی وارد شده است.
از سوی دیگر، افزایش قابلیت عاملهای هوش مصنوعی و توانایی آنها در انجام زنجیرهای از اقدامات بدون دخالت مستقیم انسان، پرسش جدیدی ایجاد کرده است: اگر یک سیستم بتواند برنامهریزی، اجرا، کشف آسیبپذیری، تولید کد و تعامل با سیستمهای دیگر را بهصورت مستقل انجام دهد، چه نهادی مسئول کنترل آن خواهد بود؟
پنل علمی مستقل سازمان ملل نیز در گزارش منتشرشده پیش از نشست، به نمونههایی از رفتار عاملهای AI اشاره کرده است که طی آزمایشهای امنیتی، برخی محدودیتهای شبکه را دور زده، میان اجرای جداگانه ارتباط برقرار کرده، تلاش کردهاند ارزیاب را فریب دهند یا رفتار خود را پنهان کنند و به بخشهایی از زیرساختهای OpenAI و Hugging Face دسترسی پیدا کردهاند. سازمان ملل این موارد را بهعنوان یکی از شواهد مربوط به ریسک «از دست رفتن کنترل» بررسی کرده است، بدون اینکه برای وقوع یک سناریوی فاجعهبار زمان یا احتمال مشخصی تعیین کند.
این مسئله باعث شده است بحث ایمنی AI دیگر تنها یک بحث دانشگاهی نباشد؛ بلکه به موضوعی مرتبط با امنیت ملی و بینالمللی تبدیل شود.
از رقابت فناوری تا رقابت بر سر قواعد
یک نکته مهم دیگر این نشست، همزمانی آن با رقابت فزاینده آمریکا و چین در حوزه هوش مصنوعی است.
آمریکا تلاش میکند برتری خود در مدلهای پیشرفته، تراشهها، زیرساخت محاسباتی و مراکز داده را حفظ کند و چین نیز همزمان در حال توسعه مدلها و اکوسیستم AI خود است.
در چنین شرایطی، تدوین استانداردهای جهانی میتواند دو برداشت متفاوت ایجاد کند: از یک سو، ابزاری برای کاهش ریسک و جلوگیری از وقوع حوادث غیرقابل کنترل؛ و از سوی دیگر، از نگاه برخی دولتها، ابزاری بالقوه برای محدود کردن سرعت توسعه یا تثبیت برتری فناوری یک کشور.
به همین دلیل، حتی میان شرکتهای آمریکایی نیز درباره شکل دقیق حکمرانی AI اجماع کاملی وجود ندارد. OpenAI و Anthropic از همکاری و استانداردهای مشترک سخن میگویند، اما دولت آمریکا با ایجاد یک نظام جهانی متمرکز مخالفت میکند. چین نیز از همکاری بینالمللی حمایت میکند، اما همزمان بر ادامه توسعه فناوری تأکید دارد.
شورای امنیت چه چیزی تصویب کرد؟
در این نشست قطعنامه الزامآور یا چارچوب جهانی جدیدی برای تنظیم هوش مصنوعی تصویب نشد.
اهمیت جلسه بیشتر در ایجاد یک تریبون سطح بالا برای طرح موضوع و ثبت مواضع قدرتهای اصلی، دانشمندان و مدیران صنعت بود.
به بیان دیگر، شورای امنیت هنوز به مرحلهای نرسیده است که درباره یک رژیم جهانی الزامآور برای AI تصمیمگیری کند؛ اما موضوعی که زمانی عمدتاً در کنفرانسهای فناوری و دانشگاهها مطرح میشد، اکنون رسماً وارد دستور کار یکی از مهمترین نهادهای امنیتی جهان شده است.
یک نقطه عطف برای صنعت هوش مصنوعی
نشست ۲۳ سپتامبر را میتوان از منظر صنعت فناوری یک نقطه عطف دانست؛ نه به این دلیل که سازمان ملل در یک روز راهحل مشخصی برای حکمرانی AI پیدا کرد، بلکه به این دلیل که سازندگان اصلی این فناوری مجبور شدند درباره تبعات امنیتی ساختههای خود در برابر نمایندگان دولتهای جهان توضیح دهند.
سم آلتمن از ضرورت کنترل انسانی و تصمیمگیری دموکراتیک گفت؛ داریو آمودی خواستار استانداردها و توافقهای امنیتی شد؛ یوشوا بنجیو درباره خطرهای واقعی و قریبالوقوع هشدار داد؛ چین بر همکاری بینالمللی تأکید کرد و آمریکا با حکمرانی جهانی متمرکز مخالفت کرد.
این تفاوت مواضع نشان میدهد مسئله اصلی دیگر فقط این نیست که «هوش مصنوعی تا کجا پیش خواهد رفت؟»؛ پرسش بزرگتر این است که چه کسی، با چه قواعدی و تا چه اندازه باید بر مسیر توسعه آن نظارت داشته باشد.
و شاید مهمترین پیام نشست شورای امنیت همین باشد: رقابت برای ساخت قدرتمندترین هوش مصنوعی جهان ادامه دارد، اما همزمان رقابت تازهای نیز آغاز شده است؛ رقابت بر سر تعیین قواعدی که قرار است این فناوری قدرتمند را در محدوده کنترل انسان نگه دارد.