در کمتر از چند روز، نگرانی درباره سرعت توسعه هوش مصنوعی از یک بحث میان مدیران شرکتهای فناوری به یکی از جدیترین مناقشههای سیاسی و اقتصادی جهان تبدیل شده است. داریو آمودی، مدیرعامل Anthropic، خواستار کاهش سرعت توسعه مدلهای پیشرفته شده، سم آلتمن و ایلان ماسک با بخشهایی از این نگرانی همراه شدهاند، سازمان ملل درباره خطرات بیسابقه هشدار داده و همزمان در آمریکا طرحی برای ممنوعیت ابرهوش مصنوعی و مجازات تا ۲۰ سال زندان مطرح شده است.
در سوی دیگر، دونالد ترامپ نهتنها با کاهش سرعت توسعه مخالف است، بلکه هوش مصنوعی و زیرساخت آن را یکی از مهمترین داراییهای راهبردی آمریکا میداند و رقابت با چین را دلیل دیگری برای ادامه این مسیر عنوان میکند.
به این ترتیب، سؤال دیگر فقط این نیست که «هوش مصنوعی چقدر قدرتمند خواهد شد؟»؛ بلکه پرسش بزرگتر این است که چه کسی باید سرعت این تحول را تعیین کند؟
آمودی: سرعت پیشرفت از توانایی کنترل جلو زده است
آمودی در یادداشت تازه خود با عنوان «We Must Pace the Frontier» هشدار داده است که صنعت هوش مصنوعی باید سرعت پیشرفت مدلهای مرزی را کاهش دهد تا فرصت کافی برای ایجاد سازوکارهای ایمنی و ارزیابی مستقل وجود داشته باشد.
او تأکید میکند که منظورش توقف توسعه هوش مصنوعی نیست؛ بلکه سرعت پیشرفت باید با توانایی ایمنسازی و کنترل آن هماهنگ شود.
یکی از دلایل اصلی این نگرانی، ظهور چیزی است که در صنعت به آن خودبهبوددهی بازگشتی گفته میشود؛ یعنی استفاده از هوش مصنوعی برای ساخت نسل بعدی سیستمهای هوش مصنوعی. اگر این چرخه با سرعت بالا ادامه پیدا کند، ممکن است توانایی انسان برای ارزیابی و کنترل سیستمها عقب بماند.
دلیل دوم آمودی، حادثهای است که در جریان آزمایش عاملهای هوش مصنوعی OpenAI رخ داده و در آن گروهی از عاملها توانستهاند از برخی محدودیتهای محیط آزمایشی عبور کرده و به سمت انجام عملیات سایبری خارج از مأموریت اولیه حرکت کنند.
آمودی هشدار داده است که اگر سیستمهایی با توانایی بسیار بیشتر و رفتار مشابه در اختیار قرار گیرند، خسارت احتمالی میتواند بهمراتب بزرگتر باشد.
پیشنهاد او شامل حضور ارزیابان مستقل با دسترسی مشابه کارکنان در شرکتهای توسعهدهنده مدلهای پیشرفته، هماهنگی شرکتها برای تعیین استانداردهای ایمنی و در نهایت همکاری بینالمللی است.
وقتی «توقف» از یک هشدار به قانون پیشنهادی تبدیل شد
مهمترین نشانه جدیتر شدن این نگرانی در آمریکا، پیشنهاد «قانون ممنوعیت ابرهوش مصنوعی» از سوی برنی سندرز، سناتور مستقل ایالت ورمونت، و گرگ کاسار، نماینده دموکرات تگزاس است.
این طرح خواستار ممنوعیت دائمی توسعه و استقرار ابرهوش مصنوعی و توقف موقت توسعه هوش مصنوعی پیشرفته تا زمان ایجاد یک نهاد فدرال تنظیمگر و تدوین استانداردهای ایمنی است.
اما بخش جنجالیتر، مجازاتهاست.
بر اساس اعلام دفتر سندرز، شرکتهای متخلف میتوانند با انحلال اجباری مواجه شوند و افراد متخلف با حداکثر ۲۰ سال زندان روبهرو شوند؛ مجازاتی که طراحان طرح آن را با برخی مجازاتهای مربوط به توسعه غیرقانونی سلاحهای هستهای مقایسه کردهاند.
این طرح همچنین ایجاد یک نهاد فدرال در سطح کابینه را پیشنهاد میکند که وظیفه نظارت بر سیستمهای مرزی، حذف قابلیتهای خطرناک و حتی نظارت بر نابودی سیستمهای ابرهوش را بر عهده داشته باشد.
با این حال، باید تأکید کرد که این موضوع طرح پیشنهادی است، نه قانون مصوب آمریکا و هنوز مسیر بسیار طولانی و دشواری تا تبدیل شدن به قانون دارد.
اهمیت آن اما جای دیگری است: برای نخستین بار، ایده ممنوعیت ابرهوش مصنوعی با چنین سطحی از مجازات کیفری وارد بحث رسمی سیاستگذاری آمریکا شده است.
کلید خاموشی؛ چه کسی باید دکمه را در اختیار داشته باشد؟
همزمان، بحث «Kill Switch» یا کلید خاموشی هوش مصنوعی نیز از سطح یک ایده فنی به موضوعی سیاسی و حقوقی تبدیل شده است.
جک کلارک، همبنیانگذار Anthropic، گفته است ممکن است در آینده لازم باشد شرکتهای فناوری بهصورت قانونی ملزم به داشتن یک سازوکار قطع اضطراری قابل ارزیابی توسط نهادهای ناظر شوند.
ایده ساده به نظر میرسد: اگر یک سیستم هوش مصنوعی خطرناک شد، باید بتوان آن را متوقف کرد.
اما مشکل اصلی اینجاست که چه کسی باید اختیار این دکمه را داشته باشد؟
اگر شرکت سازنده اختیار کامل داشته باشد، تعارض منافع مطرح میشود. اگر دولت اختیار داشته باشد، خطر استفاده سیاسی یا امنیتی از آن به وجود میآید. اگر هم یک نهاد مستقل مسئول باشد، مسئله نحوه تشکیل، پاسخگویی و مشروعیت آن مطرح خواهد شد.
به همین دلیل، کلید خاموشی صرفاً یک مسئله مهندسی نیست؛ یکی از نخستین آزمونهای واقعی حکمرانی هوش مصنوعی است.
حتی برخی متخصصان نیز هشدار دادهاند که تصور یک دکمه ساده برای خاموش کردن سیستمهای پیچیده میتواند بیش از حد سادهانگارانه باشد.
چین هم برای «سرکشی» AI آماده میشود
در طرف دیگر جهان، چین نیز به شکل فزایندهای روی سناریوی از دست رفتن کنترل انسانی متمرکز شده است.
گزارشهای جدید درباره مقررات در حال تدوین چین نشان میدهد پکن در حال بررسی الزاماتی برای جلوگیری از رفتارهای خودسرانه عاملهای هوش مصنوعی است؛ از جمله دسترسی بدون مجوز به منابع، تکثیر خودکار نرمافزار و ادامه فعالیت در شرایطی که سیستم باید متوقف شود.
یکی از اصول مورد تأکید در این رویکرد، حفظ نظارت انسان و باقی ماندن تصمیم نهایی در اختیار کاربر یا اپراتور انسانی است.
اهمیت این موضوع در آن است که آمریکا و چین در حالی برای ساخت قدرتمندترین سیستمهای هوش مصنوعی رقابت میکنند که هر دو کشور ناچار شدهاند سناریوی دیگری را نیز جدی بگیرند: چه اتفاقی میافتد اگر سیستمهای بسیار قدرتمند دیگر کاملاً مطابق خواست سازنده رفتار نکنند؟
ترامپ: هوش مصنوعی را متوقف نکنید
در مقابل موج هشدارها، دونالد ترامپ موضع کاملاً متفاوتی گرفته است.
ترامپ در تماس تلفنی با جنسن هوانگ، مدیرعامل Nvidia، که در جریان نشست All-In Summit روی صحنه بود، نگرانی درباره تسلط ماشینها بر جهان را «یک فریب» توصیف کرد و با مخالفت با کند کردن توسعه هوش مصنوعی، بر اهمیت زیرساختهای این فناوری تأکید کرد.
او دیتاسنترها را «نفت ۲۰ تا ۲۵ سال آینده» توصیف کرد و مخالفت با توسعه آنها را در تضاد با منافع آمریکا دانست.
هوانگ نیز بر ضرورت حفظ برتری آمریکا در رقابت هوش مصنوعی تأکید کرده است.
اینجاست که تضاد اصلی پرونده آشکار میشود:
از یک سو، مدیران برخی شرکتهای پیشرو میگویند سرعت توسعه باید کاهش یابد؛ از سوی دیگر، دولت آمریکا نگران است که کاهش سرعت به معنای واگذاری مزیت راهبردی به چین باشد.
سازمان ملل: خودتنظیمی دیگر کافی نیست
این نگرانی فقط به آمریکا و شرکتهای فناوری محدود نمانده است.
فولکر تورک، کمیسر عالی حقوق بشر سازمان ملل، از کشورها خواسته است برای کنترل خطرات هوش مصنوعی سریعتر اقدام کنند و تأکید کرده که خودتنظیمی داوطلبانه شرکتهای سازنده مدلهای پیشرفته برای مقابله با خطرات موجود کافی نیست.
او درباره احتمال ایجاد خطرات وجودی برای بشریت هشدار داده و بر ضرورت وجود مقررات الزامآور، نظارت مستقل و سازوکارهای حفاظتی تأکید کرده است.
این موضع با هشدارهای قبلی سازمان ملل درباره سرعت توسعه AI نیز همراستاست. در نشستهای بینالمللی اخیر، سازمان ملل بارها بر این نکته تأکید کرده که توانایی فناوری با سرعتی بیشتر از ظرفیت نظامهای حکمرانی در حال رشد است.
در واقع، مسئلهای که آمودی در سطح شرکت مطرح میکند، اکنون در سطح بینالمللی نیز تکرار میشود:
قواعد بازی هنوز به سرعت فناوری نرسیدهاند.
پادشاه بریتانیا میزبان غولهای AI
همزمان با افزایش این هشدارها، چارلز سوم، پادشاه بریتانیا، این هفته میزبان مدیران برخی از بزرگترین شرکتهای هوش مصنوعی در اسکاتلند خواهد بود.
مدیران یا نمایندگان شرکتهایی مانند Nvidia، Google DeepMind، OpenAI و Anthropic در این نشست درباره استفاده از AI به نفع جامعه و ضرورت ایجاد اصول مشترک برای هدایت این فناوری گفتوگو خواهند کرد.
برگزاری چنین نشستی در سطح سلطنتی، بیش از آنکه یک رویداد فناورانه معمولی باشد، نشانهای از تبدیل شدن AI به مسئلهای در سطح حکمرانی، اقتصاد و امنیت ملی است.
در فاصله کوتاهی از یکدیگر، یک مدیرعامل از کاهش سرعت میگوید، یک رئیسجمهور آن را رد میکند و یک پادشاه رهبران صنعت را برای گفتوگو درباره قواعد مشترک گرد هم میآورد.
بیل گیتس: دولتها آماده نیستند
بیل گیتس نیز به جمع چهرههایی پیوسته که نسبت به سرعت تغییرات ناشی از AI هشدار میدهند.
گیتس میگوید هیچ دولت بزرگی هنوز برای پیامدهای اجتماعی و اقتصادی این فناوری آماده نیست و از خطرهایی مانند حذف فرصتهای شغلی، حملات سایبری و وابستگی افراد به همراهان مجازی هوش مصنوعی ابراز نگرانی کرده است.
با این حال، موضع او صرفاً بدبینانه نیست. گیتس همچنان معتقد است هوش مصنوعی میتواند در حوزههایی مانند درمان، کشاورزی و آموزش به مناطق محروم کمک کند.
بنیاد گیتس نیز اعلام کرده است که طی دو سال یک میلیارد دلار برای گسترش دسترسی عادلانهتر به ابزارهای هوش مصنوعی و استفاده از آنها در آموزش، سلامت و کشاورزی اختصاص خواهد داد.
این رویکرد یک نکته مهم را نشان میدهد: حتی منتقدان جدی خطرات AI لزوماً خواهان توقف فناوری نیستند؛ مسئله آنها نحوه و سرعت توسعه است.
مسئله فقط «هوش مصنوعی قدرتمند» نیست
گزارش اخیر Anthropic درباره سوءاستفاده از Claude نیز نشان میدهد بخشی از خطرات همین امروز وجود دارد.
این شرکت در بررسی عملیات مخرب بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶، استفاده از مدلهای Claude در حملات سایبری، عملیات نفوذ، نظارت، کلاهبرداری، فعالیتهای مرتبط با تسلیحات و سایر سوءاستفادهها را مستند کرده است.
در برخی موارد، عاملهای هوش مصنوعی نه فقط بهعنوان ابزار مشاوره، بلکه در قالب سامانههایی چندعاملی برای اجرای بخشهایی از زنجیره حمله مورد استفاده قرار گرفتهاند.
این یعنی خطر AI الزاماً از لحظهای آغاز نمیشود که یک «ابرهوش» ساخته شود.
هرچه AI ارزانتر، خودکارتر و توانمندتر شود، اجرای عملیات مخرب نیز میتواند برای افراد بیشتری امکانپذیر شود.
جهان بر سر یک انتخاب دشوار ایستاده است
در یک طرف این مناقشه، آمودی، آلتمن، ماسک، برخی قانونگذاران آمریکایی، سازمان ملل و بخشی از جامعه علمی قرار گرفتهاند که میگویند سرعت توسعه باید با ایمنی و نظارت هماهنگ شود.
در طرف دیگر، دولت آمریکا و بخش مهمی از صنعت فناوری قرار دارند که معتقدند کند کردن توسعه میتواند به معنای از دست دادن برتری اقتصادی و ژئوپلیتیک باشد؛ بهخصوص در برابر چین.
اما شاید واقعیت پیچیدهتر از این دوگانه باشد.
نه توقف کامل AI واقعبینانه به نظر میرسد و نه ادامه مسابقه بدون ترمز.
هوش مصنوعی همزمان میتواند ابزار درمان، آموزش و افزایش بهرهوری باشد و در صورت سوءاستفاده، به ابزار حمله سایبری، فریب، نظارت و بیثباتی تبدیل شود.
بنابراین مسئله اصلی شاید پیدا کردن یک «کلید خاموشی» برای AI نباشد؛ بلکه ساختن مجموعهای از ترمزهای فنی، حقوقی و بینالمللی است که پیش از رسیدن فناوری به نقطهای غیرقابلکنترل فعال شوند.
پرسش نهایی این پرونده هم همین است: اگر امروز سازندگان، دولتها و نهادهای بینالمللی درباره خطر سرعت توسعه هشدار میدهند، اما همزمان رقابت اقتصادی و ژئوپلیتیک همه را به شتاب بیشتر وادار میکند، چه کسی واقعاً حاضر است اولین نفر ترمز را بکشد؟