به گزارش سیتنا، در حالی که برخی پژوهشگران هوش مصنوعی درباره خطرات این فناوری و احتمال تهدید موجودیت انسان هشدار میدهند، همچنان به توسعه مدلهای پیشرفتهتر ادامه میدهند؛ تناقضی که به یکی از بحثهای اصلی در صنعت هوش مصنوعی تبدیل شده است.
در کنفرانس فناوری گلدمن ساکس در سانفرانسیسکو، سارا فریار، مدیر مالی OpenAI، اعلام کرد مدلهای بزرگ این شرکت اکنون میتوانند به آموزش مدلهای کوچکتر کمک کنند؛ قابلیتی که نمونهای از «بهبود خودکار بازگشتی» (Recursive Self Improvement) محسوب میشود. در این فرآیند، سیستمهای هوش مصنوعی میتوانند در ساخت نسلهای قدرتمندتر خود نقش داشته باشند.
برای سرمایهگذاران و فعالان بازار، این تحول یک فرصت اقتصادی بزرگ به شمار میرود، اما برای برخی پژوهشگران ایمنی هوش مصنوعی، نشانهای نگرانکننده از سرعت گرفتن تواناییهای این فناوری است.
افزایش توانایی عاملهای هوش مصنوعی، از جمله نمونههایی که در آزمایشها از محیطهای کنترلشده خارج شدهاند، باعث افزایش نگرانیها درباره امکان کنترل این سیستمها شده است.
ایوان هوبینگر، پژوهشگر ارشد همراستاسازی در Anthropic، در شبکه اجتماعی ایکس نوشت: «ما واقعاً باور داریم که هوش مصنوعی میتواند همه انسانها را نابود کند. شخصاً احتمال آن را بیش از ۱۰ درصد در دهه آینده میدانم.»
اظهارات او و برخی دیگر از کارکنان Anthropic و OpenAI موجی از بحث و نگرانی در سیلیکونولی ایجاد کرد.
چرا با وجود این نگرانیها، توسعه AI ادامه دارد؟یکی از دلایل، انگیزههای تجاری است. شرکتهایی مانند OpenAI و Anthropic برای موفقیت باید مدلهای قدرتمندتری بسازند و محصولات خود را توسعه دهند؛ حتی اگر برخی کارکنانشان نسبت به خطرات احتمالی این فناوری نگرانی داشته باشند.
دلیل دیگر این است که برخی پژوهشگران معتقدند اگر شرکتهای مسئولتر توسعه هوش مصنوعی را متوقف کنند، رقبایی در کشورهای دیگر یا شرکتهایی با استانداردهای ایمنی پایینتر ممکن است این مسیر را ادامه دهند.
ساموئل مارکس، مدیر بخش نظارت مقیاسپذیر در Anthropic، در همین رابطه نوشت که ادامه توسعه هوش مصنوعی ناشی از ترکیبی از «انگیزههای تجاری» و «احساس رقابت با توسعهدهندگان کمتر مسئول» است.
نقش جذب پژوهشگرانبرخی کارشناسان معتقدند هشدار درباره خطرات هوش مصنوعی حتی به جذب نیروهای متخصص نیز کمک میکند. بسیاری از پژوهشگران این حوزه از دانشگاهها میآیند و انگیزههای علمی و اجتماعی دارند؛ بنابراین شرکتهایی مانند Anthropic بیشتر بر مأموریت «ایمنسازی هوش مصنوعی» تأکید میکنند تا صرفاً کسب سود.
این رویکرد باعث میشود پژوهشگران احساس کنند حضورشان در این شرکتها برای کاهش خطرات فناوری ضروری است.
احساس از دست دادن کنترل
برخی کارشناسان نیز معتقدند نگرانیها به دلیل کاهش نقش پژوهشگران در تصمیمگیری درباره آینده هوش مصنوعی افزایش یافته است. با قدرتمندتر شدن این فناوری، کنترل توسعه آن بیشتر در اختیار چند شرکت بزرگ قرار گرفته و حتی پژوهشگران داخل این شرکتها ممکن است احساس کنند تأثیر محدودی بر مسیر آینده دارند.
در نهایت، این شکاف میان آگاهی از خطرات و ناتوانی در کنترل روند توسعه، باعث افزایش هشدارهای عمومی درباره آینده هوش مصنوعی شده است.
انتهای پیام