به گزارش سیتنا، صنعت هوش مصنوعی وارد یکی از جدیترین بحثهای خود درباره این موضوع شده است که آیا این فناوری میتواند تهدیدی وجودی برای بشریت ایجاد کند یا خیر.
این بحث پس از آن شدت گرفت که «جیکوب کاکسون»، پژوهشگر هوش مصنوعی، اعلام کرد از شرکت آنتروپیک استعفا داده است؛ زیرا نگران است شرکتهای پیشرو در حوزه هوش مصنوعی در حال «قمار با زندگی انسانها» هستند. پس از آن، مسئول بخش همترازی (Alignment) آنتروپیک نیز با انتشار مطلبی اعلام کرد: «ما واقعاً باور داریم هوش مصنوعی میتواند همه انسانها را از بین ببرد» و افزود که از نظر شخصی، احتمال وقوع چنین اتفاقی را در دهه آینده بیش از ۱۰ درصد میداند.
در جدیدترین قسمت پادکست Equity از تککرانچ، کارشناسان درباره هشدارهای اخیر آخرالزمانی درباره هوش مصنوعی بحث کردند. آنتونی ها اعلام کرد نسبت به بسیاری از روایتهای مربوط به «نابودی بشر توسط هوش مصنوعی» تردید دارد، در حالی که کریستن کوروسک نیز این پرسش را مطرح کرد که آیا این هشدارها راهی غیرمستقیم برای نشان دادن میزان پیشرفته بودن مدلهای هوش مصنوعی شرکتها نیست؟
شان اوکین نیز این موضوع را مطرح کرد که چنین نگرانیهایی چگونه ممکن است در اسناد عرضه اولیه سهام (IPO) آنتروپیک منعکس شود؛ چراکه این شرکت در آستانه ورود به بازار سرمایه قرار دارد. او پرسید آیا وکلا مجبور شدهاند بخش مربوط به ریسکها در اسناد عرضه اولیه را بازنویسی کنند تا اعلام شود توسعه فناوریای که احتمال نابودی بشر را به همراه دارد، میتواند تأثیر قابلتوجهی بر کسبوکار شرکت داشته باشد؟
یکی از محورهای اصلی این بحث، این پرسش بود که آیا هشدارهای شدید درباره خطرات هوش مصنوعی ناشی از نگرانی واقعی است یا بخشی از رقابت شرکتها برای نشان دادن توانایی مدلهای خود.
کریستن کوروسک معتقد است ممکن است این هشدارها به شکل عجیبی به یک ابزار تبلیغاتی تبدیل شده باشد؛ زیرا اگر مدلهای هوش مصنوعی آنقدر پیشرفته و توانمند نبودند، نگرانی درباره رفتارهای غیرمنتظره آنها نیز مطرح نمیشد. به گفته او، این موضوع میتواند راهی غیرمعمول برای نشان دادن قدرت فناوریهایی باشد که شرکتها توسعه دادهاند.
آنتونی ها در پاسخ گفت این نگرانیها را نمیتوان صرفاً یک تاکتیک بازاریابی دانست، زیرا بسیاری از پژوهشگران و مدیران شرکتها واقعاً نسبت به خطرات این فناوری نگرانی دارند. با این حال، او افزود این هشدارها در بسیاری موارد با منافع تجاری شرکتها نیز همراستا است؛ چراکه ادعای ساخت «خطرناکترین نرمافزار تاریخ» میتواند اهمیت و ارزش یک شرکت را افزایش دهد.
شان اوکین نیز گفت برخی از نمونههای اخیر این احساس را ایجاد میکند که شرکتهای هوش مصنوعی در برخی زمینهها کنترل کاملی بر فناوریهای خود ندارند، بهویژه پس از گزارشهایی درباره رفتارهای غیرمنتظره عاملهای داخلی هوش مصنوعی.
آنتونی ها در پایان تأکید کرد اگرچه نگرانی درباره تهدیدهای وجودی هوش مصنوعی باید مورد توجه قرار گیرد، تمرکز بیش از حد بر سناریوهای نابودی بشر ممکن است باعث شود آسیبهای فوریتر این فناوری، مانند تأثیر بر بازار کار، محیط زیست و تغییرات اقلیمی، کمتر دیده شوند. او گفت باید درباره همه این خطرات همزمان گفتوگو شود و برای آنها سازوکارهای نظارتی و حفاظتی ایجاد شود.
انتهای پیام