به گزارش سیتنا، شرکت آنتروپیک اعلام کرد مدل «کلود هایکو ۴.۵» که یکی از نسخه‌های قدیمی‌تر مجموعه کلود است، هنگام انجام وظایف آزمایشی در صفحات وبی که به‌صورت تصادفی انتخاب شده بودند، با وب‌سایتی برای دریافت اطلاعات درباره قتل‌های حل‌نشده مواجه شد.
این مدل سپس اطلاعاتی ساختگی را در وب‌سایت ثبت کرد و مدعی شد فردی را در نزدیکی محل وقوع یک جنایت دیده است. در این گزارش، بخش‌های مربوط به نام و اطلاعات تماس خالی گذاشته شده بود.
پلیس فیلادلفیا اعلام کرد این اطلاعات در تاریخ ۱۸ ژوئیه از طریق وب‌سایت مربوط به پرونده‌های قتل حل‌نشده ثبت شده است.
انتقاد پلیس از تأخیر در اطلاعرسانیبر اساس بیانیه پلیس فیلادلفیا، شرکت آنتروپیک در ۲۸ سپتامبر از این اتفاق مطلع شده بود، اما تا ۷ اکتبر موضوع را به اداره پلیس گزارش نکرد. مأموران پلیس پس از برگزاری جلسه توجیهی در روز بعد، اطلاعات ثبت‌شده را در سامانه پیدا کردند و تأیید کردند که این مورد به‌عنوان هرزنامه علامت‌گذاری شده و هرگز به دست کارآگاهان نرسیده است.
پلیس فیلادلفیا تأخیر در شناسایی و گزارش این رویداد را «غیرقابل‌قبول» توصیف کرد، اما اعلام کرد هیچ نشانه‌ای از دسترسی غیرمجاز به سامانه‌های پلیس یا به خطر افتادن اطلاعات این نهاد وجود ندارد.
این اداره با تأکید بر اهمیت پرونده‌های حل‌نشده قتل، اعلام کرد این پرونده‌ها به قربانیان واقعی، خانواده‌های داغدار و کارآگاهانی مربوط می‌شوند که برای یافتن پاسخ تلاش می‌کنند. پلیس همچنین از شرکت‌های فناوری خواست تمام اقدامات لازم را برای جلوگیری از ارسال اطلاعات نادرست به نهادهای مجری قانون انجام دهند.
آنتروپیک از موارد مشابه خبر دادشرکت آنتروپیک در گزارشی که روز جمعه در وب‌سایت خود منتشر کرد، به نمونه‌های دیگری از اقدامات ناخواسته مدل‌های هوش مصنوعی اشاره کرد. در برخی از این موارد، مدل‌ها به‌جای فرم‌های آزمایشی، فرم‌های واقعی دولتی را ارسال کرده یا فرم‌هایی را ثبت کرده بودند که صراحتاً از ارسال آن‌ها منع شده بودند.
بر اساس این گزارش، کلود همچنین با سوءاستفاده از یک نقص در سرور یک دانشگاه، محاسباتی را اجرا کرده و بدون پرداخت هزینه لازم به داده‌های دولتی دسترسی پیدا کرده بود.
آنتروپیک بخش عمده این رفتارها را نوعی «پافشاری» توصیف کرد؛ وضعیتی که در آن مدل‌های هوش مصنوعی به‌جای متوقف شدن در برابر محدودیت‌ها، راه‌هایی برای دور زدن آن‌ها پیدا می‌کنند.
این شرکت اعلام کرد در حال تغییر روش‌های آموزش مدل‌های خود است و تا زمان اطمینان از عملکرد قابل‌اعتماد سازوکارهای ایمنی، دسترسی زنده به اینترنت را برای تمام ارزیابی‌های داخلی متوقف می‌کند. آنتروپیک همچنین گفت کاخ سفید و نهادهای دولتی مرتبط در آمریکا را در جریان این رویدادها قرار داده است.
افزایش نگرانی‌ها درباره عامل‌های هوش مصنوعیاین اتفاق در شرایطی رخ داده است که گسترش عامل‌های هوش مصنوعی، یعنی سامانه‌هایی که می‌توانند مجموعه‌ای از اقدامات متوالی را برای انجام یک وظیفه به‌صورت خودکار اجرا کنند، نگرانی‌هایی درباره امکان کنترل قابل‌اعتماد آن‌ها ایجاد کرده است.
در ماه ژوئیه، اوپن‌ای‌آی اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان یک رخنه امنیتی از محیط آزمایشی تحت کنترل خارج شده و به سامانه‌های شرکت هاگینگ‌فیس، پلتفرم اشتراک‌گذاری مدل‌ها و مجموعه‌داده‌های هوش مصنوعی، نفوذ کرده‌اند.
همچنین مقام‌های استرالیایی در ماه سپتامبر اعلام کردند یکی از مدل‌های اوپن‌ای‌آی در جریان آزمایشی در ماه ژوئن، به پرونده‌های محدودشده در وب‌سایت دولتی آمارهای سلامت دسترسی پیدا کرده است.
این رویدادها به افزایش درخواست‌ها برای وضع مقررات سخت‌گیرانه‌تر و تقویت نظارت بین‌المللی بر هوش مصنوعی دامن زده‌اند؛ موضوعی که هم‌زمان با توسعه قابلیت‌های این سامانه‌ها و افزایش نگرانی‌ها درباره احتمال خروج رفتار آن‌ها از کنترل انسان، اهمیت بیشتری پیدا کرده است.
انتهای پیام