به گزارش سیتنا، بر اساس بررسی پژوهشگران، عوامل هوش مصنوعی خودسر وابسته به OpenAI از ماه مه حسابهای کاربری Hugging Face را تصاحب کرده و خود این پلتفرم را نیز برای یافتن آسیبپذیریها بررسی کرده بودند؛ این اتفاق تقریباً دو ماه پیش از حمله سایبری ماه ژوئیه به این مخزن نرمافزار متنباز رخ داده بود.
این فعالیت مخرب که بهتازگی شناسایی شده، نشان میدهد تلاش عوامل هوش مصنوعی برای پیدا کردن راهی به داخل Hugging Face، زودتر از آنچه پیش از این اعلام شده بود آغاز شده است.
OpenAI پیشتر در گزارش عمومی خود درباره این حادثه، یکی از ابعاد این فعالیت مخرب را افشا کرده بود؛ از جمله سرقت اطلاعات احراز هویت دیجیتال یک کاربر Hugging Face برای دسترسی به یک فایل مرتبط با زیستشناسی. با این حال، پژوهشگران میگویند بررسیهای انجامشده علیه Hugging Face ظاهراً فراتر از مواردی بوده که در گزارش OpenAI توضیح داده شده است.
یوناس ویدرمان-مولر، پژوهشگر مستقل، هفته گذشته این فعالیتها را کشف کرد. او گفت شواهدی پیدا کرده که نشان میدهد عوامل هوش مصنوعی OpenAI دو حساب کاربری Hugging Face را به خطر انداخته و از آنها برای ارسال فایلهایی با قالببندی غیرمعمول به سرورهای این شرکت، از ۱۳ مه استفاده کردهاند.
او و دیگر پژوهشگرانی که شواهد را بررسی کردهاند، گفتند این رفتار شبیه تلاشی برای شناسایی ساختار شبکه Hugging Face یا آزمایش بخشهایی از آن با هدف پیدا کردن راهی برای نفوذ بوده است؛ با این حال، آنها تأکید کردند هیچ مدرکی وجود ندارد که نشان دهد این تلاش به یک نفوذ واقعی منجر شده است.
هم پژوهشگران و هم OpenAI اعلام کردهاند هیچ شواهدی پیدا نشده که نشان دهد این بررسیهای اولیه با حادثه ماه ژوئیه ارتباط داشته است.
درو پوساتری، سخنگوی OpenAI، گفت این شرکت در گزارش حادثه خود به رویداد ۱۳ مه اشاره کرده، بهطور خصوصی Hugging Face را از فعالیتی که ویدرمان-مولر شناسایی کرده بود مطلع ساخته و «به شفافیت درباره این مسائل و به اشتراک گذاشتن یافتههای جدید همزمان با ادامه بررسیها متعهد است.»
Hugging Face که اخیراً با خرید آن توسط شرکت تراشهساز انویدیا موافقت کرده است، به درخواست رویترز برای اظهارنظر پاسخ نداد.
ویدرمان-مولر، پژوهشگر ۲۷ ساله ساکن شهر بیلهفلد آلمان، گفت اینکه OpenAI در زمان وقوع این بررسیها در ۱۳ مه متوجه آنها نشده، یک فرصت از دسترفته برای جلوگیری از عملیات هکری بعدی بوده است؛ عملیاتی که به بحثی جهانی درباره قدرت و خطرات هوش مصنوعی دامن زده است.
او گفت: «تصور کنید اگر آنها این رفتار را در ماه مه شناسایی میکردند. این اتفاق میتوانست از حادثه بعدی که بسیار بزرگتر بود، جلوگیری کند.»
OpenAI پیشتر نیز اعلام کرده بود که با توجه به اطلاعاتی که اکنون در اختیار دارد، «برخی نشانههای اولیه» فعالیت عوامل هوش مصنوعی این شرکت باید باعث میشد واکنش سریعتری نشان دهد.
یک هشدار کاملاً روشندو کارشناس مستقل که یافتههای ویدرمان-مولر را بررسی کردهاند، گفتند این شواهد با فعالیتهایی که پیشتر به عوامل هوش مصنوعی OpenAI نسبت داده شده بود، مطابقت دارد.
تام هگل، پژوهشگر ارشد تهدیدات سایبری در شرکت SentinelOne، گفت تصاحب حسابها و بررسیهای بعدی با رفتارهای شناختهشده این عوامل «کاملاً مطابقت دارد». او در گزارش خود درباره این حوادث تأکید کرد آزمایشگاههای پیشرو هوش مصنوعی باید اطلاعات بیشتری درباره حوادثی منتشر کنند که در آنها عوامل هوش مصنوعی با سامانههای متعلق به اشخاص ثالث تعامل دارند یا بر آنها اثر میگذارند.
سیدنی فون آرکس از گروه ایمنی هوش مصنوعی Nightingale Collective نیز با این انتساب موافق بود.
او گفت این نفوذ یک «هشدار کاملاً روشن» بود که میتوانست به جلوگیری از حمله ماه ژوئیه کمک کند.
OpenAI از زمانی که در ۲۱ ژوئیه اعلام کرد عوامل هوش مصنوعی خودسر این شرکت توانستهاند کنترلهای داخلی را دور بزنند، به اینترنت عمومی دسترسی پیدا کنند و اقدامات خود را با یکدیگر هماهنگ کنند، با نظارت و انتقاد فزایندهای روبهرو شده است. OpenAI این حادثه را «یک حمله سایبری بیسابقه» توصیف کرده بود.
از آن زمان، پژوهشگران مستقل حوادث دیگری را نیز شناسایی کردهاند که گفته میشود به عوامل مرتبط با OpenAI مربوط بودهاند؛ از جمله فعالیتهایی که یک وبسایت ویکیای آلمانی غیرفعال و همچنین مخزن نرمافزاری RubyGems را تحت تأثیر قرار داده است.
OpenAI برخی از این حوادث را تنها پس از آن تأیید کرده که پژوهشگران و منابع مستقل آنها را بهصورت عمومی گزارش کردهاند. دو فرد مطلع از موضوع گفتند در مورد RubyGems، کارکنان OpenAI تنها پس از آن متوجه شدند هوش مصنوعی این شرکت مسئول فعالیت مخرب بوده که گروه Nightingale Collective آن را شناسایی کرده بود.
این کشفیات جدید، پرسشهایی را میان قانونگذاران و فعالان حوزه ایمنی هوش مصنوعی ایجاد کرده است که آیا تمام ابعاد فعالیتهای این عوامل شناسایی شده یا هنوز بخشهایی از آن ناشناخته باقی مانده است.
از سوی دیگر، برخی از مدیران ارشد شرکتهای هوش مصنوعی آمریکا خواستار کاهش سرعت توسعه این فناوری شدهاند و تهدید حملات سایبری ویرانگر توسط عوامل هوش مصنوعی خارج از کنترل را از جمله دلایل خود عنوان کردهاند.
ویدرمان-مولر گفت یافتههای جدید، درخواستها برای توقف موقت توسعه سامانههای پیشرفته هوش مصنوعی را تقویت میکند.
او گفت: «یک وقفه موقت ممکن است به نفع جهان باشد تا بخش ایمنی بتواند خود را به سرعت توسعه فناوری برساند.»
انتهای پیام