آنتروپیک در گزارشی از دهها عملیات مخرب مرتبط با هوش مصنوعی پرده برداشته و مدعی شده است، مهاجمان از کلود برای توسعه بدافزار، تحلیل داده و برخی ابزارهای نظارتی سوهاستفاده کردهاند.
به گزارش آی سی تی نیوز،شرکت آنتروپیک در گزارش ۱۵۴ صفحهای خود مجموعهای فعالیتهای گروههای مختلف هکری و برخی بازیگران وابسته به دولتها را بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ بررسی کرده و برای گروههای شناساییشده نامهایی مانند GTG20006 و GTG50014 در نظر گرفته است. این گروهها طیف مختلفی را شامل میشوند؛ از مجرمان سایبری با انگیزه مالی گرفته تا گروههای تحت حمایت دولتها، شرکتهای فعال در حوزه جاسوسی و افرادی که با اهداف سیاسی فعالیت میکنند.به گفته آنتروپیک که توسعهدهنده مدل هوش مصنوعی کلود است، یکی از تغییرات مهم در سالهای اخیر این است که استفاده از هوش مصنوعی در حملات سایبری دیگر تنها به دریافت مشاوره از یک چتبات محدود نمیشود. در برخی موارد، مهاجمان از سیستمهای چندعاملی استفاده کردهاند که میتوانند بخشهایی از فرایند شناسایی اهداف، بررسی آسیبپذیریها، نفوذ به سامانهها و انتقال اطلاعات سرقتشده را با دخالت انسانی بسیار محدود انجام دهند. این شرکت معتقد است چنین قابلیتی باعث شده فاصله میان مهاجمان حرفهای و گروههایی که منابع و نیروی انسانی کمتری دارند، کاهش پیدا کند. به بیان سادهتر، ابزارهای هوش مصنوعی میتوانند بخشی از کارهایی را که پیشتر به تخصص فنی و نیروی انسانی زیادی نیاز داشتند، سریعتر و سادهتر انجام دهند.
یکی از نمونههای مورد اشاره آنتروپیک، گروهی با شناسه GTG-20006 است که این شرکت آن را یک بازیگر دولتی روس میداند و معتقد است فعالیتهایش با گروه هکری شناختهشده APT29 که با نامهای Midnight Blizzard و Cozy Bear نیز شناخته میشود، شباهتهایی دارد.
در نمونهای دیگر، اپراتوری فرانسویزبان که آنتروپیک آن را GTG-50014 نامگذاری کرده، به گفته این شرکت از مجموعهای از سرورهای ابری برای دانلود حدود ۱.۸ میلیون اپلیکیشن اندرویدی استفاده کرده است. سپس این فایلها برای پیدا کردن اطلاعات حساس و کلیدهای دسترسی احتمالی بررسی میشدند و یافتههای ارزشمند برای استفادههای بعدی ارسال میشدند. آنتروپیک همچنین از گروههایی خبر داده که با هدف سرقت اطلاعات از شرکتهای ارائهدهنده خدمات نرمافزاری فعالیت میکردند. این گروهها با نفوذ به یک شرکت، تلاش میکردند به اطلاعات مشتریان آن نیز دسترسی پیدا کنند و از هوش مصنوعی برای سرعت بخشیدن به مراحل شناسایی و انتقال دادهها بهره میبردند.
یکی دیگر از گروههای مورد اشاره، که آنتروپیک آن را GTG-10007 نامگذاری کرده، از کلود در فعالیتهایی مانند شناسایی شبکههای سازمانی در مناطق مختلف جهان و بررسی آسیبپذیریهای محصولات امنیتی استفاده کرده است. این گروه حدود ۵۰ سازمان در حوزههایی مانند آموزش، انرژی، فناوری، سلامت، امور مالی و دولت را در کشورهای مختلف هدف قرار داده است.
در بخش دیگری از گزارش، آنتروپیک به سوءاستفاده از هوش مصنوعی برای کلاهبرداری نیز اشاره کرده است. برای نمونه، یک گروه روسی و اوکراینیزبان با راهاندازی یک سرویس جعلی، دسترسی ارزانقیمت به کلود را تبلیغ میکرد، اما در پشت صحنه تلاش میکرد اطلاعات حساب کاربران را جمعآوری کند. یک گروه دیگر نیز که سابقه فعالیت علیه شرکتهای حوزه رزرو هتل و فناوری مالی داشته، به گفته آنتروپیک در مقطعی تمرکز خود را روی صنعت هوش مصنوعی گذاشته و تلاش کرده است کلیدهای دسترسی به سرویسهای هوش مصنوعی را سرقت کند. این شرکت مدعی است حدود ۳۰ شرکت فعال در حوزه هوش مصنوعی در یک بازه چهارروزه هدف این عملیات قرار گرفتهاند.
آنتروپیک میگوید طیف استفادههای مخرب از هوش مصنوعی بسیار گستردهتر از گذشته شده است. در برخی عملیاتها، هوش مصنوعی تنها نقش یک دستیار فنی را داشته و در برخی دیگر، مهاجمان از آن برای اجرای بخشهای مختلف یک عملیات سایبری استفاده کردهاند. در پیشرفتهترین نمونههایی که این شرکت شناسایی کرده، چند عامل هوش مصنوعی میتوانستهاند ساعتها یا حتی روزها، بخشی از عملیات شناسایی و نفوذ را با نظارت انسانی محدود انجام دهند. این شرکت همچنین اعلام کرده است که چندین تلاش برای استفاده از کلود در حوزه طراحی تسلیحات را شناسایی و متوقف کرده است. از جمله این موارد، تلاشهایی برای توسعه سلاحهای هدایتشونده، طراحی سامانههای مرتبط با جنگ الکترونیک و توسعه یک سامانه متشکل از پهپادهای انتحاری خودکار عنوان شده است.
آنتروپیک در پایان گزارش خود تأکید کرده است که با افزایش استفاده از هوش مصنوعی، شرکتهای ارائهدهنده این فناوری به اطلاعات ارزشمندی درباره نحوه استفاده واقعی از مدلهای هوش مصنوعی در عملیاتهای مخرب دسترسی پیدا میکنند. این شرکت امیدوار است انتشار چنین اطلاعاتی به دولتها، شرکتهای فناوری و افکار عمومی برای شناخت بهتر تهدیدهای جدید و ایجاد سازوکارهای مناسب برای استفاده ایمن از هوش مصنوعی کمک کند.