شرکت گوگل روز دوشنبه اعلام کرد که مهاجمان برای نخستین بار از هوش مصنوعی به منظور شناسایی آسیبپذیریهای نرمافزاری و بهرهبرداری کاملاً خودکار از آنها بدون دخالت انسان بهره بردهاند. این یافته در تازه ترین گزارش تهدیدات هوش مصنوعی متعلق به گروه اطلاعات تهدیدات گوگل (GTIG) و شرکت مندیانت منتشر شده است.
گروه GTIG این ابزار را که « exploit_agent » نام دارد، روی یک سرور آزمایشی بدون حفاظت کشف کرد. این ابزار با مدلهای مختلف هوش مصنوعی پیشرفته و محلی کار میکند، کدهای نرمافزارهای محبوب تحت وب را قبل و بعد از انتشار هر وصله امنیتی مقایسه میکند تا عیوب احتمالی را بیابد، و سپس کدهای مخرب را نوشته و به صورت مستقل اجرا میکند.
یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدلها رایگان هستند.
رایگان امتحان کنیدبر اساس گزارش سیلیکون انگل، این گروه در نسخه قبلی گزارش فصلی خود که دو ماه پیش منتشر شده بود، خاطرنشان کرده بود که هنوز شاهد استفاده از خطوط لوله حمله کاملاً خودکار علیه اهداف نبوده است.
این سرور همچنین حاوی دادههای سرقتشده از قربانیان بود. اسکریپتهایی برای حدس رمز عبور، نصب پوستههای وب و حذف پوستههای وب متعلق به مهاجمان رقیب نیز در آن یافت شد. یک فایل تنظیمات حاوی نظراتی به زبان روسی بود و دادههای قربانیان نشان میدهد که اپراتور این حملات، وبسایتهای رسانهای، سرگرمی و آموزشی فرانسوی را هدف قرار داده است.
از وصله امنیتی تا ابزار نفوذ
گوگل تصریح میکند که آسیبپذیریهای وصلهشده ممکن است اهداف آسانتری برای هوش مصنوعی نسبت به خطاهای ناشناخته باشند، زیرا مهاجمان میتوانند مجموعهای محدود از مستندات شامل کدهای قدیمی و جدید، یادداشتهای انتشار و تحقیقات عمومی را بررسی کنند.
این شرکت به دو آسیبپذیری در سرورهای چاپ PaperCut اشاره کرد که مهاجمان در اواخر ماه اوت آنها را به هم زنجیر کردند. محققان و شرکت امنیتی هانترس ظرف یک روز پس از افشا، با استفاده از هوش مصنوعی ابزارهای نفوذ کارآمدی ساختند و بر اساس گزارش گرینویز، چهار روز پس از افشا نیز یک مهاجم احتمالاً از هوش مصنوعی برای اجرای کمپینی علیه صدها سازمان استفاده کرده است.
پس از رفع آسیبپذیریهای PHP در ماه اکتبر، صدها کد اثبات مفهوم ناموفق ظاهر شد که به گزارش این شرکت، احتمالاً توسط هوش مصنوعی تولید شده بودند.
چارچوبهای حمله در فضای سایبری
گروه GTIG یادآور شد که چندین گروه، از جمله باندهای با انگیزه مالی و گروههای جاسوسی منتسب به چین، اکنون از چارچوبهای هکری متنباز هوش مصنوعی در حملات زنده استفاده میکنند. این گروه شاهد استفاده از چارچوب CAIRN علیه اهدافی از جمله بخش هوافضای ایالات متحده بوده است.
گوگل توضیح داد که این ابزارها پر سر و صدا هستند و ردپایی از خود به جای میگذارند که شناسایی آنها را آسانتر میکند، اما انتظار میرود با پیشرفت ابزارها، مهاجمان کمتر به انسانها اتکا کنند و مخفیانهتر عمل نمایند.
گروه GTIG در این گزارش تأکید کرد که بر این باور است مهاجمان به استفاده از این چارچوبها در کمپینهای خود علیه سازمانهای سراسر جهان ادامه خواهند داد.
این گزارش همچنین به مهاجمانی میپردازد که با سرقت اعتبارنامههای ابری و هوش مصنوعی، مدلها را روی حسابهای قربانیان اجرا میکنند؛ بهطوریکه در برخی موارد هزینههای تقلبشده در یک روز از ۱۰۰,۰۰۰ دلار فراتر رفته است. در یک حمله، از یک آسیبپذیری در دروازه LiteLLM استفاده شد و یک گروه منتسب به کره شمالی فایلهای تنظیمات Claude Code را در شرکتها تغییر داد تا با هر بار راهاندازی، یک در پشتی دانلود شود. گوگل اعلام کرد که حسابها و داراییهای مرتبط با سوءاستفاده از مدلهای جمنای خود را غیرفعال کرده است.