پرش به محتوا
هوش مصنوعی

آسیب‌پذیری خطرناک در ابزارهای هوش مصنوعی؛ قفل امنیتی افزونه‌ها شکست

پژوهشگران امنیت سایبری آسیب‌پذیری جدیدی را در چهار ابزار برنامه‌نویسی هوش مصنوعی کشف کرده‌اند که امکان اجرای کد مخرب را فراهم می‌کند.

پژوهشگران حوزه امنیت سایبری از کشف یک نقص امنیتی با نام Plugin4Shell خبر داده‌اند که چهار ابزار محبوب برنامه‌نویسی مبتنی بر هوش مصنوعی را تحت تأثیر قرار می‌دهد. این مشکل که به عنوان اجرای از راه دور کد بدون نیاز به تعامل کاربر شناخته می‌شود، ابزارهای کلیدی شرکت‌های بزرگ فناوری را درگیر کرده است.

شرکت‌های آنتروپیک و اوپن‌ای‌آی با انتشار به‌روزرسانی‌هایی این مشکل را برطرف کرده‌اند، اما مایکروسافت هنوز هیچ اصلاحیه‌ای برای کوپایلوت ارائه نداده است. در این میان، گوگل نیز اعلام کرده است که ابزار جمینای CLI را بازنشسته می‌کند و فرآیند رفع نقص را روی آن انجام نخواهد داد.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

نحوه عملکرد آسیب‌پذیری

ابزارهای برنامه‌نویسی افزونه‌های خود را از بازارهای مختلف نصب می‌کنند. برای حفظ امنیت، بازارها هر افزونه را به یک هش مشخص از کد متصل می‌کنند تا نرم‌افزار همیشه همان کد بازبینی‌شده را اجرا کند. با این حال، بررسی‌ها نشان داد که این ابزارها تنها آدرس هش را درخواست می‌کنند اما محتوای دریافتی را اعتبارسنچی نمی‌کنند.

سیستم گیت به شاخه‌ها اجازه می‌دهد نامی مشابه با هش‌های تعهد داشته باشند. مهاجمان با سوءاستفاده از این موضوع می‌توانند شاخه‌ای با نام هش پین‌شده ایجاد کرده و کدهای مخرب خود را جایگزین نمایند. ابزار هوش مصنوعی بدون آگاهی، این کد جدید را نصب و گزارش موفقیت‌آمیز بودن آن را ثبت می‌کند.

خطر عدم نیاز به تعامل کاربر

ابزارهای هوش مصنوعی به صورت پیش‌فرض افزونه‌های نصب‌شده را در پس‌زمینه به‌روزرسانی می‌کنند. این ویژگی باعث می‌شود حمله بدون نیاز به هیچ‌گونه کلیک یا اقدام خاصی از سوی کاربر انجام شود و افزونه‌های مورد اعتماد توسعه‌دهندگان جایگزین گردند.

افزونه‌ها با سطح دسترسی کاربر اجرا می‌شوند و کدهای مخرب می‌توانند به فایل‌ها، اطلاعات ورود و تمامی سیستم‌های متصل دسترسی پیدا کنند. سازمان OWASP نیز اخیراً این موضوع را در رتبه‌بندی جدید خود مورد توجه قرار داده است.

واکنش شرکت‌ها و وضعیت بازار

گیت‌هاب اعلام کرده است که کاربران این پلتفرم در معرض خطر نیستند، زیرا نام‌گذاری شاخه‌ها به شکل هش را مسدود می‌کند. با این حال، پژوهشگران معتقدند که بازارهای دیگر مانند بیت‌بکت یا سرورهای شخصی گیت همچنان اجازه چنین نام‌گذاری‌هایی را می‌دهند و خطرات همچنان باقی است.

پژوهشگران این آسیب‌پذیری را در ماه مه شناسایی و در ماه ژوئن به اطلاع شرکت‌های سازنده رساندند. با گذشت ماه‌ها، کدهای شناسایی رسمی برای این نقص ثبت نشده و برخی شرکت‌ها نیز اطلاعیه‌های امنیتی روشنی منتشر نکرده‌اند.

نتیجه‌گیری

کشف این آسیب‌پذیری نشان می‌دهد که تکیه بر مکانیزم‌های امنیتی سنتی بدون بررسی دقیق پیاده‌سازی آن‌ها می‌تواند خطرات جدی به همراه داشته باشد. در حالی که برخی شرکت‌ها خطاهای خود را اصلاح کرده‌اند، پابرجا ماندن این نقص در برخی ابزارها اهمیت بازنگری در زنجیره تأمین نرم‌افزارهای هوش مصنوعی را دوچندان می‌کند.