پرش به محتوا
هوش مصنوعی

معرفی ابزارهای جدید برای امنیت و مدیریت هزینه عوامل هوش مصنوعی

شرکت سندباکس‌ای‌کیو دو ابزار جدید برای آزمایش امنیت و ارزیابی هزینه‌های عوامل هوش مصنوعی به پلتفرم خود اضافه کرد.

ai letters glowing blue circuit board

شرکت سندباکس‌ای‌کیو (SandboxAQ) از افزودن دو محصول جدید به پلتفرم هوش مصنوعی خود خبر داد که با هدف ارتقای امنیت و ارزیابی اقتصادی ابزارهای هوش مصنوعی توسعه یافته‌اند. این شرکت اعلام کرد که محصولات جدید خود را به عنوان بخشی از پلتفرم Switch AI که در ماه اوت راه‌اندازی شد عرضه شده بود، ارائه کرده است، تلاش می‌کند چالش‌های فزاینده سازمان‌ها در مدیریت این فناوری را برطرف کند.

ابزار نخست که Switch Trust نام دارد، وظیفه شناسایی و فهرست‌کردن عوامل، مدل‌ها و ابزارهای هوش مصنوعی فعال در زیرساخت‌های یک سازمان را بر عهده دارد؛ از جمله مواردی که شاید تیم‌های امنیت هنوز از وجود آن‌ها مطلع نباشند. این ابزار سپس سیستم‌ها را برای یافتن آسیب‌پذیری‌های امنیتی اسکن کرده و در برابر حملاتی نظیر تزریق دستور (prompt injection) که در آن دستورات پنهان باعث رفتار نادرست عامل می‌شود، تست می‌کند.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

پس از راه‌اندازی عامل‌ها، این سیستم ورودی‌ها و خروجی‌ها را پایش می‌کند. بر اساس گزارش‌ها، این ابزار توانایی مسدود کردن یا پنهان‌سازی اطلاعات محرمانه مانند گذرواژه‌ها و داده‌های شخصی را دارد و سابقه فعالیت‌های هر عامل را ثبت می‌کند.

در همین حال، ابزار دوم با نام Switch ROI هزینه‌های مصرفی هر عامل هوش مصنوعی را پیگیری کرده و آن را به خروجی‌های واقعی مانند تعداد تیکت‌های پشتیبانی بسته شده یا وظایف خودکارسازی‌شده مرتبط می‌سازد. این ابزار همچنین راهکارهایی برای صرفه‌جویی، از جمله انتقال بار کاری به مدل‌های ارزان‌تر یا حذف ابزارهای بدون استفاده، پیشنهاد می‌کند.

بنا بر اعلام این شرکت، هر دو محصول از عامل‌های ارائه‌دهندگان مختلف پشتیبانی می‌کنند و استفاده از آن‌ها برای حداکثر پنج عامل مدیریت‌شده رایگان است؛ موضوعی که در یک پست وبلاگ شرکت نیز به آن اشاره شده است، اما جزئیات قیمت‌گذاری نسخه‌های پولی آن اعلام نشده است.

محمد ابوالمجد، مدیر بخش Switch AI، تصریح می‌کند که این شرکت مواردی را مشاهده کرده که هزینه‌های صرف‌شده برای جایگزینی عوامل هوش مصنوعی با یک نیروی کار جدید، در نهایت از استخدام یک کارمند تمام‌وقت نیز فراتر رفته است. در حال حاضر، آزمایشگاه MSW وابسته به بیمارستان مونت سینای وست از ابزار Switch Trust در زمان توسعه نرم‌افزارهای پزشکی توسط پزشکان استفاده می‌کند.

این رونمایی در شرایطی صورت می‌گیرد که بسیاری از شرکت‌ها برای کسب ارزش اقتصادی از عوامل هوش مصنوعی با دشواری روبه‌رو هستند. موسسه گارتنر پیش‌بینی کرده است که بیش از ۴۰ درصد از پروژه‌های هوش مصنوعی عاملی تا پایان سال ۲۰۲۷ لغو خواهند شد. از سوی دیگر، آمازون وب‌سرویس نیز اعلام کرده است که نزدیک به ۹۰ درصد از نمونه‌های اولیه عوامل این شرکت هرگز به مرحله نهایی نرسیده‌اند.

جمع‌بندی

نگرانی‌های امنیتی نیز هم‌زمان با گسترش این فناوری رو به افزایش است؛ به طوری که شرکت‌هایی مانند گوگل و جی‌پی‌مورگان ناچار به رفع آسیب‌پذیری‌های مشابه در استانداردهای ارتباطی عوامل با ابزارها شده‌اند.