پرش به محتوا
هوش مصنوعی

برنامه جدید آنتروپیک برای حفاظت از زیرساخت‌های حیاتی با کمک هوش مصنوعی

شرکت آنتروپیک با راه‌اندازی برنامه‌ای جدید، مدل‌های پیشرفته هوش مصنوعی خود را برای دفاع از زیرساخت‌های حیاتی در اختیار شرکت‌های امنیتی قرار می‌دهد.

شرکت آنتروپیک از راه‌اندازی ابتکار عمل جدیدی با نام «برنامه دفاع از زیرساخت‌های حیاتی» خبر داده است که مدل‌های پیشرفته کلود، مهندسان و متخصصان تحقیق تهدید خود را در اختیار شرکت‌های محافظت‌کننده از شبکه‌های انرژی، تأسیسات آب و سیستم‌های حمل‌ونقل قرار می‌دهد. این شرکت announced it on Thursday که هدف از این اقدام را پشتیبانی بلندمدت از مدافعان امنیت اعلام می‌کند.

بخش دوم این طرح شامل یک اسکنر متن‌باز است؛ سرویسی رایگان که کدهای منبع‌باز را با بهره‌گیری از قدرتمندترین مدل‌های آنتروپیک اسکن کرده و نتایج را بدون دخالت و بررسی اولیه انسانی مستقیماً به توسعه‌دهندگان و نگهدارندگان ارسال می‌کند.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

شرکای بنیان‌گذار و فناوری‌های عملیاتی

شرکت‌های بزرگ مشاوره‌ای، امنیتی و تجهیزاتی از جمله اکسنچر، بوز آلن، کراداسترایک، دلوییت و دراگوس به عنوان شرکای بنیان‌گذار به این پروژه پیوسته‌اند. هیتاچی، اینسین سایبر، نوزومی نتورکس، پالالو آنتورکس، پی‌دابلیو‌سی و راکول اتوماسیون نیز در میان این شرکا حضور دارند. به گفته آنتروپیک، برخی از این مجموعه‌ها هم‌اکنون در حال استفاده از مدل کلود برای رفع آسیب‌پذیری‌ها هستند.

تمرکز اصلی این برنامه بر فناوری‌های عملیاتی است؛ کنترلرها، نرم‌افزارهای کنترلی و شبکه‌های صنعتی که دهه‌ها در حال فعالیت هستند. از آنجا که اپراتورها اغلب نمی‌توانند این سیستم‌ها را برای اعمال اصلاحیه از دسترس خارج کنند، نقص‌های امنیتی ممکن است سال‌ها پابرجا بمانند. هیتاچی توضیح داد در its own statement که به کارگروه‌های این برنامه ملحق خواهد شد و تخصص خود در حوزه فناوری عملیاتی را به اشتراک می‌گذارد.

همچنین شرکت آنتروپیک جزییاتی در خصوص نحوه تأمین هزینه‌های محاسباتی یا دسترسی رایگان شرکا به مدل‌ها ارائه نکرده است، چنان‌که Axios reported. این برنامه در شرایطی معرفی می‌شود که تکنولوژی‌های هوش مصنوعی هنوز در کوتاه‌مدت نتوانسته‌اند تمامی چالش‌های دفاعی را برطرف کنند و سوءاستفاده از نقاط ضعف ارزان‌تر شده است، در حالی که بررسی و رفع آن‌ها همچنان به نیروی انسانی وابسته است.

گزارش‌های باگ بدون بررسی انسانی

اسکنر متن‌باز به صورت داوطلبانه اجرا می‌شود و ساختار آن از ابزار گوگل الگوبرداری کرده است. پروژه‌های ثبت‌نام‌شده، اسکن‌های دوره‌ای را از توانمندترین مدل‌های آنتروپیک دریافت می‌کنند. بر اساس یک Frontier Red Team post، هر گزارش شامل یک نمونه اثبات مفهومی، توضیح دقیق و در صورت امکان، یک اصلاحیه پیشنهادی است.

با این حال، شرایط استفاده از service agreement هشدار می‌دهد که این گزارش‌ها ممکن است میزان خطا را به‌درستی تشخیص ندهند یا اصلاحاتی پیشنهاد کنند که به ساختار سیستم آسیب برساند. به همین دلیل، نگهدارندگان پروژه‌ها موظف هستند تک‌تک گزارش‌ها را شخصاً بررسی نمایند.