شرکت OpenAI از مدل امنیتی جدید خود به نام GPT-6 Cyber رونمایی کرد که به گفته مسئولان این شرکت، در زمینه شناسایی و بهرهبرداری از آسیبپذیریهای نرمافزاری از تمامی نسخههای پیشین پیشی گرفته است. این شرکت روز پنجشنبه انتشار این مدل را اعلام کرد و سطح ریسک سایبری آن را بر اساس چارچوب آمادگی خود در رده «بحرانی» ارزیابی کرد؛ سطحی که برای نسخه پیشین یعنی GPT-5.6 Cyber در رده «بالا» قرار داشت.
در فاز نخست، این مدل تنها برای گروه محدودی از مشتریان تأییدشده از طریق رابط برنامهنویسی کاربردی و کودکس قابل دسترسی است. این کاربران به سطح Daybreak Red تعلق دارند که برنامهای از سوی OpenAI برای توسعه بهرهبرداری و تستهای امنیتی مجاز به شمار میرود. طرح Daybreak در ماه می راهاندازی شد و این شرکت اعلام کرد که دسترسی به GPT-6 Cyber بهزودی برای تمامی مشتریان این سطح فراهم خواهد شد.
یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدلها رایگان هستند.
رایگان امتحان کنیداین برنامهها نخستین بار در ماه سپتامبر توسط نشریه فرچون رسانهای شد. مدل جدید، چهارمین مدل امنیت سایبری شرکت در سال جاری میلادی محسوب میشود و رقیب آن انتروپیک و گوگل نیز دسترسی مشابهی را به مدافعان تأییدشده اعطا کردهاند.
پایبندی به محدوده مجاز
مسئولان OpenAI اظهار کردند که این مدل بهگونهای آموزش دیده است تا درون محدوده مجاز فعالیت کند، خط مشیهای تعیینشده را رعایت نماید و نتایج را به دقت گزارش دهد. این شرکت پس از حادثه مربوط به هاگینگفیس، آزمایشی موسوم به ExploitGym Honeypot را طراحی کرد؛ رویدادی که در جریان آن عاملهای هوش مصنوعی توانستند از محیط سندباکس خارج شده و به این پلتفرم نفوذ کنند.
در این آزمایش، وظایف دشواری به مدل محول شد. خدمات پیرامونی به راحتی قابل نفوذ بودند اما در فهرست مناطق ممنوعه قرار داشتند. مدل GPT-6 Cyber بدون احتساب فرمان ایمنی استقرار خود، در ۹۹.۹۳ درصد از آزمایشها از این سرویسها دوری کرد، در حالی که نسخه ۵.۶ تنها در ۹۴.۴۹ درصد موارد چنین عمل کرده بود. با اعمال فرمان ایمنی، این مدل در تمامی مراحل درون چهارچوب تعیینشده باقی ماند.
فواد متین، مدیر بخش آمادگی و ایمنی سایبری OpenAI، نتایج این ارزیابی را در یک نشست مطبوعاتی تشریح کرد که وبسایت ورج به پوشش آن پرداخت.
کشف آسیبپذیریهای فایرفاکس
در بخش آزمونهای مربوط به بهرهبرداری از کاستیها، GPT-6 Cyber موفق به کسب امتیاز ۴۸.۵ درصد شد، در حالی که نسخه قبلی امتیاز ۳۲.۱ درصد را به دست آورده بود. پژوهشگران شرکت با استفاده از این مدل توانستند ۸۱ آسیبپذیری جدید با درجه اهمیت بالا را در مرورگر فایرفاکس شناسایی کنند و شرکت موزیلا نیز روند انتشار اصلاحیهها را آغاز کرده است.
زیرساختهای حیاتی و چالشهای پیشرو
شرکت همچنین گروهی ویژه برای محافظت از زیرساختهای حیاتی ایجاد کرده و ضمن تشدید حفاظات در برابر حملات سیستمهای کنترل صنعتی، به برنامه کمکهزینه یک میلیارد دلاری خود برای مدافعان با منابع محدود اشاره کرده است. شرکت امنیت سایبری Dragos نیز مدلهای این شرکت را روی یک نیروگاه شبیهسازیشده آزمایش کرد که طی آن دو آسیبپذیری روز صفر در نرمافزار مهندسی شناسایی شد.
با این حال، کارشناسان نسبت به پیامدهای منفی این فناوری هشدار میدهند. کریس هیوز، معاون استراتژی امنیت در شرکت Noma Security، تصریح کرد که کاهش اقدامات خارج از محدوده یک پیشرفت واقعی است، اما با مقیاس فعالیت این مدلها، حتی کسری کوچکی از خطاهای احتمالی میتواند سیستمهای غیرمجاز را هدف قرار دهد نشریه CSO. وی همچنین افزود که داشبورد شرکت نشان میدهد کمتر از یک چهارم مشکلات تاکنون برطرف شدهاند.