استعفای کارشناس امنیت OpenAI و درخواست برای اعمال استانداردهای هسته‌ای

یکی از مدیران بخش ایمنی شرکت OpenAI از سمت خود کناره‌گیری کرد و نسبت به خطرات ناشی از سرعت بالای توسعه هوش مصنوعی هشدار داد. این مقام پیشین که مسئولیت شفاف‌سازی در تیم ایمنی را بر عهده داشت، با انتشار مطلبی اعلام کرد که سازنده چت‌جی‌پتی تاکنون بر اساس رویکرد «آزمون و خطا» پیش رفته است.

وی استدلال کرد که با افزایش توانمندی‌های هوش مصنوعی، شیوه فعلی دیگر کارایی ندارد و به ناتوانی شرکت در جلوگیری از رفتارهای غیرقابل پیش‌بینی مدل‌ها در جریان آزمایش‌ها اشاره کرد. او با تمجید از تلاش همکاران سابق خود، یادآور شد که این شرکت به دلیل عجله در اجرای پروژه‌های مختلف، از دستیابی به سطح دقت و مراقبت لازم بازمانده است.

رویکرد سخت‌گیرانه مشابه نیروگاه‌های هسته‌ای

این کارشناس مستعفی پیشنهاد کرد که شرکت‌های فعال در حوزه هوش مصنوعی باید از ساختار ایمنی نیروگاه‌های هسته‌ای الگوبرداری کنند. این راهبرد شامل لایه‌های پشتیبان متعدد و برنامه‌ریزی دقیق و تدریجی است تا از بروز فاجعه در اثر یک خطای انسانی جلوگیری شود. وی در این زمینه اظهار داشت که فعالان حوزه هوش مصنوعی هنوز شیوه مدیریت این خطرات را نمی‌دانند، اما صنایع دیگر به این دانش دست یافته‌اند.

در همین راستا، بلومبرگ گزارش داد که سخنگوی OpenAI از تلاش این شرکت برای تقویت امنیت در سیستم‌های پژوهشی و آزمایشی خبر داده است. به گفته این مقام، OpenAI همکاری با ناظران بیرونی را افزایش داده و سیستم پایش زنده مدل‌های خود را ارتقا می‌دهد تا اطمینان حاصل شود که مدل‌ها فراتر از حد قابل مدیریت ایمن رشد نمی‌کنند.

انتقادات فزاینده درون‌صنعتی

خروج این نیرو، جدیدترین مورد از اعتراض چهره‌های داخلی شرکت‌های پیشرو به شمار می‌رود. پیش‌تر نیز مقاماتی از شرکت‌های مختلف نسبت به مخاطرات فاجعه‌بار هوش مصنوعی هشدار داده بودند. از جمله داریو آمودی از شرکت آنتروپیک خواستار کندتر شدن روند توسعه صنعت شده و سام آلتمن، مدیرعامل OpenAI، نیز از این طرح حمایت کرده است.

جمع‌بندی

روند فزاینده خروج کارشناسان و هشدارهای جدی درباره خطرات فناوری‌های نوین نشان‌دهنده نیاز مبرم به بازنگری در ساختارهای ایمنی است. همزمان با این تحولات، شرکت‌های بزرگ ناچار شده‌اند برخی پروژه‌های خود را به دلیل عدم موفقیت در آزمون‌های ایمنی به تعویق بیندازند که این امر اهمیت نظارت بیشتر را بیش از پیش آشکار می‌سازد.