هشدار غیرمعمول آنتروپیک به سرمایه‌گذاران درباره خطرات وجودی هوش مصنوعی در مسیر عرضه اولیه سهام

شرکت آنتروپیک قصد دارد در جریان عرضه اولیه سهام خود به سرمایه‌گذاران بالقوه هشدار دهد که فناوری پیشرفته هوش مصنوعی می‌تواند «خطرات فاجعه‌بار یا وجودی برای بشریت» به همراه داشته باشد؛ هشدار کم‌نظیری که از سوی یک شرکت فعال در سودآوری از همین فناوری مطرح می‌شود.

بر اساس گزارش رویترز، امیدنامه عرضه اولیه این شرکت به بررسی خطرات مرتبط با مدل‌های هوش مصنوعی پرداخته و تصریح می‌کند که این مدل‌ها ممکن است «رفتارهای خودحفاظتی» از جمله تلاش برای «مقاومت در برابر خاموشی»، «پنهان‌کاری یا دستکاری اطلاعات» و رفتارهایی «شبیه به باج‌خواهی» را از خود بروز دهند. این مجموعه در پرونده یادشده توضیح می‌دهد که توسعه مدل‌ها، پلتفرم‌ها و کاربردهای پیشرفته‌تر می‌تواند احتمال بروز خسارت توسط سیستم‌های هوش مصنوعی را افزایش دهد.

اگرچه شرکت‌های سهامی عام معمولاً خطرات محصولات خود را به سرمایه‌گذاران گوشزد می‌کنند، اما به ندرت دیدگاهی مطرح می‌شود که در آن فناوری شرکت به‌عنوان عامل بالقوه انقراض بشر توصیف شود. آنتروپیک در عین حال که پتانسیل تحول‌آفرین هوش مصنوعی را با پدیده‌هایی چون صنعتی‌سازی و الکتریسیته مقایسه می‌کند، بر خسارات جبران‌ناپذیری که سوءمدیریت آن می‌تواند به همراه داشته باشد تأکید می‌ورزد.

سابقه چالش‌ها و هشدارهای امنیتی

این شرکت و سایر توسعه‌دهندگان هوش مصنوعی از جمله OpenAI پیش‌تر پس از وقوع رویدادهایی که در آن‌ها سیستم‌های آزمایشی از محدودیت‌ها عبور کرده بودند، تحت نظارت و موشکافی قرار گرفته‌اند؛ از جمله گزارشی که به نفوذ مدل OpenAI به پایگاه داده سیستم بهداشتی استرالیا اشاره دارد.

ایوان هوبینگر، پژوهشگر امنیت در آنتروپیک، احتمال کشته شدن انسان‌ها توسط هوش مصنوعی طی دهه آینده را بیش از ۱۰ درصد برآورد کرد؛ دیدگاهی که پیش‌تر توسط جیکوب کوکسون، همکار سابق او نیز ابراز شده بود.

افشای ریسک‌های گسترده در امیدنامه

شرکت آنتروپیک که همواره خود را به عنوان یک آزمایشگاه پیشتاز در زمینه ایمنی هوش مصنوعی معرفی کرده است، حدود ۸۰ صفحه از مجموع ۲۶۱ صفحه بدنه اصلی امیدنامه خود را به تشریح عوامل ریسک اختصاص داد؛ رقمی که نزدیک به دو برابر ۴۸ صفحه‌ای است که به معرفی کسب‌وکار خود اختصاص داده است.

در مقام مقایسه، شرکت اسپیس‌اکس (مالک xAI) تنها حدود ۳۸ صفحه از امیدنامه ۲۷۷ صفحه‌ای خود را به بخش ریسک‌ها اختصاص داده بود. آنتروپیک در این سند یادآور می‌شود که آگاهی احتمالی مدل از تلاش‌های ارزیابی، محدودیت قابل‌توجهی در توانایی سنجش ایمنی مدل ایجاد می‌کند و افزود که مدل‌ها گاه در جریان آموزش، قابلیت‌های پیش‌بینی‌نشده‌ای پیدا می‌کنند که تا پیش از استقرار و بروز حوادث امنیتی چشمگیر، کشف نمی‌شوند.

پژوهشگران حوزه هوش مصنوعی همچنین هشدار داده‌اند که با افزایش توانمندی مدل‌ها، آن‌ها به شکلی فزاینده تشخیص می‌دهند چه زمانی تحت نظارت قرار دارند و رفتار خود را بر همان اساس تنظیم می‌کنند؛ روندی که نظارت بر رفتار این فناوری را دشوارتر می‌سازد. آنتروپیک در روز دوشنبه از اظهار نظر در پاسخ به درخواست رویترز خودداری کرد.