بیش از ۲۰ نفر از پژوهشگران برجسته هوش مصنوعی، از جمله چف‌ساینتیست OpenAI و یکی از بنیان‌گذاران انتروپیک، هشدار داده‌اند که خودکارسازی پژوهش‌های هوش مصنوعی توسط خود این سیستم‌ها می‌تواند به پدیده‌ای موسوم به «انفجار هوش» منجر شود. آنها در پژوهشی توضیح می‌دهند که این روند ممکن است سال‌ها پیشرفت علمی را به چند ماه یا حتی کمتر فشرده کند.
در میان امضاکنندگان این پژوهش که از سوی برنامه سیاست و علم هوش مصنوعی دانشگاه کمبریج منتشر شده، چهره‌های سرشناسی چون جفری هینتون، یوشوا بنجیو، جاکوب پاچوکی (دانشمند ارشد OpenAI)، جک کلارک (هم‌بنیان‌گذار انتروپیک)، اریک هوروویتز از مایکروسافت و دان سانگ از دانشگاه برکلی دیده می‌شوند. به گزارش نیویورک تایمز، سانگ همچنین معاون پژوهش هوش مصنوعی در متا است. البته نویسندگان تأکید کرده‌اند که این مقاله را در ظرفیت شخصی خود به رشته تحریر درآورده‌اند. پژوهشگران در این زمینه هشدار می‌دهند که «به محض آغاز انفجار هوش، پنجره اقدام ممکن است بسته شود.»
یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.
رایگان امتحان کنیدنقش فزاینده هوش مصنوعی در تولید کد
این مقاله نشان می‌دهد که سیستم‌های هوش مصنوعی در حال حاضر اکثر کدهای شرکت‌های سازنده خود را می‌نویسند. در این راستا، به داده‌های انتروپیک استناد شده که نشان می‌دهد سهم کدهای تأییدشده توسط هوش مصنوعی در این شرکت از ارقام تک‌رقمی پایین در ژانویه ۲۰۲۵، تا ماه مه ۲۰۲۶ به بیش از ۸۰ درصد رسیده است. افزون بر این، سهم کدهای تحقیق و توسعه‌ای که هوش مصنوعی با نظارت انسانی اندک انجام داده، از ۱ درصد در مارس ۲۰۲۶ به ۲۶ درصد در ماه اوت همان سال افزایش یافته است.
بر اساس برخی برآوردهای احتمالی، پروژه‌های پژوهشی چندماهه هوش مصنوعی ممکن است تا اواسط سال ۲۰۲۸ خودکار شوند. به گفته نویسندگان، در سطح خبره، یک توسعه‌دهنده پیشرو قادر خواهد بود نیروی کاری مبتنی بر هوش مصنوعی را مدیریت کند که معادل میلیون‌ها پژوهشگر برتر انسانی است.
این مقاله می‌افزاید که چنین روندی می‌تواند دستیابی به درمان‌های پزشکی و سایر مزایا را سال‌ها جلو بیندازد، اما در عین حال سه مخاطره اصلی را به همراه دارد: سبقت گرفتن هوش مصنوعی از توانایی جامعه برای تطبیق، از دست رفتن کنترل انسان بر سیستم‌ها، و تضعیف موازنه‌های قدرت. نویسندگان تصریح می‌کنند که در بدترین سناریو، از دست رفتن کنترل می‌تواند به به حاشیه رانده شدن یا انقراض بشریت منجر شود.
در این گزارش همچنین به حادثه هاگینگ‌فیس اشاره شده است که طی آن حدود ۱۲۰۰ عامل داخلی OpenAI بدون مجوز به اینترنت راه یافتند. شرکت OpenAI از آن زمان تاکنون آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرده است.
مطالبات از دولت‌ها
نویسندگان از سیاست‌گذاران می‌خواهند که نظارت دقیقی بر میزان خودکارسازی تحقیق و توسعه در شرکت‌های فناوری اعمال کنند. این اقدامات می‌تواند شامل گزارش‌دهی استاندارد و استقرار حسابرسان مستقل در درون شرکت‌های هوش مصنوعی باشد. آنها همچنین پیشنهادهایی برای محدود کردن سرعت رشد قابلیت‌ها و راهکارهایی جهت متوقف کردن پژوهش‌های هوش مصنوعی در مراکز داده مطرح می‌کنند. طرح‌های واکنش اضطراری و توافقنامه‌های بین‌المللی نیز در این فهرست جای دارند.
محققان خاطرنشان می‌کنند که نتیجه نهایی همچنان نامطمئن است، زیرا چهار عامل بازدارنده شامل بازدهی نزولی، محدودیت‌های توان محاسباتی و داده‌ها، وظایف دشوار برای خودکارسازی و دوره‌های طولانی آموزش می‌توانند روند پیشرفت را کند سازند.
دان سانگ در مصاحبه‌ای یادآور شد: «هم‌اکنون به مرحله‌ای رسیده‌ایم که برای رصد و نظارت بر فعالیت عامل‌ها، نیازمند خود سیستم‌های هوش مصنوعی هستیم. هیچ راه دیگری برای نظارت بر این عامل‌ها وجود ندارد و انسان‌ها دیگر کفایت نمی‌کنند.»
خلاصه
پژوهشگران ارشد هوش مصنوعی درباره خطر انفجار هوش ناشی از خودکارسازی تحقیقات هشدار داده و از دولت‌ها خواسته‌اند با اعمال نظارت‌های سختگیرانه، از بروز خطرات احتمالی جلوگیری کنند.
حسام هاشمی 
