پرش به محتوا
هوش مصنوعی

انتقاد شدید یان لوکان از داریو آمودی و جریان‌های ایمنی هوش مصنوعی

یان لوکان در مصاحبه‌ای مدیرعامل آنتروپیک را توهم‌زده خواند و بر عدم نگرانی خود از خطرات انقراض بشریت به دست هوش مصنوعی تأکید کرد.

یان لوکان، از چهره‌های برجسته حوزه هوش مصنوعی، اعلام می‌کند که هیچ‌گونه نگرانی درباره نابودی بشریت توسط هوش مصنوعی ندارد و حوادث اخیر منتسب به مدل‌های سرکش را ناشی از ضعف نظارت انسانی می‌داند. وی در مصاحبه‌ای با نشریه فچور به تندی از داریو آمودی، مدیرعامل شرکت آنتروپیک، انتقاد کرد و او را فردی «توهم‌زده» و «دیوانه» خواند.

لوکان توضیح می‌دهد که حوادثی مانند هک اخیر هاگینگ فیس توسط عوامل OpenAI کاملاً قابل پیشگیری بوده‌اند و بسیاری از آزمایشگاه‌های هوش مصنوعی در زمینه امنیت سایبری ضعف بنیادین دارند. وی تأکید می‌کند که این عوامل دقیقاً وظایف محوله را انجام داده‌اند، اما محیط‌های ایزوله (سندباکس) طراحی‌شده برای آن‌ها ناکارآمد و معیوب بوده‌ام.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

رویکرد انتقادی نسبت به نیکوکاری مؤثر

این پژوهشگر برتر همچنین جنبش نیکوکاری مؤثر (EA) و تمرکز آن بر خطرات احتمالی هوش مصنوعی برای بشریت را به شدت زیر سوال می‌برد. وی این تفکر را «بسیار سمی» و «یک فاجعه کامل» توصیف کرده و معتقد است که پیروان این جنبش در آزمایشگاه‌های هوش مصنوعی دچار پارانویایی هستند که به تصمیم‌گیری‌های نادرست منجر می‌شود.

موضوع نیکوکاری مؤثر ماه گذشته پس از انتشار یادداشتی جنجالی از سوی جیکوب کوکسون، پژوهشگر پیشین آنتروپیک و OpenAI، دوباره مورد توجه رسانه‌ها قرار گرفت. آمودی پیش‌تر هرگونه وابستگی به این جنبش را رد کرده است، اما لوکان روابط خانوادگی میان بنیان‌گذاران آنتروپیک و چهره‌های کلیدی حامی این تفکر را یادآور می‌شود و عنوان می‌کند که آمودی کاملاً تحت تأثیر این جریان قرار دارد.

خطر تسخیر مقرراتی و تأسیس شرکت جدید

به گفته لوکان، هشدار رهبران صنعت درباره خطرات مرگبار هوش مصنوعی، بدترین کمپین بازاریابی ممکن است که به همبستگی عمومی و صنعت آسیب می‌زند. وی بیش از انقراض بشر، نگران «تسخیر مقرراتی» است؛ پدیده‌ای که در آن شرکت‌های بزرگ با تدوین قوانین سخت‌گیرانه، رقیبان کوچک‌تر را از میدان به در می‌کنند. او معتقد است که درخواست برای تنظیم‌گری شدید و خطرناک جلوه‌دادن مدل‌های متن‌باز، در نهایت به نفع ساختار تجاری شرکت‌هایی مانند آنتروپیک تمام می‌شود، در حالی که فناوری هوش مصنوعی نیازی به قوانین جدید ندارد.

لوکان پس از ۱۲ سال فعالیت در متا، که هفت سال آن را به عنوان دانشمند ارشد هوش مصنوعی گذراند، اکنون شرکت AMI Labs را در پاریس تأسیس کرده است. این شرکت با بیش از ۶۰ کارمند در شهرهای مختلف، روی معماری JEPA تمرکز دارد که به جای تولید متن یا پیکسل، به پیش‌بینی داده‌ها در بازنمایی‌های درونی می‌پردازد. محصولات اولیه این شرکت با تمرکز بر صنایع، به زودی روانه بازار خواهند شد.