پرش به محتوا
هوش مصنوعی

گاوین نیوسام دستور اجرایی جدیدی برای بررسی ایمنی هوش مصنوعی در کالیفرنیا صادر کرد

گاوین نیوسام دستور اجرایی جدیدی را برای بررسی قوانین ایمنی هوش مصنوعی در کالیفرنیا، از جمله کلید توقف اضطراری، امضا کرد.

گاوین نیوسام، فرماندار کالیفرنیا، با امضای یک دستور اجرایی از یک کارگروه تخصصی خواست ظرف دو ماه آینده گزارشی را درباره تقویت قوانین ایمنی هوش مصنوعی، از جمله امکان تعبیه کلید توقف اضطراری (Kill Switch) در مدل‌های پیشرفته، ارائه دهد. این تصمیم پس از آن اتخاذ می‌شود که او در سپتامبر ۲۰۲۴ لایحه جنجالی موسوم به SB 1047 را وتو کرده بود.

بلومبرگ گزارش داد گزارش داد که این دستور اجرایی شرکت‌های فعال در حوزه هوش مصنوعی را هدف قرار می‌دهد. لایحه وتو شده پیش‌تر توسعه‌دهندگان را موظف می‌کرد که خاموشی کامل را فوراً اجرا کنند را فراهم کنند تا در مواقع ضروری، توقف فعالیت‌ها و آموزش‌های بیشتر امکان‌پذیر باشد. نیوسام در زمان وتوی آن لایحه در ۲۹ سپتامبر ۲۰۲۴ استدلال کرده بود که این طرح به‌جای تمرکز بر کاربرد مدل‌ها، آن‌ها را بر اساس اندازه and هزینه تنظیم می‌کند.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

دستور اجرایی جدید همچنین بررسی تدوین برنامه‌های ایمنی توسط اشخاص ثالث مستقل برای شرکت‌های پیشرو در این صنعت را در دستور کار دارد. نیوسام در این باره اظهار داشت که ایالت کالیفرنیا برای اقدام در این زمینه دست روی دست نمی‌گذارد. با این حال، دفتر وی هنوز اعضای این کارگروه را معرفی نکرده است.

در همین حال، رویکرد اروپا تفاوت‌هایی با کالیفرنیا دارد؛ کمیسیون اروپا از دوم اوت اختیار دارد مدل‌های همه‌منظوره را از بازار اتحادیه اروپا محدود، جمع‌آوری یا خارج کند و این اختیار مستقیماً در اختیار نهاد رگولاتور قرار دارد. علاوه بر این، قانون هوش مصنوعی اروپا ایجاب می‌کند که ناظران انسانی بتوانند سیستم‌های پرخطر را متوقف کنند، هرچند این الزامات هنوز اجرایی نشده‌اند.

در حوزه ارزیابی‌های مستقل نیز کالیفرنیا تا ژانویه ۲۰۲۸ به سازمان‌ها مهلت داده تا صلاحیت آزمایش مدل‌های پیشرفته را کسب کنند، در حالی که پنل علمی اروپا پیش‌تر کار خود را آغاز کرده است. با وجود این تحولات، کالیفرنیا همچنان میزبان شرکت‌های بزرگی مانند انتروپیک و OpenAI است که تحت تأثیر قوانین آینده این ایالت قرار خواهند گرفت.