پرش به محتوا
هوش مصنوعی

محدودیت‌های جدید اوپن‌آی‌ال برای حفاظت از نوجوانان و پیشگیری از خشونت در چت‌جی‌پتی

اوپن‌آی‌ال اعلام کرد چت‌جی‌پتی ارائه اطلاعات درباره سلاح‌ها به نوجوانان را محدود می‌کند و جزئیات حملات گذشته را برای تمامی کاربران کاهش می‌دهد.

chatgpt homepage capabilities laptop screen dark

شرکت اوپن‌آی‌ال در روز جمعه اعلام کرد که چت‌جی‌پتی ارائه اطلاعات کاربردی درباره سلاح‌ها و سیستم‌های امنیتی به نوجوانان را متوقف خواهد کرد؛ این اقدام حتی در شرایطی اعمال می‌شود که پرسش مطرح‌شده ظاهراً بی‌خطر به نظر برسد. این محدودیت‌ها حساب‌های کاربری نوجوانان را که هیچ نشانه‌ای از قصد خشونت‌آمیز ندارند نیز در بر می‌گیرد.

این تغییرات در یک پست وبلاگی از سوی این شرکت اعلام شد و در کنار آن، تعهد به انتشار «گزارش ایمنی جامعه» در زمینه پیشگیری از خشونت نیز مطرح شد. طبق گزارش این شرکت، در سه ماهه سوم بیش از ۲۰۰ ارجاع به مراجع قانونی صورت گرفته است و این محافظت‌های جدید طی هفته‌های آینده به مرحله اجرا درخواهند آمد.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

کاهش جزئیات حملات گذشته برای تمامی کاربران

چت‌جی‌پتی برای تمامی کاربران جزئیات کمتری درباره حملات جمعی گذشته و عاملان آن‌ها ارائه خواهد داد، حتی اگر این جزئیات در سایر بخش‌های اینترنت در دسترس باشد. این سیستم از بازسازی یک حمله، از جمله نوع سلاح‌های استفاده‌شده توسط مهاجم و نحوه دستیابی به آن‌ها، خودداری خواهد کرد. همچنین از مقایسه‌های مشروح درباره میزان آسیب‌های ناشی از حملات پرهیز خواهد شد.

شرکت اوپن‌آی‌ال عنوان می‌کند که این محدودیت‌ها بدون در نظر گرفتن سن کاربر یا دلیل طرح پرسش اعمال می‌شوند. با این حال، کاربران همچنان مجازند درباره تأثیر چنین رویدادهایی بر قربانیان و جوامع و همچنین روش‌های شناسایی نشانه‌های هشداردهنده پرسش‌هایی را مطرح کنند.

زمانی که روند گفتگو نشان دهد فرد روی خشونت یا آسیب جدی به دیگران تمرکز بیش از حد دارد، چت‌جی‌پتی قادر خواهد بود گفتگو را به‌طور خودکار خاتمه دهد. اگر این سامانه به همین دلیل چند گفتگو را متوقف سازد، ممکن است اوپن‌آی‌ال حساب کاربری مربوطه را برای مدتی به حالت تعلیق درآورد.

نوجوانان، بررسی سن و نظارت والدین

این شرکت تصریح کرد که سامانه پیش‌بینی سن خود را تقویت نموده است؛ سامانه‌ای که از طریق نشانه‌هایی مانند رفتار کاربر، سن زیر ۱۸ سال را تخمین می‌زند. این سیستم به بررسی مداوم نشانه‌های جدید ادامه داده و در صورت لزوم، کاربران را به محیط ویژه نوجوانان منتقل می‌کند. بزرگسالانی که به اشتباه در این گروه قرار گیرند، می‌توانند سن خود را از طریق «پرسونا»، شریک تأیید هویت اوپن‌آی‌ال، تأیید کنند.

از ماه ژوئیه تاکنون، والدینی که حساب‌های کاربری‌شان به فرزندانشان متصل است، در صورت غیرفعال شدن حساب نوجوان به دلیل مسائل مربوط به خشونت، هشدار دریافت می‌کنند. این شرکت همچنین یادآور شد که در حال توسعه هشدارهایی برای مواردی است که حساب نوجوان به دلیل بحث‌های مکرر پیرامون خشونت متوقف می‌شود.

انتشار نخستین گزارش در اوایل سال ۲۰۲۷

نخستین گزارش ایمنی جامعه در اوایل سال ۲۰۲۷ میلادی منتشر خواهد شد و نیمه دوم سال ۲۰۲۶ را پوشش خواهد داد و این به‌روزرسانی‌ها هر شش ماه یک‌بار تکرار خواهند شد. این گزارش توضیح خواهد داد که اوپن‌آی‌ال چگونه مسائل ایمنی را شناسایی کرده و به آن‌ها پاسخ می‌دهد و نمونه‌ها و داده‌های ناشناس را نیز ارائه خواهد کرد.

این به‌روزرسانی به مجموعه اقدامات ایمنی نوجوانان در چت‌جی‌پتی افزوده می‌شود که در ماه اوت راه‌اندازی شده بود. اوایل ماه جاری میلادی، سازمان «کامن سینس مدیا» اعلام کرد نسخه چت‌جی‌پتی برای نوجوانان برای افراد زیر ۱۸ سال ناامن است، در حالی که هشت ایالت آمریکا به دلیل آسیب به کودکان از اوپن‌آی‌ال شکایت کرده‌اند و ایالت تگزاس نیز از این شرکت و سم اولمن شکایت به عمل آورده است.