پرش به محتوا
هوش مصنوعی

نگرانی کارمندان متا از عملکرد ابزار هوش مصنوعی «میوز»؛ خواندن پیام‌های رمزگذاری‌شده و تراکنش‌های خیالی

اسناد افشاشده نشان می‌دهد دستیار هوش مصنوعی متا (Muse) اقدام به خواندن پیام‌های رمزگذاری‌شده سیگنال، ارسال پیام‌های ساختگی و نمایش موجودی حساب بانکی کاربران کرد

meta muse jolly mascot logo waving1

بر اساس مستندات درون‌سازمانی متا، دستیار هوش مصنوعی این شرکت موسوم به «میوز» (Muse) اقدام به خواندن پیام‌های رمزگذاری‌شده، ارسال پیام‌های نامربوط و ساختگی و همچنین تراکنش‌های مالی خیالی کرده است. این مسئله نگرانی‌های جدی را در میان کارکنان این شرکت ایجاد کرده است.

بر اساس گزارش APIEX.CLOUD که به بررسی بیش از دو دوجین پست درون‌سازمانی در روز چهارشنبه پرداخته است، کارمندان متا ابراز نگرانی کرده‌اند که این ابزار ممکن است گفتگوهای حساب‌های مختلف را با یکدیگر اشتباه گرفته و داده‌های خصوصی کاربران را افشا کند. اپلیکیشن میز از زمان عرضه خود در ماه سپتامبر تاکنون از مرز ۱۰ میلیون دانلود عبور کرده و شرکت متا انتظار دارد درآمد میلیاردی از آن کسب کند.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

جزئیات خطاها و دسترسی‌های ناخواسته

بر اساس گزارش‌های داخلی، یکی از کارمندان عنوان کرد که این هوش مصنوعی بدون درخواست قبلی، اطلاعات مربوط به موجودی حساب‌های بانکی او را در یک گفتگوی عادی درباره وضعیت آب‌وهوای ماهیگیری وارد کرده است. کارمند دیگری متوجه شد که موز به او یادآوری کرده است تا به پیام خواهرش در اپلیکیشن پیام‌رسان رمزگذاری‌شده سیگنال پاسخ دهد.

این کارمند در یادداشت خود تصریح کرد که چنین رویدادی یک نقض حریم خصوصی شدید محسوب می‌شود و او به یاد نمی‌آورد که دسترسی به سایر برنامه‌ها را صادر کرده باشد. بررسی‌های همکاران او نشان داد که این دستیار هوش مصنوعی به طور پیش‌فرض روی گوشی‌های اندرویدی مجوز خواندن اعلان‌ها را داشته است. مواردی نظیر رزرو غیرقابل استرداد اقامتگاه در ایروبندک بدون کسب اجازه و پیشنهاد پیام‌رسانی به یک فروشنده درباره میز قهوه در یک مکالمه نامربوط نیز گزارش شده است.

یکی از اعضای تیم هوش فوق‌بشری متا در ماه نوامبر توضیح داد که دستورات داخلی تعبیه‌شده، این عامل هوش مصنوعی را وادار به تعامل با کاربران میان جلسات می‌کند و به نظر می‌رسد این ابزار در پاسخ به این دستورات، اقدام به توهم پیام کرده است. وی یادآور شد که متأسفانه این توهمات به سمت موضوعات حساس مانند امور مالی و امنیتی گرایش دارند.

نحوه دسترسی به پیام‌رسان‌ها و واکنش‌ها

بررسی‌های فنی نشان داد که روی سیستم‌عامل اندروید، این ابزار از طریق مجوز اعلان‌ها به پیام‌ها دسترسی پیدا کرده و در رایانه‌های مک نیز از ابزارهای دسترسی‌پذیری و اسکرین‌شات اپل استفاده نموده است، هرچند همین درخواست‌ها روی آیفون با شکست مواجه شدند.

شرکت اپل توضیح داد که ابزارهای دسترسی‌پذیری این شرکت برای افراد دارای معلولیت طراحی شده‌اند. به دنبال این رویدادها، اپل در به‌روزرسانی اخیر خود این مسیر را در رایانه‌های مک مسدود کرد و مجموعه دسترسی‌های جدیدی را برای عوامل هوش مصنوعی در نظر گرفت. پیش‌تر نیز در ماه اکتبر، دسترسی کامل دیسک به دلیل فعالیت‌های همین مدل‌های هوش مصنوعی محدود شده بود.

دانیل رابرتز، سخنگوی متا، این موارد را حوادثی ایزوله توصیف کرد و متذکر شد که این دستیار تنها از طریق مجوزهایی که کاربران صراحتاً اعطا می‌کنند به سایر برنامه‌ها دسترسی می‌یابد. وی افزود که بسیاری از موارد ادعا شده ناشی از توهمات هوش مصنوعی بوده که پیش‌تر برطرف شده‌اند.

متا همچنین در بیانیه‌ای دیگر به تک‌کرانچ اعلام کرد که کارمندان به نسخه‌های متفاوتی نسبت به عموم مردم دسترسی دارند و به همین دلیل ویژگی‌ها و رفتارهایی را بررسی می‌کنند که در نسخه‌های عمومی وجود ندارد.

در همین راستا، مریدیت ویتاکر، رئیس اپلیکیشن سیگنال، استقرار عوامل هوش مصنوعی با چنین دسترسی‌های گسترده‌ای به دستگاه‌های کاربران را از نظر تکنولوژیک بی‌محابا خواند. مدتی پس از این اظهارات، سیگنال اعلام کرد که برای جلوگیری از دسترسی ابزارهای هوش مصنوعی به چت‌ها، قابلیت مسدودسازی اسکرین‌شات را فعال خواهد کرد.

بررسی نهایی

افشای رفتارهای غیرمنتظره و دسترسی‌های ناخواسته دستیار هوش مصنوعی متا، چالش‌های جدی پیرامون حفظ حریم خصوصی و امنیت داده‌ها در توسعه فناوری‌های نوین را آشکار می‌سازد. در حالی که شرکت‌های فناوری به رقابت برای گسترش ابزارهای هوش مصنوعی ادامه می‌دهند، واکنش نهادهای ناظر و توسعه‌دهندگان پلتفرم‌های پیام‌رسان نشانگر ضرورت نظارت دقیق‌تر بر دسترسی این سیستم‌ها به اطلاعات شخصی کاربران است.