اطلاعات نادرست انتخاباتی تولیدشده با هوش مصنوعی پیش از برگزاری انتخابات میاندورهای آمریکا در حال گسترش در شبکههای اجتماعی است و کارشناسان هشدار میدهند که همزمان با کاهش نظارت انسانی و اتکای بیشتر به سیستمهای خودکار، بخش عمدهای از این محتواها از دید ناظران پنهان میماند.
ابزارهای هوش مصنوعی تولید تصاویر، ویدئوها و ادعاهای جعلی متقاعدکننده را با حجم بالا و هزینه بسیار پایین امکانپذیر ساختهاند. در همین حال، شبکههای بزرگ اجتماعی برخی از تیمهای مسئول بررسی محتوا را کوچکتر کردهاند و این امر باعث شده فیلترهای خودکار و کاربران بار بیشتری را در کشف اطلاعات نادرست به دوش بکشند.
یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدلها رایگان هستند.
رایگان امتحان کنیدفرانسیس هاوگن، مهندس داده پیشین فیسبوک و افشاساز تخلفات این شرکت، در گفتگو با The Guardian عنوان میکند که اجرای عملیات اطلاعاتی با کیفیتی که در سال ۲۰۱۶ غیرممکن بود، اکنون با هزینهای بسیار ناچیز میسر شده است.
او توضیح میدهد که انتشاردهندگان اخبار جعلی چگونه میتوانند از سد نظارتها عبور بگذرند. آنها با اعمال تغییرات جزئی در هر نسخه از یک ادعای نادرست، پستهایی تولید میکنند که حتی پس از نشانهگذاری محتوای مشابه توسط سیستمها، باز هم از فیلترهای خودکار عبور میکنند.
شایعهای پیرامون جیمز تالاریکو، نامزد سنای تگزاس، نشان میدهد که اینگونه ادعاها با چه سرعتی میتوانند منتشر شوند. اوایل ماه جاری، پستهایی در شبکه اجتماعی ایکس مدعی شدند که این نامزد دموکرات در یک مرکز سلامت روان در اوهایو تحت درمان است، در حالی که او در واقع با بیماری آنفولانزا در خانه حضور داشت.
بیمارستان و تالاریکو ظرف چند ساعت این ادعا را تکذیب کردند، اما این شایعه روزها به چرخش خود ادامه داد. پژوهشگران مؤسسه «دموکراسی دیجیتال قاره آمریکا» که اطلاعات نادرست هدف قرار دهنده رأیدهندگان لاتینتبار را رصد میکنند، دریافتند که با انتشار این داستان در رسانههای فارسیزبان — بهنقل از گزارش La Voce di New York — روایت تغییر کرده است. این روایت به ادعایی دروغین مبنی بر اقدام به خودکشی از سوی تالاریکو تبدیل شد و پژوهشگران یادآور شدند که اصلاح ادعای اولیه مانع از چرخش نسخه تغییریافته نشد.
روبرتا براگا، بنیانگذار این مؤسسه، تصریح میکند که پلتفرمها قوانین خود را روی محتوای زبانهای دیگر با ثبات کمتری نسبت به پستهای انگلیسیزبان اعمال میکنند. او میافزاید که اکنون با استفاده از هوش مصنوعی برای انجام بخش عمدهای از تعدیل محتوا، احتمال اینکه موارد بیشتری از درزها عبور کنند نیز وجود دارد.
چالشهای نظارتی و رویکرد پلتفرمها
محتوای تولیدشده با هوش مصنوعی در تبلیغات رسمی انتخاباتی نیز ظاهر شده است. کن پاکستون، رقیب جمهوریخواه تالاریکو، تبلیغی را پخش کرد که در آن از تصاویر تولیدشده با هوش مصنوعی از نامزد دموکرات استفاده شده بود. این تبلیغ استفاده از هوش مصنوعی را افشا کرد و برخی ایالتها مانند پنسیلوانیا قوانینی را برای الزامی کردن چنین افشاگریهایی وضع کردهاند.
پلتفرمهای بزرگ رویکردهای متفاوتی در قبال اطلاعات نادرست سیاسی دارند، اما قوانین آنها تنها انواع خاصی از محتوا را پوشش میدهد. متا تصاویر تولیدشده با هوش مصنوعی را که بتواند شناسایی کند برچسبگذاری میکند و از تبلیغکنندگان سیاسی میخواهد استفاده از هوش مصنوعی را اعلام نمایند. یوتیوب ادعاهای نادرست درباره زمان، مکان و نحوه رأیدهی افراد را ممنوع میکند و شبکه اجتماعی ایکس تا حد زیادی به سیستم یادداشتهای مردمی خود اتکا دارد.
بسیاری دیگر از ادعاهای گمراهکننده سیاسی خارج از این قوانین مشخص قرار میگیرند. این مسئله فراتر از ایالات متحده جریان دارد؛ در اسپانیا نیز یک حزب سیاسی با شکایت قضایی به دلیل انتشار یک ویدئوی عمیقاً جعلی مربوط به انتخابات مواجه است.
همزمان با اینکه کمپینهای انتخاباتی بهطور فزایندهای از هوش مصنوعی برای تولید و توزیع محتوا استفاده میکنند، چالش پیش روی پلتفرمها صرفاً شناسایی رسانههای مصنوعی نیست، بلکه مقابله با ادعاهای دروغینی است که سریعتر از انتشار اصلاحیهها در میان زبانها و جوامع مختلف تغییر شکل میدهند.