پرش به محتوا
هوش مصنوعی

نگرانی ویزا از خطرات هوش مصنوعی و اشتراک‌گذاری سیستم دفاع سایبری

شرکت ویزا در واکنش به آسیب‌پذیری‌های ناشی از هوش مصنوعی و تهدیدات سایبری خودکار، بخشی از سامانه دفاعی خود را به صورت متن‌باز منتشر کرد.

شرکت پرداخت الکترونیکی ویزا در پی آموختن درس‌هایی دشوار از آسیب‌پذیری‌های کشف‌شده توسط مدل‌های هوش مصنوعی، بخشی از سامانه دفاع سایبری مبتنی بر هوش مصنوعی خود را به صورت متن‌باز منتشر کرد. این اقدام در شرایطی صورت می‌گیرد که غول‌های مالی خود را برای مقابله با حملات سایبری خودکار و تهدیدات رایانش کوانتومی در آینده آماده می‌کنند.

این شرکت روزانه‌ نزدیک به یک میلیارد تراکنش مالی را پردازش می‌کند که ارزش سالانه آن به حدود ۱۵ تریلیون دلار می‌رسد؛ موضوعی که این مجموعه را به یکی از ارکان اصلی ساختار مالی جهان تبدیل کرده است. رجات تانجا، مدیر فناوری ویزا، اعلام می‌کند که این شرکت پس از آشکار شدن ضعف‌های امنیتی توسط مدل هوش مصنوعی Mythos شرکت انتروپیک در سال جاری میلادی، تصمیم گرفته است سیستم دفاع سایبری خود را در قالب نرم‌افزار متن‌باز در اختیار عموم قرار دهد تا ابعاد گسترده این چالش بهتر مدیریت شود.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

این مقام ارشد تصریح می‌کند که آسیب‌پذیری‌های مذکور بسیار درس‌آموز بوده‌اند و افزوده است که حمله عامل‌های هوش مصنوعی به پلتفرم هاگینگ فیس نیز می‌تواند نمونه‌ای زودهنگام از خطرات جدی‌تر آینده باشد. وی هشدار می‌دهد پیش‌بینی ابعاد این تهدیدات دشوار است، اما آنچه تاکنون مشاهده شده صرفاً نمایشی کوتاه از خطرات احتمالی پیش روست و فعالان صنعت باید با پذیرش قدرت این فناوری، خود را آماده سازند.

افزون بر هشدارهای پیرامون تهدیدات هوش مصنوعی علیه بشریت، نهادهای نظارتی جهانی نیز ابراز نگرانی می‌کنند که حملات سایبری تمام‌عیار هدایت‌شده با هوش مصنوعی می‌تواند اعتماد عمومی به نظام مالی بین‌المللی را متزلزل سازد. از آنجا که اعتبار، پایه و اساس شرکت‌های ارائه‌دهنده خدمات پرداختی است، وقوع حملات سایبری می‌تواند پیامدهای ویرانگری به همراه داشته باشد. در همین راستا، ویزا حتی به برخی از عامل‌های هوش مصنوعی اجازه داده است تا از زیرساخت‌های این شرکت استفاده کنند.

برآوردهای صنعتی نشان می‌دهد که تا سال ۲۰۳۰ میلادی حدود یک‌سوم از تجارت آنلاین، معادل نزدیک به ۳.۱ تریلیون دلار تراکنش، ممکن است از طریق عامل‌های هوش مصنوعی انجام شود. تانجا توضیح می‌دهد که حملات سایبری آینده ماهیتی تطبیقی خواهند داشت و بدون مداخله مستقیم انسان به طور مداوم یاد می‌گیرند و بهبود می‌یابند که این امر به مهاجمان قدرتی فراتر می‌دهد.

مدیر فناوری ویزا یادآور می‌شود که سیستم‌های دفاعی فعلی مبتنی بر نیروی انسانی کارایی نخواهند داشت و اگر مهاجمان دارای ساختار عاملی باشند، دفاع نیز باید به همین شیوه عمل کند، در غیر این صورت توازن قوا برقرار نخواهد شد. وی همچنین به چالش طولانی‌مدت ناشی از رایانش کوانتومی اشاره می‌کند و متذکر می‌شود که الگوریتم شور ممکن است روزی به رایانه‌های کوانتومی قدرتمند اجازه دهد استانداردهای رمزگذاری فعلی حامی تجارت جهانی را بشکنند.

چشم‌انداز آینده و لزوم آمادگی مالی

فعالان صنعت مالی ناچارند به جستجوی راهکارهایی برای خنثی‌سازی خطرات ناشی از فناوری‌های نوین ادامه دهند. مدیر ارشد ویزا در پایان بر لزوم حفظ خوش‌بینی تأکید دارد، هرچند اذعان می‌کند که راهکارهای ساده‌ای برای مواجهه با این چالش‌های پیچیده وجود ندارد.