رونمایی انویدیا از پلتفرم ایمنی هوش مصنوعی پس از انتقاد جنسن هوانگ از هشدارهای اوپن‌آی‌وی و انتروپیک

شرکت انویدیا از راه‌اندازی پلتفرم جدیدی تحت عنوان «پلتفرم ایمنی عامل باز» خبر داد که هدف از آن یاری‌رسانی به توسعه‌دهندگان هوش مصنوعی در زمینه اعمال عملکردهای حفاظتی روی ایجنت‌ها است. این اقدام تنها چند روز پس از آن صورت می‌گیرد که مدیرعامل این غول سخت‌افزاری، رویکردهای امنیتی شرکت‌های انتروپیک و اوپن‌آی‌وی را زیر سوال برده بود.

جنسن هوانگ، مدیرعامل انویدیا، در یک بیانیه مطبوعاتی عنوان می‌کند که پتانسیل فوق‌العاده هوش مصنوعی برای جامعه تنها در صورت حل‌وفصل مقوله ایمنی آن محقق خواهد شد. وی متذکر می‌شود که هم‌زمان با کشف مرزهای جدید قابلیت‌های هوش مصنوعی، باید سرعت پیشرفت در حوزه ایمنی این فناوری نیز افزایش یابد و امنیت و ایمنی نیازمند مهندسی تمام‌عیار هستند.

چند روز پیش از این رویداد، هوانگ در گفت‌وگو با روزنامه نیویورک تایمز به بررسی هشدارهای اخیر داریو آمودی، مدیرعامل انتروپیک، و سام آلتمن، مدیرعامل اوپن‌آی‌وی، پرداخت؛ هشدارهایی که حکایت از آن دارد که سرعت توسعه هوش مصنوعی می‌تواند خطری برای بشریت محسوب شود. مدیرعامل انویدیا در این مصاحبه با انتقاد از مواضع این شرکت‌ها اظهار داشت که اگر محصولی آماده عرضه نیست، نباید آن را به بازار فرستاد.

هوانگ موضع آزمایشگاه‌های پیشرو هوش مصنوعی را «عجیب» توصیف کرد، به ویژه که این شرکت‌ها خود در خط مقدم نوآوری هوش مصنوعی قرار دارند و در مقابل، خطرات امنیتی را می‌توان از طریق فناوری کاهش داد. وی توضیح داد که هیچ‌کس به اندازه شرکت‌هایی که خواستار کند شدن روند توسعه هستند، در حال حاضر زیرساخت پردازشی نمی‌سازد.

پلتفرم ایمنی جدید انویدیا با هدف برقراری پروتکل‌های امنیتی طراحی شده است که می‌تواند از بروز نقص‌های نگران‌کننده افشاشده توسط آزمایشگاه‌های پیشرو جلوگیری به عمل آورد. هوانگ در این باره اضافه کرد که این پلتفرم صنعت، پژوهشگران و سازمان‌های بخش عمومی را گردهم می‌آورد تا به اشتراک‌گذاری بهترین روش‌ها، هماهنگی در روش‌های ارتقای کیفی و تقویت همکاری‌های بین‌المللی بپردازند.

چشم‌انداز آینده ایمنی هوش مصنوعی

مدیرعامل انویدیا در بخش دیگری از صحبت‌های خود پیشنهاد کرد که آزمایشگاه‌های هوش مصنوعی صرفاً باید اولویت‌های خود را بازتنظیم کنند. او بر این نکته تأکید کرد که فناوری‌های مرتبط با ایمنی، هم‌خط‌سازی، ارزیابی، حفاظ‌گذاری و نظارت همگی بخش جدایی‌ناپذیری از فناوری هوش مصنوعی به شمار می‌روند.

در پایان، انویدیا با معرفی این پلتفرم تلاش می‌کند نقش فعالانه‌تری در استانداردسازی و ارتقای ایمنی جهانی هوش مصنوعی ایفا کند و از جامعه توسعه‌دهندگان می‌خواهد با بهره‌گیری از ابزارهای مهندسی کامل، توسعه امن این فناوری را تسریع بخشند.