پرش به محتوا
هوش مصنوعی

بهینه‌سازی لایه زمینه شخصی هوش مصنوعی Liquid AI برای پردازنده‌های اسنپدراگون

شرکت Liquid AI فناوری زمینه شخصی خود را برای پردازنده‌های اسنپدراگون کوالکام بهینه‌سازی کرد تا اجرای عامل‌های هوش مصنوعی روی دستگاه‌ها تسریع شود.

شرکت Liquid AI نسخه بهینه‌سازی‌شده‌ای از نرم‌افزار خود موسوم به Liquid Context را برای اجرا روی تراشه‌های اسنپدراگون کوالکام آماده کرده است. این فناوری تصویری جامع از کاربر را مستقیماً روی خود دستگاه ایجاد می‌کند. این شرکت در جریان اجلاس اسنپدراگون کوالکام در مائوئی این موضوع را اعلام کرد.

این شرکت که در سال ۲۰۲۳ تأسیس شده است، به توسعه مدل‌های هوش مصنوعی اختصاص دارد که به جای مراکز داده، روی تلفن‌های همراه، رایانه‌های شخصی، خودروها و ربات‌ها اجرا می‌شوند.

یک کلید API برای هر مدل اصلی هوش مصنوعی — برخی مدل‌ها رایگان هستند.

رایگان امتحان کنید

عملکرد لایه زمینه شخصی

نرم‌افزار Liquid Context با اجازه کاربر، برنامه‌های روزمره، ترجیحات و نیازهای او را از طریق سیگنال‌های موجود روی دستگاه یاد می‌گیرد و این تصویر را همیشه به‌روز نگه می‌دارد. سپس بخش‌های مرتبط را به عامل‌های هوش مصنوعی انتخابی کاربر منتقل می‌کند. این عامل‌ها می‌توانند شامل دستیار اختصاصی خود این شرکت یا محصولات سایر شرکت‌ها باشند و قابلیت اجرای روی دستگاه، ابری یا ترکیبی را دارند.

مدیران این شرکت توضیح می‌دهند که اطلاعات زمینه شخصی روی دستگاه باقی می‌ماند و عامل‌ها تنها به داده‌هایی دسترسی دارند که کاربر اجازه دهد. این لایه در پس‌زمینه روی واحد پردازش عصبی Hexagon که تراشه مخصوص هوش مصنوعی در محصولات کوالکام است، اجرا می‌شود تا نیاز به پردازش مداوم تمامی به‌روزرسانی‌ها در فضای ابری از بین برود.

رامین حسانی، مدیرعامل و هم‌بنیان‌گذار Liquid AI، در این زمینه اظهار می‌کند که هوش مصنوعی شخصی‌سازی‌شده با درک شیوه زندگی و نیازهای کاربران در زمان مناسب آغاز می‌شود.

همکاری با کوالکام و توسعه مدل‌های بصری

تولیدکنندگان دستگاه‌ها می‌توانند Liquid Context را به عنوان یک ویژگی استاندارد به محصولات خود اضافه کنند و مجوز استفاده از عامل این شرکت را نیز دریافت نمایند. این عامل روی مدلی با ۲.۶ میلیارد پارامتر اجرا می‌شود که برای واحد پردازش عصبی Hexagon بهینه‌سازی شده است.

رو گذشته نیز این شرکت پیش‌نویس مدلی را ارائه داد را منتشر کرد. این مدل قادر است تصاویر و متون را به طور هم‌زمان پردازش کند و با استفاده از روشی موسوم به رمزگشایی گمانه‌زنی، پاسخ‌ها را با سرعت بیشتری ارائه دهد.

در حالی که این روش جدید سرعت پردازش را به طور قابل توجهی افزایش می‌دهد، اما این شرکت یادآور می‌شود که مزایای آن در برخی وظایف به دلیل محدودیت‌های پردازشی دستگاه‌های لبه شبکه کمتر از حد انتظار خواهد بود. با این حال، این مدل به صورت رایگان در پلتفرم هاکینگ فیس قابل دانلود است.