علی‌بابا مدل هوش مصنوعی جدیدی با نام کوئن 3.8 27B منتشر کرد

علی‌بابا جدیدترین مدل هوش مصنوعی خود با نام کوئن 3.8 27B را در پلتفرم هاگینگ فیس در دسترس عموم قرار داده است. این مدل متراکم چندوجهی علاوه بر قابلیت درک بومی تصویر و ویدئو، از پنجره زمینه 262 هزار و 144 توکنی و قابلیت تنظیم میزان استدلال برخوردار است. این مدل به دلیل اندازه نسبتاً بهینه خود می‌تواند به‌صورت محلی روی طیف گسترده‌ای از سخت‌افزار‌های قدرتمند اجرا شود. اجرای مدل روی رایانه‌های شخصی با کوانتیزاسیون اجرای کوئن 3.8 27B با دقت 16 بیتی به حدود 56 گیگابایت حافظه گرافیکی (VRAM) نیاز دارد، در حالی که نسخه FP8 آن با حدود 28 گیگابایت حافظه قابل اجرا است. با این حال، استفاده از روش کوانتیزاسیون 4 بیتی می‌تواند حجم مورد نیاز مدل را به حدود 17 گیگابایت کاهش دهد و امکان اجرای آن را روی سیستم‌های شخصی مجهز به کارت‌های گرافیک قدرتمند فراهم کند. چنین قابلیتی به‌ویژه برای سازمان‌هایی که با داده‌های حساس کار می‌کنند اهمیت دارد، زیرا اطلاعات مورد استفاده مدل می‌تواند در همان دستگاه باقی بماند و علاوه بر افزایش کنترل بر داده‌ها، هزینه استفاده مداوم از API‌های ابری نیز کاهش پیدا کند. عملکرد قابل‌توجه در برنامه‌نویسی و وظایف عاملی داده‌های اولیه منتشرشده از عملکرد کوئن 3.8 27B نشان می‌دهد علی‌بابا تمرکز ویژه‌ای بر قابلیت‌های مهندسی نرم‌افزار و اجرای وظایف پیچیده دارد.