اینترنت اشیا, تکنولوژی, فناوری, هوش مصنوعی

فوجیتسو فناوری نوینی برای کوچک‌سازی و بهینه‌سازی LLMها معرفی کرد

فوجیتسو فناوری بازسازی (reconstruction) مبتنی بر ۱-bit quantization و distillation را برای مدل LLM خود با نام “Takane” توسعه داده است. این پیشرفت باعث کاهش ۹۴٪ مصرف حافظه و افزایش سرعت اجرای مدل تا سه برابر شده، در حالی که دقت مدل تا ۸۹٪ حفظ می‌شود.
ادامه مطلب