Inférence jusqu'à 3,2 fois plus rapide avec LFM2.5-DSpark
HERALD · Artificial Intelligence
Le blog Hugging Face rapporte des améliorations de performance pour le modèle LFM2.5-DSpark de LiquidAI, indiquant une vitesse d'inférence jusqu'à 3,2 fois plus rapide. L'annonce détaille des techniques d'optimisation qui améliorent substantiellement la vitesse de traitement pour ce modèle de langage basé sur machine à état liquide.