Réduire notre facture d'inférence de 68 % en étant obsessionnel sur l'optimisation.
· By Antonio Sedino, CTRO · Published by Reinventy Solutions Corp.
Cloudflare a réduit les coûts de son réviseur de code IA de 68 % après avoir identifié l'utilisation de jetons comme cause du doublement des dépenses par exécution.
L'utilisation des jetons du réviseur de code IA de Cloudflare a doublé, entraînant une réduction de 68 % de la facture d'inférence grâce à une optimisation obsessionnelle. Pourquoi c'est important : Pour l'Intelligence Artificielle, la source définit ce qui doit être surveillé, tandis que ses limites déclarées en matière de preuves et de qualifications restent les frontières de la conclusion. Pourquoi cela compte : Pour les décisions concernant intelligence artificielle, la source définit ce qui doit être surveillé; les preuves et limites de qualification déclarées bornent la conclusion.