Jusqu'à 30 fois plus de travail par watt : la plateforme NVIDIA Vera Rubin NVL72 établit une nouvelle norme d'efficacité pour les agents IA
· By Antonio Sedino, CTRO · Published by Reinventy Solutions Corp.
Selon les données OpenRouter, les charges de travail d'IA agente consomment 15 fois plus de tokens qu'une simple demande de chat. Pourquoi ? Considérez ce qui se passe lorsqu'un agent IA recherche une entreprise pour une décision d'investissement. L'agent interroge des bases de données financières, recherche des actualités et des dépôts, invoque un sous-agent pour effectuer des comparaisons de pairs et des évaluations de modèles, et synthétise les résultats.
Selon les données OpenRouter, les charges de travail d'IA agente consomment 15 fois plus de tokens qu'une simple demande de chat. Pourquoi ? Considérez ce qui se passe lorsqu'un agent IA recherche une entreprise pour une décision d'investissement. L'agent interroge des bases de données financières, recherche des actualités et des dépôts, invoque un sous-agent pour effectuer des comparaisons de pairs et des évaluations de modèles, et synthétise les résultats. Ce modèle de raisonnement multi-étapes et d'utilisation d'outils entraîne une augmentation significative de la demande computationnelle. La plateforme NVIDIA Vera Rubin NVL72 cible ce défi, offrant jusqu'à 30 fois plus de travail par watt par rapport aux générations précédentes, établissant une nouvelle norme d'efficacité pour la classe croissante de charges de travail d'IA agente.