Les tests internes de Modal semblent montrer que, pour les charges de travail d’agents dominées par l’orchestration et l’intégration d’outils, les serveurs équipés de Vera exécutent les tâches environ deux fois plus vite que des machines Intel et AMD équivalentes. Ce résultat concorde avec des améliorations de la latence monothread, de la bande passante mémoire et des entrées-sorties système. Point important, tout dépend du profil de test : ce sont les agents qui consacrent plus de 30 à 40 % de leur temps d’exécution à autre chose qu’à l’inférence sur GPU — routage, récupération de données et logique — qui en bénéficient le plus. Les acheteurs devraient demander aux fournisseurs des traces correspondant à leurs charges de travail plutôt que des chiffres FLOPS synthétiques.

Les agents de longue durée se décomposent en une multitude de tâches courtes : génération d’avis, appels d’API, lectures de bases de données, assemblage de prompts et logique décisionnelle. Ces opérations sont sensibles à la surcharge des appels système, aux défauts de cache et à la planification des threads. Les architectures modernes de processeurs, qui améliorent la hiérarchie des caches, réduisent la latence des interruptions et augmentent le débit mémoire, diminuent le temps d’attente cumulé entre les appels au GPU et rendent l’ensemble du pipeline plus efficace. Pour les équipes qui développent des agents, analyser les performances du processeur et optimiser les points chauds hors GPU apporte souvent davantage que l’ajout de cœurs GPU.

La feuille de route de NVIDIA présente Grace (des processeurs axés sur la mémoire) et Vera (un processeur) comme des composants complémentaires destinés à réduire les frictions architecturales : mémoire cohérente, interconnexions à haut débit et bibliothèques logicielles qui traitent le processeur et le GPU comme un seul système. Cette intégration peut réduire la surcharge liée aux grandes fenêtres de contexte et aux pipelines d’agents en plusieurs étapes, mais elle soulève aussi des questions de portabilité logicielle et de dépendance à un fournisseur. Les entreprises devraient évaluer si le gain d’efficacité d’une pile intégrée chez un même fournisseur compense le risque de migration, et si leurs charges de travail d’agents profiteront réellement d’un couplage plus étroit entre processeur et GPU.

Si Vera se révèle nettement plus rapide sur les charges de travail d’orchestration à grande échelle, les fournisseurs cloud et les acheteurs en entreprise réévalueront la composition de leurs serveurs et leurs modèles tarifaires. AMD et Intel devront proposer des ripostes convaincantes — ajustements de microarchitecture, améliorations du sous-système mémoire ou partenariats logiciels — pour reconquérir ce segment. Pour les investisseurs et les exploitants, l’indicateur clé n’est pas le benchmark des puces, mais le coût par tâche d’agent achevée, qui inclut l’énergie, le provisionnement et l’intégration technique. À court terme, les déploiements devraient rester hétérogènes, le temps que l’écosystème évalue l’économie totale des systèmes.

Commencez par analyser les performances : recueillez des traces indiquant le temps processeur consacré à l’orchestration, aux entrées-sorties et à la sérialisation. Si les tâches hors GPU représentent une part importante de la latence ou des coûts, lancez un projet pilote contrôlé avec Vera, en évaluant le pipeline de bout en bout plutôt que des noyaux isolés. Mesurez le débit par dollar, l’évolution du temps de développement (notamment la réduction des contournements liés à la latence) et les efforts d’intégration aux environnements d’exécution existants. Testez également les modes de défaillance, la supervision et la facilité de mise à l’échelle ; les premiers utilisateurs devraient prévoir un budget pour l’ingénierie d’intégration et l’optimisation de la pile logicielle.