据报道，Modal 使用 NVIDIA Vera 处理器进行的早期基础设施测试显示，在运行长时间活动的 AI 智能体时，其任务性能约为同类 Intel 和 AMD 系统的两倍。这类智能体会耗费大量周期来编排工具、管理上下文窗口、序列化和反序列化数据，以及处理 GPU 调用之间的条件逻辑。在这类混合工作负载中，CPU 微架构、内存吞吐量和系统 I/O 延迟，比 GPU 的原始浮点性能更为重要。Modal 的结果并非普适性基准测试，但它表明，将部分性能关键型工作重新交由现代 CPU 设计处理，能够切实提升端到端智能体吞吐量。
CPU 在智能体工作负载中重新受到重视，是因为这类系统不只是执行密集的矩阵乘法：它们还要管理事件循环、编排多步推理、处理检索与信息补充，并实现工具集成。这些任务会产生大量细碎、对延迟敏感的操作，以及不可预测的内存访问模式，因此单线程性能、缓存行为和内存带宽都至关重要。能够降低系统调用延迟、加快序列化，并让大量并发轻量级线程保持高吞吐量的 CPU，能比单纯增加 GPU 算力更显著地缩短智能体的总运行时间。这一转变也改变了性能优化和成本权衡最能带来收益的环节。
NVIDIA 的双线策略——Grace 面向内存密集型工作负载，Vera 面向 CPU 任务——旨在打造一个协同一致的平台：GPU 继续承担繁重的推理任务，而 CPU 与内存互连则负责编排和数据传输。对云服务商和本地部署服务商而言，这有望简化系统配置平衡：减少为 GPU 供数时的 CPU 瓶颈、改善上下文窗口的内存一致性，并降低多节点智能体流水线的开销。实际应用仍有一些注意事项：早期芯片和软件栈需要进一步成熟，编译器和运行时也必须经过调优；总拥有成本取决于实际工作负载组合，而非醒目的吞吐量数字。