智能体AI测试:英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍
科技
科技 > 互联网 > 正文

智能体AI测试:英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍

7 月 22 日消息,云端 AI 推理平台 DeepInfra 昨日(7 月 21 日)发布博文,报道称在生产环境下智能体 AI(Agentic AI)负载测试显示,英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。

英伟达在此前官方博文中指出,相比较 AMD 的 Turin 9755 处理器,Vera CPU 在处理智能体 AI 负载上的性能提升 80%。

智能体AI测试:英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍

而在 DeepInfra 最新测试中,英伟达 Vera CPU 的 runc(基于 Linux 内核特性的“进程级”轻量化容器)延迟为 29ms,而英特尔 Sapphire Rapids 为 64ms,

英伟达 Vera 快 2.2 倍

。IT之家附上相关截图如下:

图源:deepinfra

图源:deepinfra

测试环境使用统一条件:每次运行均为 20 个物理核、每核 1 线程、单 NUMA 节点,并启用 CPU confinement,超出核预算的运行会被丢弃。

芯片 Kata ms (deployed) runc ms (intrinsic) IPC
NVIDIA Vera 58 29 3.62
AMD Zen5 Turin 87 35
Intel Granite Rapids 103 51 2.44
Intel Sapphire Rapids 122 64 2.44

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载