IT之家 7 月 22 日消息，云端 AI 推理平臺 DeepInfra 昨日（7 月 21 日）發(fā)布博文，報道稱在生產(chǎn)環(huán)境下智能體 AI（Agentic AI）負(fù)載測試顯示，英偉達(dá) Vera CPU 速度是其它 CPU 的 2 倍多。
英偉達(dá)在此前官方博文中指出，相比較 AMD 的 Turin 9755 處理器，Vera CPU 在處理智能體 AI 負(fù)載上的性能提升 80%。
而在 DeepInfra 最新測試中，英偉達(dá) Vera CPU 的 runc（基于 Linux 內(nèi)核特性的“進(jìn)程級”輕量化容器）延遲為 29ms，而英特爾 Sapphire Rapids 為 64ms，英偉達(dá) Vera 快 2.2 倍。IT之家附上相關(guān)截圖如下：
測試環(huán)境使用統(tǒng)一條件：每次運行均為 20 個物理核、每核 1 線程、單 NUMA 節(jié)點，并啟用 CPU confinement，超出核預(yù)算的運行會被丟棄。
| 芯片 | Kata ms (deployed) | runc ms (intrinsic) | IPC |
|---|---|---|---|
| NVIDIA Vera | 58 | 29 | 3.62 |
| AMD Zen5 Turin | 87 | 35 | — |
| Intel Granite Rapids | 103 | 51 | 2.44 |
| Intel Sapphire Rapids | 122 | 64 | 2.44 |
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。