IT之家 6 月 16 日消息,北美-歐洲 AI 芯片初創(chuàng)企業(yè) Tensordyne 當(dāng)?shù)貢r間 15 日宣布推出 AI 推理系統(tǒng) Tensordyne Napier (TDN),宣稱其可實現(xiàn) NVIDIA Blackwell 系統(tǒng) 17 倍的按 Token(詞元)計能效和 13 倍的吞吐量。
TDN 平臺由 Tensordyne 與博通、HPE 瞻博網(wǎng)絡(luò)合作開發(fā)。其核心 Napier 處理器已成功流片,正以臺積電 3nm 制程工藝生產(chǎn)。

IT之家了解到,Napier 芯片采用對數(shù)數(shù)學(xué)設(shè)計,這意味著可用更簡單的加法運算替代 AI 推理中的大規(guī)模乘法操作;此外其芯片集成大量 SRAM 緩存和 HBM 內(nèi)存,處理器間通信延遲<1μs。

基于 Napier,Tensordyne 構(gòu)建了集成 72 顆算力芯片 TDN 的 TDN72“推理艙”,而一個機架 / 機柜可容納四個“推理艙”,從而集成 288 顆芯片。機架級 TDN 系統(tǒng)可以 1000 Token/s·user 的速率進行 T 級 LLM 推理,每年額外創(chuàng)造多達 3300 萬美元的收入。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。