IT之家 6 月 16 日消息,北美-歐洲 AI 芯片初創(chuàng)企業(yè) Tensordyne 當(dāng)?shù)貢r(shí)間 15 日宣布推出 AI 推理系統(tǒng) Tensordyne Napier (TDN),宣稱其可實(shí)現(xiàn) NVIDIA Blackwell 系統(tǒng) 17 倍的按 Token(詞元)計(jì)能效和 13 倍的吞吐量。
TDN 平臺(tái)由 Tensordyne 與博通、HPE 瞻博網(wǎng)絡(luò)合作開(kāi)發(fā)。其核心 Napier 處理器已成功流片,正以臺(tái)積電 3nm 制程工藝生產(chǎn)。

IT之家了解到,Napier 芯片采用對(duì)數(shù)數(shù)學(xué)設(shè)計(jì),這意味著可用更簡(jiǎn)單的加法運(yùn)算替代 AI 推理中的大規(guī)模乘法操作;此外其芯片集成大量 SRAM 緩存和 HBM 內(nèi)存,處理器間通信延遲<1μs。

基于 Napier,Tensordyne 構(gòu)建了集成 72 顆算力芯片 TDN 的 TDN72“推理艙”,而一個(gè)機(jī)架 / 機(jī)柜可容納四個(gè)“推理艙”,從而集成 288 顆芯片。機(jī)架級(jí) TDN 系統(tǒng)可以 1000 Token/s·user 的速率進(jìn)行 T 級(jí) LLM 推理,每年額外創(chuàng)造多達(dá) 3300 萬(wàn)美元的收入。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。