IT之家 3 月 12 日消息,Arm 今日宣布將其 AI 推理性能優(yōu)化軟件庫(kù) Kleidi 擴(kuò)展到車(chē)用市場(chǎng),透過(guò) Arm Kleidi,合作伙伴將可充分發(fā)掘下一代特定應(yīng)用 AI 模型在汽車(chē)中的優(yōu)勢(shì),并加快其部署速度。
IT之家獲悉,Arm Kleidi 于 2024 年推出,開(kāi)發(fā)人員無(wú)需進(jìn)行任何額外工作,就能利用其為 Arm CPU 上運(yùn)行的 AI 推理工作負(fù)載提供軟件性能優(yōu)化。此前該軟件庫(kù)已被移動(dòng)設(shè)備、云服務(wù)和數(shù)據(jù)中心等關(guān)鍵領(lǐng)域應(yīng)用。

Arm 宣稱(chēng),通過(guò)其與 Corellium 聯(lián)合開(kāi)發(fā)的虛擬平臺(tái),亞馬遜 AWS 為 SDV 軟件定義汽車(chē)打造了新的概念驗(yàn)證 AI 聊天機(jī)器人,可讓司機(jī)直接與汽車(chē)進(jìn)行互動(dòng),提出問(wèn)題或詢(xún)問(wèn)儀表板警報(bào),而無(wú)需翻閱汽車(chē)用戶(hù)手冊(cè)。
由于使用了集成 KleidiAI 的最新版 Llama.cpp 來(lái)進(jìn)行開(kāi)發(fā),AWS 實(shí)現(xiàn)了聊天機(jī)器人性能的顯著提升:響應(yīng)時(shí)間縮短至 1~3 秒,性能提升達(dá) 10 倍。同時(shí) Kleidi 軟件庫(kù)為開(kāi)發(fā)人員節(jié)省了 6 周的底層軟件優(yōu)化時(shí)間。

Arm 車(chē)用事業(yè)部產(chǎn)品與解決方案副總裁 Suraj Gajendra 表示:
在汽車(chē)產(chǎn)業(yè)中,AI 通常被稱(chēng)為自動(dòng)駕駛汽車(chē)的核心 —— 聽(tīng)起來(lái)頗具未來(lái)感,距離其大規(guī)模量產(chǎn)上路還有數(shù)年時(shí)間。
然而,實(shí)際的情況是,當(dāng)下新車(chē)型中的很多應(yīng)用和功能,從自適應(yīng)巡航控制、個(gè)性化車(chē)載信息娛樂(lè)系統(tǒng)到駕駛和乘客監(jiān)控系統(tǒng),都已使用 AI 技術(shù),并且這些特定應(yīng)用的模型和工作負(fù)載已在 Arm 平臺(tái)上高效地運(yùn)行。
這歸功于 Arm 運(yùn)算平臺(tái)卓越的靈活性、性能、效率和可擴(kuò)展性,使其成為整個(gè)汽車(chē)行業(yè)中開(kāi)發(fā)人員的首選平臺(tái)。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。