Arm 將 Kleidi 擴(kuò)展到汽車市場,加速提升 AI 應(yīng)用的性能

Arm控股有限公司(納斯達(dá)克股票代碼:ARM,以下簡稱“Arm”)今日宣布將Arm® Kleidi技術(shù)擴(kuò)展到汽車市場。Arm Kleidi是一項(xiàng)廣泛的軟件及軟件社區(qū)參與計(jì)劃,旨在加速人工智能(AI)的發(fā)展。通過Arm Kleidi,合作伙伴將能夠充分挖掘下一代特定應(yīng)用AI模型在汽車中的優(yōu)勢,并加快其部署速度。

Arm汽車事業(yè)部產(chǎn)品和解決方案副總裁Suraj Gajendra表示:“在汽車行業(yè)中,AI通常被稱為自動駕駛汽車的核心——聽起來頗具未來感,距離其大規(guī)模量產(chǎn)上路還有數(shù)年時間。然而,實(shí)際的情況是,當(dāng)下新車型中的很多應(yīng)用和功能,從自適應(yīng)巡航控制、個性化車載信息娛樂系統(tǒng)到駕駛員和乘客監(jiān)控系統(tǒng),都已經(jīng)在使用AI技術(shù),并且這些特定應(yīng)用的模型和工作負(fù)載已在Arm平臺上高效運(yùn)行。這歸功于Arm計(jì)算平臺卓越的靈活性、性能、能效和可擴(kuò)展性,使其成為整個汽車行業(yè)中開發(fā)者的首選平臺。”

然而,隨著這些汽車應(yīng)用與功能日益精進(jìn),對更多的AI功能與日益復(fù)雜的工作負(fù)載的需求不斷提高,汽車行業(yè)正面臨著一系列獨(dú)特的挑戰(zhàn),包括:

·相較于其他行業(yè),汽車行業(yè)擁有龐大而復(fù)雜的軟件系統(tǒng),使得開發(fā)環(huán)境極為復(fù)雜。

·需要一個強(qiáng)大的從云端到車端的軟件開發(fā)和驗(yàn)證基礎(chǔ)設(shè)施,以便將云端開發(fā)的應(yīng)用無縫部署到汽車中。

·軟件必須符合嚴(yán)格的汽車功能安全和信息安全方面的行業(yè)標(biāo)準(zhǔn)和法規(guī)。

·汽車的使用周期較長,這意味著軟件必須具備升級能力,以適應(yīng)未來不斷新增的功能和更新(類似于在最新軟件版本發(fā)布時對智能手機(jī)進(jìn)行同步更新,但汽車的產(chǎn)品周期要更長)。

Arm通過領(lǐng)先的汽車增強(qiáng)型(AE)技術(shù)和在汽車生態(tài)系統(tǒng)中的合作,應(yīng)對這些獨(dú)特的挑戰(zhàn)。這些合作涵蓋了虛擬平臺和基于標(biāo)準(zhǔn)的軟件解決方案,通過面向嵌入式邊緣側(cè)的可擴(kuò)展開放架構(gòu)(SOAFEE)來加速汽車開發(fā)周期。所有這些解決方案都為開發(fā)人員提供了工具,使他們能夠通過應(yīng)用廣泛的Arm計(jì)算平臺無縫獲取更高的性能,并加快其產(chǎn)品的上市時間。

利用Arm Kleidi實(shí)現(xiàn)性能自動優(yōu)化

Arm Kleidi于2024年推出,旨在為Arm CPU上運(yùn)行的AI推理工作負(fù)載提供軟件性能優(yōu)化,開發(fā)者無需進(jìn)行任何額外的工作,目前該軟件庫已應(yīng)用于移動端、云和數(shù)據(jù)中心等關(guān)鍵領(lǐng)域,包括Kleidi已被集成到ExecuTorch、Llama.cpp、MediaPipe和PyTorch等熱門AI框架的最新版本中,開發(fā)者只需開始構(gòu)建應(yīng)用程序,即可在基于Arm架構(gòu)的平臺上自動獲取性能的顯著提升。

Kleidi的性能優(yōu)化特性已引入汽車市場,領(lǐng)先的科技公司已經(jīng)在他們的汽車軟件中體驗(yàn)到了一系列新應(yīng)用的性能提升。從車載聊天機(jī)器人、個性化駕駛員建議,到圖像和運(yùn)動增強(qiáng)以輔助用戶、診斷和解決問題,Kleidi庫與關(guān)鍵的開發(fā)者框架的集成正在加速AI應(yīng)用的開發(fā),為用戶提供更快、更高效的車載體驗(yàn)。

·AWS Automotive將車載聊天機(jī)器人的響應(yīng)速度提高了10倍

利用Arm與Corellium聯(lián)合開發(fā)的虛擬平臺,亞馬遜云科技(AWS)為軟件定義汽車(SDV)打造了一款全新的概念驗(yàn)證(proof-of-concept) AI聊天機(jī)器人,允許駕駛員直接與汽車進(jìn)行互動,提出問題或詢問儀表盤警報(bào),而無需翻閱汽車用戶手冊。借助集成了KleidiAI的最新版Llama.cpp開發(fā)聊天機(jī)器人,AWS實(shí)現(xiàn)了其聊天機(jī)器人性能的顯著提升,響應(yīng)時間縮短至一到三秒,性能提升達(dá)10倍。由于開發(fā)者無需在底層軟件優(yōu)化花費(fèi)心力,KleidiAI為聊天機(jī)器人的開發(fā)節(jié)省了六周時間。

·VicOne加快了對汽車網(wǎng)絡(luò)安全威脅的應(yīng)對速度

VicOne面向SDV的xCarbon車載解決方案能使車輛學(xué)習(xí)和識別網(wǎng)絡(luò)安全威脅,減少對云端技術(shù)的依賴,進(jìn)而降低成本并更好地保護(hù)數(shù)據(jù)安全。借助TinyLlama-1 1B模型,VicOne解決方案的性能實(shí)現(xiàn)了顯著提升,預(yù)填充提示速度翻倍,詞元生成速度提升了60%以上,從而縮短了車輛檢測網(wǎng)絡(luò)安全威脅的響應(yīng)時間。Kleidi實(shí)現(xiàn)的性能優(yōu)化使VicOne能夠在無需額外開發(fā)工作的情況下,為用戶帶來更安全、更可靠的駕駛體驗(yàn)。

·Sonatus專為OEM打造的AI Technician Builder平臺,能夠無縫運(yùn)行于基于Arm架構(gòu)的AWS Graviton CPU

Sonatus的AI Technician Builder是一個從云到邊緣側(cè)的平臺,可幫助OEM廠商創(chuàng)建客戶服務(wù)代理,以迅速響應(yīng)用戶對汽車的問詢,進(jìn)而改善駕駛體驗(yàn)。該平臺最初運(yùn)行于云端環(huán)境的GPU,而通過引入Kleidi優(yōu)化框架,它現(xiàn)可輕松移植到搭載Arm架構(gòu)的AWS Graviton EC2云實(shí)例上運(yùn)行。這不僅確保了用戶所需的性價比和響應(yīng)時間,還為在基于Arm架構(gòu)的汽車計(jì)算平臺上運(yùn)行邊緣AI工作負(fù)載鋪平道路。

在Arm平臺上推動汽車及其他領(lǐng)域的AI創(chuàng)新

如今,全球94%的車廠都在其最新車型中使用了Arm技術(shù)。Arm計(jì)算平臺在汽車領(lǐng)域的廣泛應(yīng)用,表明其在推動關(guān)鍵車載AI應(yīng)用實(shí)現(xiàn)顯著性能優(yōu)化方面具備得天獨(dú)厚的優(yōu)勢,AWS、VicOne和Sonatus的成功實(shí)踐便是很好的例證。將Kleidi集成到現(xiàn)有的軟件堆棧中,推動了更高效、更先進(jìn)的AI應(yīng)用場景的實(shí)現(xiàn),并為那些分秒必爭的關(guān)鍵汽車應(yīng)用提供了更快的響應(yīng)速遞。這賦予了開發(fā)者超能力,使他們能夠在Arm CPU上優(yōu)化并運(yùn)行新的特定應(yīng)用的AI模型和工作負(fù)載,而無需額外的成本或開發(fā)工作量。

通過將Kleidi擴(kuò)展到汽車領(lǐng)域,Arm持續(xù)兌現(xiàn)其承諾——為包括從云到邊緣側(cè)的各個Arm應(yīng)用市場的AI開發(fā)者提供無縫的性能加速,助其打造有吸引力的全新用戶體驗(yàn),不斷挖掘AI變革的潛力。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )