多項(xiàng)技術(shù)推動(dòng)生成式AI擴(kuò)展到終端,高通徐晧:創(chuàng)造更豐富多彩的應(yīng)用場(chǎng)景

隨著2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議在上海盛大舉行,生成式AI再次受到廣泛的關(guān)注和討論。近年來,ChatGPT、Midjourney等生成式AI不斷推陳出新,推動(dòng)用戶體驗(yàn)持續(xù)升級(jí),而如何將云端的生成式AI模型擴(kuò)展到人們?nèi)粘J褂玫慕K端設(shè)備上也成為業(yè)界熱議的話題。

在今年世界人工智能大會(huì)期間舉辦的人工智能賦能新型工業(yè)化主題論壇上,高通公司中國區(qū)研發(fā)負(fù)責(zé)人徐晧發(fā)表演講時(shí)也提到了生成式AI的發(fā)展,包括更多更智能的語音支持、多模態(tài)模型、根據(jù)個(gè)人喜好打造的個(gè)人AI智能體等等。他同時(shí)也分享了將大語言模型落地到終端側(cè)所需要的一些關(guān)鍵技術(shù),包括量化和壓縮、推測(cè)性解碼、知識(shí)提煉、異構(gòu)計(jì)算等等。例如知識(shí)提煉,可以通過對(duì)大模型的學(xué)習(xí),將其改為可以在手機(jī)上運(yùn)行的模型,讓用戶通過手機(jī)就能體驗(yàn)生成式AI。

還有異構(gòu)計(jì)算,在生成式AI模型日益復(fù)雜、參數(shù)規(guī)模不斷提升、許多用例需要同時(shí)運(yùn)行多個(gè)模型等趨勢(shì)下,生成式AI工作負(fù)載的復(fù)雜性、并發(fā)性和多樣性需要終端側(cè)所有處理器的能力,而支持處理多樣性的異構(gòu)計(jì)算架構(gòu)能夠發(fā)揮每個(gè)處理器的優(yōu)勢(shì),包括以AI為中心定制設(shè)計(jì)的 NPU,以及 CPU和 GPU,每個(gè)處理器完成各自擅長(zhǎng)的任務(wù),實(shí)現(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航,賦能全新增強(qiáng)的生成式 AI 體驗(yàn)。徐晧在演講中也介紹了高通正在做的規(guī)劃器(Orchestrator),當(dāng)手機(jī)需要調(diào)用不同的程序時(shí),需要將智能體作為底層架構(gòu),把所需的程序調(diào)用起來,同時(shí)將所需的資源放在一起,從而提供可滿足用戶需求的功能。

目前,高通已經(jīng)與眾多產(chǎn)業(yè)伙伴深入合作,推動(dòng)生成式AI在終端設(shè)備上的落地應(yīng)用。例如在個(gè)人電腦(PC)領(lǐng)域,今年6月,高通與微軟、華碩、聯(lián)想等PC廠商共同展示了20多款基于驍龍X Elite、驍龍X Plus平臺(tái)的Copilot+ AI PC筆記本產(chǎn)品,采用了創(chuàng)新的系統(tǒng)架構(gòu),包括CPU、GPU和NPU,帶來全新的AI體驗(yàn)。在智能手機(jī)領(lǐng)域,目前已經(jīng)有超過20款搭載第三代驍龍8的旗艦手機(jī)產(chǎn)品發(fā)布,支持實(shí)時(shí)語音翻譯、智能拍照等豐富的生成式AI用例。

在工業(yè)應(yīng)用方面,徐晧表示,目前機(jī)器人通常利用計(jì)算機(jī)視覺或者深度學(xué)習(xí)完成理解和功能執(zhí)行,隨著近年來大語言模型突破性的發(fā)展,機(jī)器人能夠更好地理解人們提出的一些基本要求,加上機(jī)器人學(xué)科實(shí)現(xiàn)的出色定位、導(dǎo)航和機(jī)械臂控制,可以打造非常智能的應(yīng)用。此外,通過AI與5G的融合應(yīng)用,機(jī)器人能夠?qū)崿F(xiàn)網(wǎng)絡(luò)連接,賦能運(yùn)維和質(zhì)檢等生產(chǎn)環(huán)節(jié),從而打造更加智能和現(xiàn)代化的工業(yè)環(huán)境。在AI和5G的加持下,智能生產(chǎn)環(huán)境可以在國內(nèi)外得到日益廣泛的推廣。

在本次論壇上,《中國AI大模型工業(yè)應(yīng)用指數(shù)(2024年)》正式發(fā)布,該指數(shù)體系由大模型基礎(chǔ)應(yīng)用能力與行業(yè)應(yīng)用能力構(gòu)成,其中大模型基礎(chǔ)應(yīng)用能力涵蓋了文生文、圖生文等領(lǐng)域的準(zhǔn)確性和穩(wěn)定性能力,大模型的行業(yè)應(yīng)用能力則涉及多個(gè)重要行業(yè)在研發(fā)設(shè)計(jì)、生產(chǎn)制造、運(yùn)維管理等環(huán)節(jié)的具體場(chǎng)景中表現(xiàn)出的應(yīng)用效果,挖掘大模型潛在工業(yè)應(yīng)用場(chǎng)景。

演講接近尾聲時(shí),徐晧也展示了一款A(yù)I服務(wù)機(jī)器人,可以根據(jù)用戶需要前往房間另一側(cè)選擇相應(yīng)的飲料并送給用戶。他同時(shí)表示,未來,我們會(huì)看到越來越多這樣的應(yīng)用場(chǎng)景。希望人工智能不僅是在云端運(yùn)行大語言模型,也能夠把人工智能算法落地到終端,落地到手機(jī)、個(gè)人電腦、機(jī)器人、汽車、XR眼鏡等產(chǎn)品上,創(chuàng)造出更加豐富多彩的應(yīng)用場(chǎng)景。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )