2022 年在 AI/ML 領(lǐng)域取得了許多突破性的突破。谷歌、Meta 和微軟等大型科技公司在從量子計(jì)算到生成人工智能的全新創(chuàng)新中取得了重大進(jìn)步。
例如,一些最大的突破包括解決國(guó)際數(shù)學(xué)奧林匹克問(wèn)題的 Meta 的 HyperTreeProofSearch (HTPS);DeepMind 的 Alpha Fold 和 Meta AI 的 ESMFold 用于蛋白質(zhì)折疊預(yù)測(cè);谷歌的DeepNull模擬表型之間協(xié)變量效應(yīng)的關(guān)系并改進(jìn)全基因組關(guān)聯(lián)研究 (GWAS)等等。
接下來(lái),讓我們看看對(duì) 2023 年的一些預(yù)測(cè)。
ChatGPT以其出色的對(duì)話(huà)能力風(fēng)靡互聯(lián)網(wǎng)。它是建立在 OpenAI 的GPT-3上的,GPT-3有 1760 億個(gè)參數(shù),依賴(lài)于更大的模型尺寸。雖然還有其他 LLM 的參數(shù)是 GPT-3 的兩倍、三倍甚至十倍,但 DeepMind 或 Meta 的一些模型(也稱(chēng)為小型語(yǔ)言模型(SLM))的參數(shù)數(shù)量已經(jīng)超過(guò) GPT- 3 在邏輯推理和預(yù)測(cè)等多項(xiàng)任務(wù)上。
除了減小模型的大小外,預(yù)計(jì)還會(huì)有一個(gè)更大的模型,如GPT-4 ,具有大約 100 萬(wàn)億個(gè)參數(shù)。由于目前最大的模型是具有 1.6 萬(wàn)億個(gè)參數(shù)的 Google Switch Transformer 模型,因此跳躍將是巨大的。
然而,為了獲得更大的延遲和可預(yù)測(cè)性,未來(lái)幾年可以看到對(duì)現(xiàn)有模型進(jìn)行微調(diào)以服務(wù)于特定目的。最近,OpenAI 使用達(dá)芬奇更新對(duì) GPT-3 進(jìn)行了微調(diào)。
趨勢(shì)一:生成式 AI 需要可解釋的 AI
文本到圖像的生成是 2022 年打破排行榜的趨勢(shì)。DALL-E、Stable Diffusion 和 Midjourney 等模型在想要試驗(yàn) AI 生成藝術(shù)的愛(ài)好者中名列前茅。對(duì)話(huà)很快從文本到圖像轉(zhuǎn)移到文本到視頻,再到文本到任何東西,并且創(chuàng)建了多個(gè)模型,這些模型也可以生成 3D 模型。
隨著語(yǔ)言模型的擴(kuò)展以及傳播模型的改進(jìn),文本到任何東西的趨勢(shì)預(yù)計(jì)會(huì)上升得更高。公開(kāi)可用的數(shù)據(jù)集使生成式 AI 模型更具可擴(kuò)展性。
這些數(shù)據(jù)集引入了有關(guān)可解釋人工智能的部分,其中訓(xùn)練這些生成模型的每張圖像的屬性變得至關(guān)重要。
趨勢(shì)二:FastSaaS 競(jìng)賽開(kāi)始
趕上生成人工智能趨勢(shì)的公司已經(jīng)開(kāi)始將其作為云端服務(wù)提供。隨著 LLM 和 GPT-3 和 DALL-E 等生成模型的公開(kāi)可用,企業(yè)越來(lái)越容易將它們作為服務(wù)提供,這催生了FastSaaS。
最近,Shutterstock計(jì)劃將 DALL-E 2 集成到其平臺(tái),MicrosoftVS Code添加了 Copilot 作為擴(kuò)展,TikTok宣布推出應(yīng)用內(nèi)文本到圖像 AI 生成器,Canva推出了 AI - 在其平臺(tái)上生成功能。
趨勢(shì)三:依賴(lài)超級(jí)計(jì)算機(jī)
這就是構(gòu)建超級(jí)計(jì)算機(jī)以依賴(lài)于生成任務(wù)以及為公司提供服務(wù)的趨勢(shì)。隨著這些不斷增加的數(shù)據(jù)集和生成模型,對(duì)超級(jí)計(jì)算機(jī)的需求正在上升,并且預(yù)計(jì)會(huì)進(jìn)一步上升。隨著對(duì) FastSaaS 的競(jìng)爭(zhēng),對(duì)更好和高性能計(jì)算的需求是下一件事。
NVIDIA 和微軟最近合作創(chuàng)建了Quantum-2,一個(gè)云原生超級(jí)計(jì)算平臺(tái)。10 月,特斯拉宣布其Dojo超級(jí)計(jì)算機(jī)完全使用特斯拉開(kāi)發(fā)的芯片從零開(kāi)始構(gòu)建。很快,它看起來(lái)可以為企業(yè)客戶(hù)提供訪問(wèn)權(quán)限。此外,Cerebras 還推出了 Andromeda,這是一臺(tái)擁有 1350 萬(wàn)核心的 AI 超級(jí)計(jì)算機(jī),可提供超過(guò) 1 exaflop 的 AI 計(jì)算能力。最近,Jasper 與 Cerebras 合作以實(shí)現(xiàn)更好的性能。
趨勢(shì)四:超越 3nm 芯片
正如摩爾定律所預(yù)測(cè)的那樣,處理能力隨著芯片尺寸的減小而增加。因此,超級(jí)計(jì)算機(jī)要運(yùn)行大型模型,就需要更小的芯片,而且我們已經(jīng)看到芯片越來(lái)越小。
近年來(lái),芯片行業(yè)一直在推動(dòng)小型化,制造商不斷尋找使芯片更小、更緊湊的方法。比如M2芯片和A16,蘋(píng)果分別使用5nm和4nm芯片,預(yù)計(jì)2023年臺(tái)積電會(huì)開(kāi)發(fā)3nm芯片,這將提高AI/ML算法開(kāi)發(fā)的效率和性能。
趨勢(shì)五:量子與傳統(tǒng)計(jì)算的融合
隨著NVIDIA、谷歌和微軟等公司向云端提供硬件服務(wù),量子計(jì)算領(lǐng)域的更多創(chuàng)新勢(shì)必會(huì)發(fā)生。這將允許小型科技公司在不需要重型硬件的情況下訓(xùn)練、測(cè)試和構(gòu)建 AI/ML 模型。
未來(lái)幾年量子計(jì)算的興起絕對(duì)應(yīng)該被開(kāi)發(fā)人員納入,因?yàn)樗氖褂脤⒃谠S多其他領(lǐng)域增加,如醫(yī)療保健、金融服務(wù)等。
在最近的公告中,一臺(tái)量子計(jì)算機(jī)連接到歐洲最快的超級(jí)計(jì)算機(jī),以結(jié)合傳統(tǒng)計(jì)算機(jī)和量子計(jì)算機(jī)以更快地解決問(wèn)題。同樣,Nvidia 也發(fā)布了QODA——簡(jiǎn)稱(chēng) Quantum-Optimised Device Architecture,這是混合量子經(jīng)典計(jì)算機(jī)的首創(chuàng)平臺(tái)。
IBM最近在其 2022 年年度量子峰會(huì)上宣布了他們的量子硬件和軟件,概述了使用 433 量子位 (qubit) 處理器進(jìn)行以量子為中心的超級(jí)計(jì)算的開(kāi)創(chuàng)性愿景。在全球人工智能峰會(huì)上,IBM宣布明年他們將展示一個(gè) 1000 量子比特的系統(tǒng),這將成為各個(gè)領(lǐng)域進(jìn)一步創(chuàng)新的顛覆者。
------------------------峰會(huì)預(yù)告近期,由千家網(wǎng)主辦的2022年第23屆中國(guó)國(guó)際建筑智能化峰會(huì)將正式拉開(kāi)帷幕,本屆峰會(huì)主題為“數(shù)智賦能,碳索新未來(lái)”,屆時(shí)將攜手全球知名建筑智能化品牌及專(zhuān)家,共同分享AI、云計(jì)算、大數(shù)據(jù)、IoT、智慧城市、智能家居、智慧安防等熱點(diǎn)話(huà)題與最新技術(shù)應(yīng)用,并探討如何打造“更低碳、更安全、更穩(wěn)定、更開(kāi)放”的行業(yè)生態(tài),助力“雙碳”目標(biāo)的實(shí)現(xiàn)。
歡迎建筑智能化行業(yè)同仁報(bào)名參會(huì),分享交流!
報(bào)名方式
成都站(12月20日):https://www.huodongxing.com/event/5657854318600
西安站(12月22日):https://www.huodongxing.com/event/4638585444400
廣州站(2023年1月3日):https://www.huodongxing.com/event/2638587914600
上海站(待定):https://www.huodongxing.com/event/3638582473900
北京站(待定):https://www.huodongxing.com/event/4638577546900
更多2022年峰會(huì)信息,詳見(jiàn)峰會(huì)官網(wǎng):http://summit.qianjia.com/
- 由盈轉(zhuǎn)虧 宜通世紀(jì)2024年凈虧損3034.99 萬(wàn)元 同比減少162.98%
- 光庫(kù)科技2024年?duì)I收9.99億元,同比增長(zhǎng)40.71%
- 中貝通信:完成智算中心全國(guó)業(yè)務(wù)布局,在服算力15000P
- 千家早報(bào)|iOS 18.4正式版發(fā)布:支持5G-A 網(wǎng)絡(luò) 蘋(píng)果AI上線(xiàn)中文語(yǔ)言;2024年廣東人工智能核心產(chǎn)業(yè)規(guī)模超2200億元——2025年04月02日
- 中國(guó)衛(wèi)通2024年實(shí)現(xiàn)凈利潤(rùn)4.54億元 同比增長(zhǎng)30.31%
- 達(dá)闥凌晨發(fā)布聲明:公司正常經(jīng)營(yíng)調(diào)整
- Omdia觀察:應(yīng)對(duì)AI時(shí)代 電信運(yùn)營(yíng)商加大自研提升競(jìng)爭(zhēng)力
- 華為的2024年:以全面智能化為錨點(diǎn),重塑數(shù)字世界底層邏輯
- 電子科技大學(xué)武剛教授:通感融合技術(shù)演進(jìn)路徑漸成共識(shí) 產(chǎn)業(yè)生態(tài)構(gòu)建仍面臨挑戰(zhàn)
- 航天電器2024年?duì)I收50.25億元:凈利潤(rùn)3.47億元 同比下降53.75%
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。