Gartner研究表明,隨著時(shí)間的推移和價(jià)格的持續(xù)下降,以及云部署在敏捷性、創(chuàng)新速度和生態(tài)系統(tǒng)方面的優(yōu)勢,中國企業(yè)的人工智能(AI)部署將逐步從本地轉(zhuǎn)向云端。Gartner預(yù)測,到2027年,中國的全部AI推理工作負(fù)載中,基于云的工作負(fù)載占比將從前的20%上升至80%。
Gartner高級研究總監(jiān)方琦表示:“多家中國生成式人工智能(GenAI)廠商,其大語言模型應(yīng)用編程接口(API)的推理成本已經(jīng)降低了90%以上,有力地推動(dòng)了企業(yè)地GenAI采用。企業(yè)數(shù)據(jù)和分析(D&A)領(lǐng)導(dǎo)者應(yīng)積極評估相關(guān)影響,并擴(kuò)展GenAI解決方案,以滿足未來需要?!?/p>
DeepSeek于2024年5月6日推出了V2模型,價(jià)格僅為GPT-4 Turbo的1/75。幾天后,字節(jié)跳動(dòng)于5月16日推出豆包大模型,宣稱比行業(yè)平均價(jià)格便宜99.3%。作為應(yīng)對,阿里巴巴、百度和騰訊紛紛調(diào)整了其大語言模型API的價(jià)格。
圖1:中國主流廠商大語言模型與OpenAI的價(jià)格變化情況比較
API價(jià)格下降短期內(nèi)對企業(yè)的影響有限
在計(jì)算企業(yè)GenAI解決方案的總擁有成本(TCO)時(shí),需要將微調(diào)成本考慮在內(nèi)。首先,可以使用高端GenAI模型來評估企業(yè)用例的技術(shù)可行性,然后使用企業(yè)自身的數(shù)據(jù),對小型模型進(jìn)行微調(diào),以執(zhí)行特定的下游任務(wù)。此外,在使用API將數(shù)據(jù)上傳到云端時(shí),還應(yīng)考慮額外的數(shù)據(jù)安全和隱私要求。與規(guī)模較小的模型相比,最先進(jìn)的大語言模型的價(jià)格變化并不顯著,這將進(jìn)一步減輕價(jià)格變動(dòng)的影響。
方琦表示:“已部署本地GenAI解決方案的中國企業(yè),不會受到大語言模型 API價(jià)格變化的影響。對于云部署來說,API成本只是GenAI解決方案整體成本的一部分。需要注意的是,價(jià)格只是評估因素之一,還需要對其他因素進(jìn)行仔細(xì)審查,如模型質(zhì)量、吞吐量和延時(shí)。”
API價(jià)格的持續(xù)下降,推動(dòng)了對AI部署策略的重新評估
企業(yè)應(yīng)根據(jù)業(yè)務(wù)重點(diǎn)來選擇AI部署方式,尤其需要從六個(gè)角度比較云部署和本地部署方案的優(yōu)劣勢,這六個(gè)角度分別是:企業(yè)數(shù)據(jù)的主要存放位置、安全和監(jiān)管合規(guī)、專門的基礎(chǔ)設(shè)施、平臺/集成的優(yōu)劣勢、運(yùn)營支出(OpEx)與資本性支出(CapEx)、人才和技能集合。
方琦表示:“隨著大語言模型API的平均價(jià)格不斷下降,云部署解決方案在未來將擁有更明顯的優(yōu)勢。此外,隨著技術(shù)的加速迭代和相關(guān)架構(gòu)的日益復(fù)雜化,云部署解決方案的優(yōu)勢將在許多場景中更加突顯。因此,各企業(yè)機(jī)構(gòu)需要重新評估其AI部署戰(zhàn)略?!?/p>
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 國家發(fā)改委成立低空經(jīng)濟(jì)發(fā)展司
- 什么是人工智能網(wǎng)絡(luò)? | 智能百科
- 工信部:2025年推進(jìn)工業(yè)5G獨(dú)立專網(wǎng)建設(shè)
- 人工智能如何改變?nèi)蛑悄苁謾C(jī)市場
- 企業(yè)網(wǎng)絡(luò)安全挑戰(zhàn)頻出?Fortinet 給出破解之法
- 2025年生成式人工智能將如何影響眾行業(yè)
- 報(bào)告:人工智能推動(dòng)數(shù)據(jù)中心系統(tǒng)支出激增25%
- 千家早報(bào)|馬斯克預(yù)測:人工智能或?qū)⒊絾蝹€(gè)人類;鴻蒙生態(tài)(武漢)創(chuàng)新中心啟用,推動(dòng)鴻蒙軟硬件在武漢首試首用——2024年12月27日
- 中移建設(shè)被拉入軍采“黑名單”
- 大理移動(dòng)因違規(guī)套現(xiàn)等問題,擬被列入軍采失信名單
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。