Gartner研究副總裁孫鑫：AI Agent要被廣泛使用，需要邁過這些檻

3月27日消息，大模型熱潮推動AI Agent應(yīng)用高漲，近日，Gartner公司發(fā)布了 2025年數(shù)據(jù)和分析（D&A）的9大重要趨勢，其中，就指出AI代理對于滿足臨時的、靈活的或復(fù)雜的自適應(yīng)自動化需求至關(guān)重要。使用AI智能體進行數(shù)據(jù)分析，完成業(yè)務(wù)成果的自動化閉環(huán)具有變革性意義。

Gartner研究副總裁孫鑫（Julian Sun）在談到AI Agent在企業(yè)數(shù)據(jù)和分析中的使用時表示，企業(yè)不能僅僅依賴大語言模型（LLM），還需要采用其他形式的分析和AI技術(shù)，多種AI技術(shù)的結(jié)合可提高AI的影響力和可靠性。

孫鑫向TechWeb表示，如今市場上有各種預(yù)構(gòu)建的Agent，包括通用生產(chǎn)力Agent、特定任務(wù)Agent、特定業(yè)務(wù)功能Agent以及行業(yè)垂直Agent。但是，目前AI Agent的局限性在于超出特定范圍后表現(xiàn)不佳。AI Agent被廣泛使用還存以下這些障礙和困難：

可靠性問題： 當(dāng)前的AI Agent依賴于像LLMs這樣本身就存在不確定性的組件，且在一個Agent的工作流程中通常包含多個步驟，每個步驟都可能出錯，導(dǎo)致錯誤累積，整體可靠性不高。

規(guī)劃能力不足： 有效的規(guī)劃是Agent的核心功能，但目前的LLMs在處理不熟悉的規(guī)劃任務(wù)時表現(xiàn)不佳。更先進的推理模型雖然有所改善，但成本高、延遲大，難以在許多場景中應(yīng)用。

成本和延遲： LLM驅(qū)動的AI Agent通常需要多次調(diào)用LLM，增加了計算成本和響應(yīng)時間。復(fù)雜的Agent架構(gòu)（如包含反饋循環(huán)和多Agent系統(tǒng)）會進一步加劇這些問題。

可解釋性差： 盡管AI Agent可以提供行動解釋，但其核心的LLM本質(zhì)上是概率性的“黑箱”，難以完全理解其決策過程，這在需要Agent自主決策和行動的場景中是一個重要風(fēng)險。

安全性風(fēng)險： 由于AI Agent具有更高的自主性，因此更難進行大規(guī)模的管理和安全保障。其潛在的攻擊面擴大，包括其觸發(fā)和參與的事件鏈和交互，這些通常對人類或系統(tǒng)操作員來說是不可見或無法阻止的。另外潛在的風(fēng)險如數(shù)據(jù)泄露、系統(tǒng)資源濫用、惡意活動、代碼邏輯錯誤以及供應(yīng)鏈風(fēng)險。

期望與現(xiàn)實的差距： 市場對AI Agent的期望普遍較高，希望其能夠處理廣泛的任務(wù)。然而，現(xiàn)實情況是目前的AI Agent更適合處理范圍較窄、較為專業(yè)的任務(wù)。這種認知差距也會阻礙AI Agent的有效應(yīng)用。

特定領(lǐng)域的挑戰(zhàn)： 例如在人力資源領(lǐng)域，由于工作流程涉及多個應(yīng)用、數(shù)據(jù)孤島以及對高準(zhǔn)確性的要求，實現(xiàn)廣泛應(yīng)用的AI Agent面臨著數(shù)據(jù)集成和系統(tǒng)互操作性等方面的特殊困難。

孫鑫認為，目前來看，針對特定需求和場景的專用AI Agent由于其更高的可控性和可靠性，可能在短期內(nèi)更容易落地和取得實際應(yīng)用。成功的多Agent系統(tǒng)也往往通過將流程分解為不同的任務(wù)，由更專業(yè)化的Agent來處理，這進一步支持了專業(yè)化Agent在復(fù)雜場景中的應(yīng)用前景。

未來AI Agent的發(fā)展趨勢，如更強的規(guī)劃和推理能力、大行動模型（LAMs）、多模態(tài)模型以及神經(jīng)符號AI，可能會逐步提升AI Agent的通用能力，從而推動通用AI Agent的發(fā)展。

另外，附上《Gartner2025年數(shù)據(jù)和分析重要趨勢》：

趨勢1：高消耗數(shù)據(jù)產(chǎn)品

為了充分利用高消耗數(shù)據(jù)產(chǎn)品，D&A領(lǐng)導(dǎo)者應(yīng)重點關(guān)注關(guān)鍵業(yè)務(wù)用例，通過產(chǎn)品關(guān)聯(lián)和規(guī)模化來減少數(shù)據(jù)交付方面的挑戰(zhàn)，優(yōu)先交付可重復(fù)使用和可組合的最小可行數(shù)據(jù)產(chǎn)品，以便讓團隊不斷改進這些產(chǎn)品。同時，D&A領(lǐng)導(dǎo)者還必須在數(shù)據(jù)生產(chǎn)和使用團隊之間就關(guān)鍵績效指標(biāo)達成共識，這對于衡量數(shù)據(jù)產(chǎn)品的成功至關(guān)重要。

趨勢2：元數(shù)據(jù)管理解決方案

有效的元數(shù)據(jù)管理應(yīng)先從技術(shù)元數(shù)據(jù)出發(fā)，然后擴展到業(yè)務(wù)元數(shù)據(jù)以增強上下文。通過整合各種類型的元數(shù)據(jù)，企業(yè)能夠?qū)崿F(xiàn)數(shù)據(jù)目錄、數(shù)據(jù)脈絡(luò)和AI用例。因此，選擇有助于自動發(fā)現(xiàn)和分析元數(shù)據(jù)的工具勢在必行。

趨勢3：多模態(tài)數(shù)據(jù)編織

建立強大的元數(shù)據(jù)管理實踐涉及獲取和分析整個數(shù)據(jù)管道中的元數(shù)據(jù)。數(shù)據(jù)編織提供的洞察和自動化可滿足編排需求、通過數(shù)據(jù)運維（DataOps）實現(xiàn)更卓越的運營，并最終實現(xiàn)數(shù)據(jù)產(chǎn)品。

趨勢4：合成數(shù)據(jù)

識別缺失、不完整或獲取成本高的數(shù)據(jù)對于推進AI行動至關(guān)重要。合成數(shù)據(jù)既可以作為原始數(shù)據(jù)的變體，也可以替代敏感數(shù)據(jù)，能夠在促進AI發(fā)展的同時保護數(shù)據(jù)隱私。

趨勢5：代理式分析

使用AI智能體進行數(shù)據(jù)分析，完成業(yè)務(wù)成果的自動化閉環(huán)具有變革性意義。Gartner建議嘗試開發(fā)自然語言接口連接業(yè)務(wù)洞察的用例，并評估供應(yīng)商的數(shù)字化工作場所應(yīng)用集成路線圖。同時，建立治理機制可最大程度地減少錯誤和幻覺，并且通過AI就緒數(shù)據(jù)原則評估數(shù)據(jù)就緒度十分重要。

趨勢6：AI代理

AI代理對于滿足臨時的、靈活的或復(fù)雜的自適應(yīng)自動化需求至關(guān)重要。企業(yè)不能僅僅依賴大語言模型（LLM），還需要采用其他形式的分析和AI技術(shù)。D&A領(lǐng)導(dǎo)者應(yīng)使AI代理能夠無縫訪問和共享所有應(yīng)用的數(shù)據(jù)。

趨勢7：小語言模型

相比大語言模型，Gartner更推薦企業(yè)考慮使用小語言模型，以便在特定領(lǐng)域獲得更加準(zhǔn)確、更符合語境的AI輸出結(jié)果。Gartner建議提供用于檢索增強生成或微調(diào)自定義領(lǐng)域模型的數(shù)據(jù)，特別是在本地使用時，可以處理敏感數(shù)據(jù)并減少計算資源和成本。

趨勢8：復(fù)合型AI

多種AI技術(shù)的結(jié)合可提高AI的影響力和可靠性。D&A團隊不應(yīng)局限于GenAI和LLM（大語言模型），還應(yīng)整合數(shù)據(jù)科學(xué)、機器學(xué)習(xí)、知識圖譜以及優(yōu)化等技術(shù)，以實現(xiàn)全面的AI解決方案。

趨勢9：決策智能平臺

從數(shù)據(jù)驅(qū)動到以決策為中心的轉(zhuǎn)變至關(guān)重要。Gartner建議采取的步驟包括：優(yōu)先考慮急需建模的業(yè)務(wù)決策、調(diào)整決策智能（DI）實踐、評估DI平臺。成功的關(guān)鍵在于重新發(fā)掘數(shù)據(jù)科學(xué)技術(shù)并解決決策自動化的道德、法律和合規(guī)問題。（果青）

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。