谷歌AI搜索遭遇當頭一棒：AI Overview結(jié)果紕漏百出

極客網(wǎng)·極客觀察6月3日 多年來，谷歌搜索基本沒有大的變化，但最近卻增加了新AI功能。谷歌的目標很明確，它不想錯過AI浪潮，想與微軟、OpenAI競爭。

遺憾的是，谷歌新推出的AI Overview遠遠稱不上完美，它輸出的結(jié)果不精準，謊話連篇，甚至能逼瘋用戶。例如，AI Overview建議用戶用膠水作為披薩配料，建議食用石塊獲得營養(yǎng)。嚴重的錯誤已經(jīng)影響到谷歌聲譽。

全球有20億人依賴谷歌搜索，AI Overview提供的信息不可靠，后果當然惡劣。雖然其它AI聊天機器人也會抽瘋，但公眾對谷歌的苛刻并非無理取鬧，他們希望谷歌搜索更負責一些。

谷歌AI，持續(xù)水逆

在過去一段時間，谷歌AI產(chǎn)品多次遭受抨擊。例如，2023年2月谷歌推出Bard，與ChatGPT競爭，雖然吹得極厲害，但它提供的信息同樣錯漏百出。

年初時谷歌推出Gemini，它可以生成圖片，也可以變成用語音控制的數(shù)字助手。推出沒多久便有用戶發(fā)現(xiàn)，Gemini不愿意生成以白人為主角的圖片，它對歷史人物的描述也嚴重不準確。

錯誤如此之多，如此之連續(xù)，絕對不是偶然，要么是AI技術(shù)存在缺陷，要么是谷歌技術(shù)實力被夸大。金融分析師則認為，投資者向谷歌施加太大壓力，逼迫谷歌加快創(chuàng)新速度，結(jié)果導致推出的產(chǎn)品不夠成熟。

Investing網(wǎng)站分析師Thomas Monteiro稱：“現(xiàn)在的谷歌別無選擇，企業(yè)必須快速前進，即使跳過幾個步驟也再所不惜?！?/p>

AI搜索，任重道遠

谷歌新聞發(fā)言人Lara Levin認為，AI Overview提供的大多查詢結(jié)果是高質(zhì)量信息，并且還附有鏈接，用來擴充內(nèi)容。她還說，報告中提及的問題大多都出自非常規(guī)查詢，或者是人為操縱的案例，未來谷歌會繼續(xù)優(yōu)化系統(tǒng)。

自2022年ChatGPT獲得成功之后，谷歌努力將AI融入自家產(chǎn)品矩陣。問題在于，大模型是用海量線上數(shù)據(jù)訓練的，這些數(shù)據(jù)充斥著虛假錯誤信息。

雖然面臨諸多困難，谷歌仍然一往無前，最新推出的AI Overview是一個里程碑，它整合了Gemini模型，與搜索捆綁在一起。

按照設(shè)計，AI Overview可以處理復雜查詢，比傳統(tǒng)搜索效率更高。雖然谷歌高調(diào)宣稱將AI Overview與搜索整合好處多多，但現(xiàn)實卻離宣傳有很長一段距離。

AI Overview建議用戶在制作披薩時加入無毒膠水，因為它可以防止奶酪流動。為什么會給出如此荒誕的建議？因為11年前有人在Reddit發(fā)帖，以開玩笑的口吻建議這樣做，AI完全無法識別它是不是玩笑，居然當真了。

還有，AI Overview建議用戶每天要吃一塊石頭，攝取維生素和礦物質(zhì)，這一謬論源自一篇諷刺性文章。

谷歌搜索追求的是關(guān)聯(lián)性、可信度、實用，AI Overviews不只沒有幫上忙，還破壞了搜索。

AI幻覺，難以根除

AI出現(xiàn)錯誤并不稀奇，這就是所謂的“幻覺”，它將錯誤、虛擬信息當成正確。出現(xiàn)幻覺是訓練數(shù)據(jù)存在缺陷、算法不完美、誤解情境造成的。

數(shù)字營銷公司Chelsea Digital的CEO Mike Grehan認為，從本質(zhì)上講，大語言模型就是根據(jù)過去看到的東西對未來進行統(tǒng)計預(yù)測，所以“廢話進去、廢話出來”的情況仍然存在。

AI Overviews相當于給傳統(tǒng)搜索結(jié)果做總結(jié)，然后將總結(jié)反饋給用戶。在輸出答案時，它免不了收集一些惡搞信息、玩笑，所以很容易輸出一些似是而非的東西。

出版商、網(wǎng)站不喜歡AI Overviews，因為它提供長長的摘要信息，然后將網(wǎng)站鏈接放在最后，用戶極可能沒耐心看到最后，點擊鏈接。

有人認為，雖然AI Overviews不完美，會出現(xiàn)錯誤，但大多時候是正確的，它遠比普通人聰明，而且響應(yīng)速度很快，還有，即使現(xiàn)在不完美，未來也會變得接近完美。

真是這樣嗎？紐約大學教授Gary Marcus認為，許多AI企業(yè)都在兜售“美夢”，說準確率將會從80%提升至100%，但是大家要明白，達到80%的準確率相對容易，向AI喂入更多數(shù)據(jù)就行，但最后20%卻充滿挑戰(zhàn)，這部分可能也是所有流程中最難的。

Gary Marcus稱：“你需要做出一些推理，然后還要做決定：這些信息真的有意義嗎？信息來源可靠嗎？你必須像人類一樣檢查信息真假。老實說，只有AGI才能做如此復雜的工作，現(xiàn)在的AI不行?！?/p>

與Meta人工智能主管Yann LeCun一樣，Gary Marcus也認為依靠現(xiàn)在的大語言模型無法創(chuàng)造出AGI。

如果AI Overviews提供的是錯誤答案，谷歌應(yīng)該負責嗎？按照美國1996年制定的《通信規(guī)范法》，谷歌不屬于出版商，不必為第三方內(nèi)容負責。

制定法律時，美國沒有將AI生成的搜索結(jié)果信息考慮進去，AI Overview受不受法規(guī)約束沒有定論，因為很難判斷AI Overview內(nèi)容是不是谷歌創(chuàng)作的。（小刀）

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。