亞馬遜今年因其在多家實(shí)體超市安裝的“Just Walk Out”技術(shù)而受到批評(píng)。這套由AI驅(qū)動(dòng)的系統(tǒng)讓顧客可以直接選購(gòu)商品后離開，AI通過(guò)大量傳感器判斷顧客選擇的商品，然后自動(dòng)結(jié)賬。然而，今年四月有報(bào)道稱，這項(xiàng)技術(shù)實(shí)際上需要印度的約1000名工人手動(dòng)檢查近三分之二的交易。亞馬遜迅速回應(yīng)稱這些報(bào)道有誤，表示印度員工只是對(duì)系統(tǒng)進(jìn)行審核，并未查看所有商店的視頻。同時(shí)，亞馬遜補(bǔ)充道，這與任何重視準(zhǔn)確性的AI系統(tǒng)沒有區(qū)別，人類審查員在此類系統(tǒng)中很常見。
不論具體細(xì)節(jié)如何，亞馬遜的案例是一個(gè)高調(diào)的例子，展示了企業(yè)是否夸大了其AI使用的一個(gè)新興問(wèn)題。這種現(xiàn)象被稱為“AI虛假宣傳”，類似于環(huán)保領(lǐng)域的“綠色洗”。
首先，回顧一下AI的定義。雖然沒有確切的定義，AI讓計(jì)算機(jī)能夠?qū)W習(xí)和解決問(wèn)題。AI在經(jīng)過(guò)大量信息訓(xùn)練后能做到這一點(diǎn)。近年來(lái)備受關(guān)注的是所謂的“生成式AI”，這種AI專門用于創(chuàng)造新內(nèi)容，比如文本對(duì)話、音樂(lè)或圖像。ChatGPT、Google的Gemini和Microsoft的Copilot是生成式AI的流行例子。
在AI虛假宣傳中，有幾種類型。有些公司聲稱使用AI，實(shí)際上只是使用了不太復(fù)雜的計(jì)算技術(shù)；有些則夸大了其AI的效果，或聲稱其AI解決方案已完全投入使用，實(shí)際上并非如此。此外，還有一些公司只是將AI聊天機(jī)器人添加到其現(xiàn)有的非AI操作軟件上。
根據(jù)英國(guó)和芬蘭的投資基金OpenOcean的數(shù)據(jù)，2022年只有10%的科技初創(chuàng)公司在推介中提到使用AI，這一比例在2023年上升到超過(guò)四分之一。OpenOcean預(yù)計(jì)今年這一比例將超過(guò)三分之一。OpenOcean團(tuán)隊(duì)成員Sri Ayangar表示，競(jìng)爭(zhēng)融資和希望看起來(lái)處于技術(shù)前沿，促使一些公司夸大其AI能力。
Ayangar說(shuō)：“一些創(chuàng)始人似乎認(rèn)為，如果他們?cè)谕平橹胁惶岬紸I，這可能會(huì)使他們處于不利地位，無(wú)論AI在他們的解決方案中扮演什么角色?！彼a(bǔ)充道：“根據(jù)我們的分析，聲稱擁有AI能力的公司與展示出可見AI驅(qū)動(dòng)結(jié)果的公司之間存在顯著差距?！?/p>
這問(wèn)題已悄然存在多年。根據(jù)另一家技術(shù)投資公司MMC Ventures的數(shù)據(jù)，2019年的一項(xiàng)研究發(fā)現(xiàn)，自稱為“AI初創(chuàng)公司”的新技術(shù)公司中有40%實(shí)際上幾乎沒有使用AI。MMC Ventures的合伙人Simon Menashy說(shuō)：“今天的問(wèn)題與當(dāng)時(shí)一樣，外加一個(gè)不同的問(wèn)題?！彼忉尩溃骸凹舛薃I功能現(xiàn)在每個(gè)公司都可以買到，價(jià)格相當(dāng)于標(biāo)準(zhǔn)軟件。但許多公司只是將聊天機(jī)器人界面放在非AI產(chǎn)品上，而不是構(gòu)建整個(gè)AI系統(tǒng)?！?/p>
英國(guó)四大會(huì)計(jì)師事務(wù)所之一的KPMG新興技術(shù)風(fēng)險(xiǎn)部門負(fù)責(zé)人Douglas Dick表示，AI虛假宣傳的問(wèn)題并沒有得到一個(gè)統(tǒng)一的AI定義的幫助。Dick說(shuō)：“如果我問(wèn)一屋子的人他們對(duì)AI的定義，他們會(huì)給出不同的答案。這個(gè)術(shù)語(yǔ)被非常廣泛和松散地使用，沒有明確的參考點(diǎn)。這種模糊性導(dǎo)致了AI虛假宣傳的出現(xiàn)。”他補(bǔ)充道：“AI虛假宣傳可能對(duì)企業(yè)產(chǎn)生令人擔(dān)憂的影響，從為技術(shù)和服務(wù)支付過(guò)高費(fèi)用，到未能達(dá)到AI被期望幫助實(shí)現(xiàn)的運(yùn)營(yíng)目標(biāo)?！?/p>
與此同時(shí)，對(duì)于投資者來(lái)說(shuō)，辨別真正創(chuàng)新的公司變得更加困難。Ayangar說(shuō)：“如果消費(fèi)者對(duì)那些聲稱提供先進(jìn)AI驅(qū)動(dòng)解決方案的產(chǎn)品有未滿足的期望，這可能會(huì)削弱他們對(duì)那些真正進(jìn)行開創(chuàng)性工作的初創(chuàng)公司的信任?！?/p>
在美國(guó)，監(jiān)管機(jī)構(gòu)開始關(guān)注。今年早些時(shí)候，美國(guó)證券交易委員會(huì)(SEC)表示將對(duì)兩家投資咨詢公司因關(guān)于其AI使用程度的虛假和誤導(dǎo)性陳述進(jìn)行起訴。國(guó)際律師事務(wù)所Charles Russell Speechlys的合伙人Nick White表示：“SEC的堅(jiān)定立場(chǎng)表明，在AI虛假宣傳方面沒有回旋余地，這意味著至少在美國(guó)，我們可以預(yù)計(jì)未來(lái)會(huì)有更多的罰款和制裁?！?/p>
在英國(guó)，已有涵蓋AI虛假宣傳的法規(guī)和法律，包括廣告標(biāo)準(zhǔn)管理局(ASA)的行為準(zhǔn)則，該準(zhǔn)則規(guī)定營(yíng)銷傳播不得在實(shí)質(zhì)上誤導(dǎo)或可能誤導(dǎo)消費(fèi)者。英國(guó)公司法事務(wù)所Walker Morris的監(jiān)管團(tuán)隊(duì)副主席Michael Cordeaux表示，AI聲明已成為ASA調(diào)查廣告的一個(gè)越來(lái)越常見的特征。
例如，ASA曾認(rèn)為關(guān)于一款應(yīng)用程序的Instagram付費(fèi)帖子中“用AI增強(qiáng)你的照片”的描述夸大了該應(yīng)用程序的性能，因此具有誤導(dǎo)性。Cordeaux表示：“很明顯，AI聲明越來(lái)越流行，并且顯然在吸引消費(fèi)者興趣方面非常有效。”
牛津大學(xué)技術(shù)與監(jiān)管教授、全球AI專家Sandra Wachter認(rèn)為：“我們正處于AI炒作周期的頂峰?！彼赋?，我們似乎忘記了是否有必要在所有任務(wù)中使用AI。她還提到，AI的環(huán)境影響常常被忽視。
Wachter說(shuō)：“AI不是從樹上長(zhǎng)出來(lái)的……這項(xiàng)技術(shù)對(duì)氣候變化的貢獻(xiàn)已經(jīng)超過(guò)了航空業(yè)。我們必須從這種單方面的過(guò)度炒作討論中走出來(lái)，認(rèn)真考慮AI在具體任務(wù)和行業(yè)中的實(shí)際益處，而不是盲目地將其應(yīng)用于所有事物?！?/p>
然而，MMC Ventures研究主管Advika Jalan認(rèn)為，從長(zhǎng)遠(yuǎn)來(lái)看，AI虛假宣傳問(wèn)題可能會(huì)自行消退。她說(shuō)：“AI變得如此普遍——即使只是ChatGPT的包裝——‘AI驅(qū)動(dòng)’作為品牌工具可能會(huì)在一段時(shí)間后失去其差異化作用。就像曾經(jīng)說(shuō)‘我們?cè)诨ヂ?lián)網(wǎng)上’一樣。”
本文譯自 BBC，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
