AI生成的聲音逼真到讓人難辨真假，連法庭證據(jù)也面臨挑戰(zhàn)。研究呼吁調(diào)整規(guī)則，讓法官更有權(quán)排除偽造音頻。
在人工智能時(shí)代，法庭上用耳朵來(lái)判斷聲音證據(jù)的真?zhèn)尾辉撌菑?qiáng)制要求，而是應(yīng)更靈活開放。
Gary Schildhorn接到了一通讓任何父母心跳加速的電話。電話那頭，他驚慌失措的兒子說(shuō)自己出了車禍，還被關(guān)進(jìn)了監(jiān)獄。沒過(guò)多久，第二個(gè)電話打來(lái)，聲稱是律師的人告訴Schildhorn，得趕緊支付9000美元保釋金。他正準(zhǔn)備掏錢時(shí)，真正的兒子打來(lái)了電話——原來(lái)他根本沒被抓。Schildhorn差點(diǎn)成了AI語(yǔ)音詐騙的受害者，這種騙局如今越來(lái)越猖獗。AI生成的假聲音不僅讓詐騙分子得逞，也給法律體系帶來(lái)了麻煩。就在最近，法庭上已經(jīng)出現(xiàn)了關(guān)于AI克隆聲音的指控，可現(xiàn)行的音頻證據(jù)處理方式顯然還沒跟上時(shí)代。
根據(jù)現(xiàn)在的《聯(lián)邦證據(jù)規(guī)則》，只要找個(gè)證人上庭，說(shuō)自己熟悉某個(gè)人的聲音，并且覺得錄音聽起來(lái)像那個(gè)人，這段音頻就能作為證據(jù)被接受。具體來(lái)說(shuō)，規(guī)則901規(guī)定，只要有人基于任何場(chǎng)合聽過(guò)某個(gè)聲音，并認(rèn)為它與錄音中的發(fā)言者有關(guān)，就能滿足證據(jù)可采納的要求。這條規(guī)則假設(shè)，這樣的證詞足以證明證據(jù)“就是當(dāng)事人聲稱的那樣”。
但在AI時(shí)代，這個(gè)假設(shè)已經(jīng)站不住腳了。證據(jù)規(guī)則制定委員會(huì)應(yīng)該修改規(guī)則，把901(b)條里的例子從強(qiáng)制性改為參考性。這些例子可以作為滿足真實(shí)性要求的一種情況，但法官仍有權(quán)在發(fā)現(xiàn)其他證據(jù)證明錄音是偽造時(shí)，將其排除。
AI生成的假聲到底有多逼真？過(guò)去幾年，AI語(yǔ)音合成和克隆技術(shù)突飛猛進(jìn)，尤其是去年，成果更是驚人。只要30秒的參考音頻，普通人就能通過(guò)簡(jiǎn)單易用的商業(yè)服務(wù)，生成一個(gè)幾乎以假亂真的聲音克隆。
我們最近做了一組感知研究，專門測(cè)試這些AI假聲的真實(shí)度。在一項(xiàng)大規(guī)模在線實(shí)驗(yàn)中，我們讓300人聽兩段不同的人說(shuō)話錄音，然后問他們一個(gè)簡(jiǎn)單問題：這是同一個(gè)人的聲音，還是不同的人？如果是兩個(gè)真人的聲音，聽眾分辨得很準(zhǔn)。如果兩段錄音來(lái)自同一個(gè)人，他們幾乎百分百能聽出來(lái)；如果是兩個(gè)聲音相似但身份不同的人，他們也只有大約10%的幾率搞混。
問題出在當(dāng)其中一個(gè)聲音是AI克隆的(我們用了ElevenLabs這個(gè)誰(shuí)都能上手的語(yǔ)音克隆服務(wù))。這時(shí)，聽眾有80%的概率認(rèn)為真人和AI假聲是同一個(gè)人，甚至每四個(gè)參與者里就有一個(gè)被所有AI克隆聲音騙了過(guò)去。結(jié)論顯而易見：普通人已經(jīng)很難憑耳朵分辨真聲和AI假聲了。
為了進(jìn)一步驗(yàn)證，我們還做了另一項(xiàng)實(shí)驗(yàn)，讓聽眾直接判斷一段音頻是真人還是AI生成的。結(jié)果比瞎猜(50%)好一點(diǎn)，平均正確率達(dá)到64%，但這離作為確鑿證據(jù)的標(biāo)準(zhǔn)還差得遠(yuǎn)。我們不是唯一發(fā)現(xiàn)這個(gè)問題的研究者。其他團(tuán)隊(duì)也報(bào)告了類似情況，盡管具體結(jié)果因?qū)嶒?yàn)設(shè)計(jì)不同而有差異。比如，另兩組研究人員發(fā)現(xiàn)分辨真假的準(zhǔn)確率比我們高一些，達(dá)到70-80%，但他們用的不是最新的AI克隆技術(shù)，而這些技術(shù)還在不斷進(jìn)步。
當(dāng)然，這些結(jié)論也有局限，畢竟實(shí)驗(yàn)室里的感知研究沒法完全模擬法庭上的真實(shí)場(chǎng)景。比如，音頻的長(zhǎng)短、壓縮率、背景噪音，都會(huì)影響人們判斷聲音身份和自然度的能力。就像Schildhorn被騙子蒙了，但如果是他熟悉的人的聲音，他可能就不會(huì)上當(dāng)。
基于這些技術(shù)變化，我們認(rèn)為，不能簡(jiǎn)單地讓一方隨便找個(gè)證人上庭，說(shuō)“我認(rèn)識(shí)這個(gè)聲音”，就把錄音交給陪審團(tuán)。即便是像Schildhorn這樣真心覺得自己認(rèn)得出聲音的證人，也可能出錯(cuò)?？砂凑宅F(xiàn)在強(qiáng)制性的規(guī)則901(b)(5)，即使對(duì)方拿出了可靠的取證證明錄音是AI偽造的，法官似乎還是得接受這段證據(jù)。這太離譜了。
證據(jù)規(guī)則制定委員會(huì)應(yīng)該動(dòng)手改一改，在規(guī)則901(b)里加個(gè)“可能”二字，改成：“以下僅為例子，而非完整清單，表明可能滿足真實(shí)性要求的證據(jù)?！边@樣一來(lái)，包括找證人辨認(rèn)聲音在內(nèi)的所有列舉方式，都從強(qiáng)制變成可選。
其他關(guān)于AI的真實(shí)性規(guī)則倒不一定需要特別調(diào)整。有人可能會(huì)批評(píng)現(xiàn)在的標(biāo)準(zhǔn)太寬松，只要有點(diǎn)依據(jù)就容易讓各種物證過(guò)關(guān)，或者缺少對(duì)“機(jī)器生成證據(jù)”的專門可靠性分析，甚至覺得讓對(duì)方及時(shí)提出異議的責(zé)任太重。但這些問題不只限于AI生成的內(nèi)容，而是所有物證的通病。
最近關(guān)于AI假聲的研究至少證明了一點(diǎn)：強(qiáng)制性的認(rèn)證方式很快就會(huì)過(guò)時(shí)。
所以，更好的辦法是讓法官能根據(jù)具體案件，靈活判斷一方提供的證據(jù)是否足夠可信。法官還是會(huì)用較低的充分性標(biāo)準(zhǔn)，不至于代替陪審團(tuán)做決定，也不會(huì)加重提出證據(jù)一方的負(fù)擔(dān)，更不會(huì)讓證據(jù)爭(zhēng)議沒完沒了。但規(guī)則不再逼著法官在有確鑿證據(jù)證明是假的情況下還得接受。
這不是為了讓法律面向未來(lái)，而是讓它跟上現(xiàn)在。
本文譯自 Lawfare，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
