丨劃重點
1. 對AI生成內(nèi)容進行標記是法律法規(guī)要求的，這不意味著平臺能完全免責(zé)，平臺還需要履行技術(shù)識別、停止傳輸、處置措施和報告等責(zé)任。
2. 直播間使用明星面孔，侵犯了明星的肖像權(quán)，還涉及到虛假宣傳、欺詐消費者和不正當競爭等問題。
3. 如果在銀行有能力識別非真實人臉的情況下間接導(dǎo)致了AI換臉詐騙給儲戶造成損失，這種情況下可能需要擔(dān)責(zé)。
4. 消費者需要更加重視個人信息的保護，盡量避免無必要的授權(quán)，可以拒絕使用要求授權(quán)過多個人信息的應(yīng)用。
丨概述
AIGC的爆火讓人們看到了人工智能日常應(yīng)用的可能，其場景覆蓋文字/圖片/音頻/視頻等形式的內(nèi)容生成，在特定領(lǐng)域，AIGC相關(guān)的內(nèi)容的質(zhì)量、可靠性已經(jīng)遠超人類，然而這種高度的“仿真”，也衍生出了新的問題——AI詐騙。
北京市岳成律師事務(wù)所高級合伙人岳屾山認為，技術(shù)具有兩面性，對待其態(tài)度不能一概而論，需要將其納入法律框架下規(guī)范發(fā)展。而針對AI詐騙，岳律師認為個人信息泄露的情況仍很普遍，普通人在使用相關(guān)設(shè)備和軟件時需盡量避免無必要的授權(quán)，但詐騙分子不斷變化和“創(chuàng)新”，最根本的防范防范還是保持警惕、提高對詐騙的認知。
01
AI內(nèi)容標記無法完全規(guī)避責(zé)任
劉興亮：現(xiàn)在，許多平臺對AIGC生成的內(nèi)容會有明確風(fēng)險提示標記，這種提示有效嗎？
岳屾山：標記是根據(jù)法規(guī)明確規(guī)定的，要求新技術(shù)和應(yīng)用來制作、發(fā)布、傳播非真實音視頻信息，應(yīng)該采用顯著的方式進行標記。標記只是一種規(guī)避責(zé)任的方式，因為法律要求標記，但并不意味著完全免除責(zé)任，除了標記之外還有其他的義務(wù)需要履行。
例如，平臺應(yīng)該部署一些用于識別違法違規(guī)音視頻和非真實音視頻的技術(shù)，如果發(fā)現(xiàn)違反法律禁止或規(guī)定的信息內(nèi)容，必須依法停止傳輸這些信息，并采取刪除等處置措施來防止信息的擴散。同時，還需要妥善保存相關(guān)記錄，并向相關(guān)部門等進行報告。
所以，平臺有很多義務(wù)需要履行，僅僅進行標記是不能完全免除責(zé)任的。
劉興亮：新技術(shù)、新應(yīng)用帶來的潛在風(fēng)險，我們應(yīng)該采取什么樣的態(tài)度對待？
岳屾山：因為涉及到較為技術(shù)性的內(nèi)容，就我個人而言，對于新的技術(shù)或應(yīng)用，包括新的營商模式和經(jīng)營模式的出現(xiàn)，應(yīng)該給予適度的關(guān)注和寬松的環(huán)境來培育它們，看它們是否能夠發(fā)展起來。
不過，對于人工智能換臉，目前沒有看到多少正面評價。
不過，也有少量的人嘗試用這項技術(shù)“復(fù)活”已故親人，以慰藉思念之情，我認為這可能是人工智能換臉技術(shù)對我們的生活和社會產(chǎn)生積極影響的一種可能性存在。
只要這項技術(shù)具有正面意義的可能，對待它的態(tài)度就不能一“封”了之，應(yīng)在現(xiàn)有的法律框架內(nèi)對其進行必要的規(guī)制，以避免它成為一匹脫韁的野馬。
02
“AI孫燕姿”存在諸多侵權(quán)風(fēng)險
劉興亮：關(guān)于AI孫燕姿的話題，最近孫燕姿發(fā)布相關(guān)聲明，意思是不會去追責(zé)，這種情況下用戶能隨便使用嗎？
岳屾山：AI換臉明星翻唱，涉及的法律問題主要涉及肖像權(quán)。
民法典規(guī)定，未經(jīng)他人同意使用他人肖像屬于肖像侵權(quán)，使用AI換臉就存在這種可能性，特別是在直播間中使用明星的面孔進行直播，明顯侵犯了明星的肖像權(quán)，因為明星不可能授權(quán)他人使用他們的面孔進行直播。另外，這種行為還涉及到虛假宣傳、欺詐消費者和不正當競爭等問題。
直播中的AI換臉，來源：網(wǎng)絡(luò)
有關(guān)“聲音”的權(quán)利，民法典明確了將其按照肖像權(quán)規(guī)定處理。如果孫燕姿未允許他人使用其聲音，就會構(gòu)成侵權(quán)，并且可能還涉及侵犯姓名權(quán)的問題。此外，如果使用她的歌曲進行商業(yè)活動，還需要支付費用，并可能需要獲得詞曲作者等進行著作權(quán)的授權(quán)。
劉興亮：以銀行轉(zhuǎn)賬為例，轉(zhuǎn)賬過程中，因為人臉識別被騙，誰來承擔(dān)責(zé)任，銀行需要擔(dān)責(zé)嗎？
岳屾山：轉(zhuǎn)賬過程人臉驗證，會有眨眼、搖頭等動作的驗證，如果這個過程中遭遇詐騙，銀行是否需要擔(dān)責(zé)，取決于銀行在人臉識別技術(shù)方面是否存在一些罕見的漏洞。比如，通過調(diào)用攝像頭時，銀行APP能否辨認出真實的攝像頭，或者是否使用了其他技術(shù)手段對人臉進行了改變。
如果在銀行有能力識別非真實人臉的情況下，因為詐騙分子通過第三方設(shè)備，比如通過攝像頭畫面欺騙了銀行的人臉識別系統(tǒng)，（給儲戶帶來了直接損失），這種情況下銀行可能需要擔(dān)責(zé)；如果技術(shù)監(jiān)測確實發(fā)現(xiàn)銀行無法識別出這種情況，即技術(shù)無法達到防止欺詐的要求，就不能要求銀行承擔(dān)責(zé)任。
除了銀行，也需要考慮平臺是否有發(fā)現(xiàn)欺詐行為的標志，是否具備識別的義務(wù)等，如果平臺違反了這些義務(wù)，相應(yīng)地就要承擔(dān)責(zé)任。
但實際上，很多詐騙行為都是點對點進行，銀行或平臺很少直接參與其中，詐騙分子往往會規(guī)避銀行或平臺的驗證方式，以盡量減少被發(fā)現(xiàn)的可能，畢竟這是一種犯罪行為。
03
防范數(shù)據(jù)泄露，是反詐騙的核心
劉興亮：現(xiàn)在有很多觀點認為我們目前防范AI詐騙關(guān)鍵在于防范數(shù)據(jù)泄露，這種觀點你認同嗎？
岳屾山：個人信息泄露的問題一直都非常嚴重。電信詐騙之所以成功的一大原因就是因為詐騙者獲取了相應(yīng)的個人信息。
刑法中有關(guān)個人信息保護的方面規(guī)定了非法泄露公民個人信息屬于侵犯個人信息罪，需要追究責(zé)任。在民法典的《消費者權(quán)益保護法》、《數(shù)據(jù)安全法》、《網(wǎng)絡(luò)安全法》等法律中，都要求企業(yè)在收集個人信息時必須遵循合法、正當和必要的原則。特別是對于涉及人臉等生物特征的信息，屬于敏感信息，每次收集都需要單獨獲得用戶的同意，并受到其他限制性規(guī)定的約束。
這些法律法規(guī)，旨在保護我們的個人隱私，并要求所有收集到個人信息的企業(yè)，在處理和使用時都必須嚴格按照約定和法律規(guī)定進行，并具備必要的技術(shù)和軟件條件來保護信息不被泄露。
所以，消費者需要更加重視個人信息的保護，盡量避免無必要的授權(quán)。如果某個應(yīng)用要求我們授權(quán)過多的個人信息，可以拒絕授權(quán)，即使這樣可能導(dǎo)致無法使用應(yīng)用。現(xiàn)在法律也有明確，應(yīng)用不允許索取過多個人信息相關(guān)權(quán)限，且不能拒絕用戶使用。
例如，以前我們使用某個導(dǎo)航軟件要求訪問通訊錄，實際上只需要位置信息即可，這種情況下，《國家的網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》和《個人信息保護法》等都進行了詳細的規(guī)定。
另外，詐騙分子通常會使用各種手段篩選目標客戶，比如發(fā)送大量的短信，他們不需要知道每個人的具體個人信息，而是通過通用的手法來吸引潛在受害者的注意力。比如最近的“上門槍決”短信，詐騙分子不需要每個人都相信，只需要找到那些容易受騙的人，這種方式可以幫助詐騙分子最大限度地減少成本并加快篩選的速度。
近期在網(wǎng)絡(luò)中熱議的“上門槍斃”詐騙短信，來源：網(wǎng)絡(luò)
04
技術(shù)不是萬能的，治理與監(jiān)管關(guān)鍵在人
劉興亮: 對AI換臉詐騙的治理和監(jiān)管還需要哪些主體，以什么樣的形式參與？
岳屾山：社會治理的層面確實是多主體參與的，這樣才能形成良好的氛圍。在制定規(guī)則和框架方面，一方面是在政府層面或立法層面進行，需要有相應(yīng)規(guī)則和標準來界定詐騙行為，這些規(guī)則可能需要在立法層面進行制定，包括對其性質(zhì)和標準的界定等。
另外，通過立法或政府的行政政策可能需要一定時間，存在不及時的可能，所以很多時候可以通過行業(yè)協(xié)會的形式提前制定一些規(guī)范或標準，雖然它們可能沒有強制力，但可以起到引導(dǎo)作用。
針對法律法規(guī)在落地過程中的執(zhí)行，需要執(zhí)法部門加強監(jiān)管，且這種場景也考驗監(jiān)管的技術(shù)，我認為這種情況下雙方都在看誰的技術(shù)更高超，誰能夠限制住這種行為。技術(shù)本身并不是萬能的，它的應(yīng)用取決于人們?nèi)绾问褂煤凸芾怼?/strong>
劉興亮：針對不同的主體行為的規(guī)范，目前有哪些具體的法律法規(guī)？
岳屾山：目前在互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定方面已經(jīng)有一些具體的規(guī)定，特別是針對人工智能和AI換臉等技術(shù)。
今年4月份，互聯(lián)網(wǎng)信息辦公室發(fā)布了關(guān)于生成式人工智能服務(wù)管理辦法的征求意見稿，進一步規(guī)范了相關(guān)服務(wù)的管理。通過這些規(guī)定，針對人工智能和AI換臉等方面有了較為直接的管理措施。
國家法律層面也有一些原則層面的法律和規(guī)定，包括《民法典》、《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等，這些法律和規(guī)定都涉及到保護個人信息和肖像權(quán)，以及對實施詐騙等行為應(yīng)承擔(dān)的責(zé)任，為相關(guān)問題提供了一定的規(guī)范。
劉興亮：普通人在遭遇AI詐騙時應(yīng)該怎樣處理，有什么建議嗎？
岳屾山：作為一名律師，我認為對于那些侵犯他人權(quán)益的行為，尤其是在涉及AI詐騙和肖像侵權(quán)的行為，受害者可以采取一些維權(quán)措施，以避免他人隨意使用其肖像等信息，這種動作可以防止肖像被濫用，并對軟件的使用和研發(fā)產(chǎn)生一定的約束。
我建議加強對肖像權(quán)的保護，特別是在如今AI換臉技術(shù)如此便利的情況下。除了個人的自我保護外，平臺和執(zhí)法機構(gòu)也應(yīng)承擔(dān)起相應(yīng)的責(zé)任，確保提供一種便捷的維權(quán)途徑。
除了肖像權(quán)，類似問題也會涉及到著作權(quán)，如果消費者的肖像被制作成視頻并由他人傳播和使用，這涉及到視聽節(jié)目的內(nèi)容，平臺可能更多地基于著作權(quán)方面的處理和保護，而不是針對肖像或其他行為。
在這方面，我建議更多地依賴平臺。平臺應(yīng)該及時發(fā)現(xiàn)這類侵權(quán)行為，并提供便捷的投訴渠道或途徑，以便及時處理這些問題。
另外，正如我們一直在討論的那樣，法律的威懾力往往不是來自其嚴苛程度，而是來自于執(zhí)法的及時性。對于那些實施侵權(quán)行為的用戶，平臺方面應(yīng)該采取相應(yīng)的懲罰或限制措施。這完全可以在平臺自身的范疇內(nèi)實施，根據(jù)相關(guān)的用戶協(xié)議和約定對其進行懲罰和限制。通過這樣的方式，可以盡量減少侵權(quán)行為的發(fā)生，因為侵權(quán)有時候會成為一種上癮的行為。
免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 美國無人機禁令升級？當?shù)乜茖W(xué)家率先“喊疼”：我們離不開大疆
- iQOO Neo10 Pro：性能特長之外，亦有全能實力
- 自動駕駛第一股的轉(zhuǎn)型迷途：圖森未來賭上了AIGC
- 明星熱劇、品牌種草、平臺資源，京東讓芬騰雙11的熱度“沸騰”了
- 一加 Ace 5 Pro明牌：游戲手機看它就夠了！
- 游戲體驗天花板，一加 Ace 5 系列售價 2299 元起
- 16個月沒工資不敢離職，這些打工人“自費上班”
- 怎樣利用微信小店“送禮”功能賺錢？
- 鴻蒙智行問界M9，中國豪華車的龍門一躍
- 科技云報道：人工智能時代“三大件”：生成式AI、數(shù)據(jù)、云服務(wù)
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
