劉興亮｜這部法規(guī)為“大模型”亮起哪些“紅燈”和“綠燈”

全球首部AIGC（人工智能生成內(nèi)容）管理辦法出臺(tái)了。

近日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），該辦法將自2023年8月15日起施行。

全球最早的生成式AI是去年11月上線，在中國則最早是今年3月份上線。而僅僅到了4月份，關(guān)于生成式人工智能服務(wù)管理的《征求意見稿》就出來了，現(xiàn)在才7月份，就正式頒布了，其速度之快堪比生成式AI的發(fā)展速度。

01

這些“紅燈”規(guī)定值得關(guān)注

《辦法》的內(nèi)容豐富，其中，對(duì)生成式人工智能亮起了哪些“紅燈”頗受關(guān)注。

除了“煽動(dòng)顛覆國家政權(quán)”“暴力色情”等違法內(nèi)容外，《辦法》還在信息數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)保護(hù)、倫理風(fēng)險(xiǎn)規(guī)避等方面提出了較為嚴(yán)格的要求。

在信息數(shù)據(jù)安全方面，其實(shí)之前很多用戶會(huì)擔(dān)心使用生成式AI會(huì)泄露自己輸入的個(gè)人信息，《辦法》對(duì)這一點(diǎn)做出了明確的要求：生成式人工智能技術(shù)提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求。

所以，對(duì)于用戶來說，在《辦法》的規(guī)范下，未來可以放心使用生成式人工智能。而對(duì)于技術(shù)提供者來說，應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)，涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

知識(shí)產(chǎn)權(quán)問題也是生成式AI領(lǐng)域關(guān)注度最高的問題之一。

《辦法》明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。而不管是提供者還是使用者，都要尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢，實(shí)施壟斷和不正當(dāng)競爭行為。

也就是說，今后通過AI生成的內(nèi)容，會(huì)有一定的標(biāo)識(shí)，用戶能夠辨別自己的“AI作品”是否運(yùn)用了別人產(chǎn)出的圖片、視頻等內(nèi)容，避免濫用。這在很大程度上保護(hù)了知識(shí)產(chǎn)權(quán)。

除此之外，《辦法》在倫理方面也有相應(yīng)的要求：在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視。

在這一規(guī)范下，其實(shí)各個(gè)生成式AI提供方的技術(shù)水準(zhǔn)也將受到檢驗(yàn)。比如當(dāng)用戶問到相關(guān)倫理問題，它是為了避免風(fēng)險(xiǎn)簡單粗暴地回復(fù)：我無法回答、我不知道；還是會(huì)答非所問，或者是會(huì)被使用者所迷惑，答出了不符合倫理道德的答案；抑或，能夠提供既符合倫理要求又言之有理的答案……這體現(xiàn)出的是不同層次的AIGC能力。

在未成年保護(hù)方面，《辦法》也提出了要求：生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。

02

這些“綠燈”指引令人鼓舞

當(dāng)然，《辦法》里并不都是嚴(yán)格的限制，還有一些溫和的舉措以及提倡和鼓勵(lì)的方向。

當(dāng)前，生成式AI的一個(gè)非常突出的特點(diǎn)就是所謂“一本正經(jīng)的胡說八道”，這目前是全球都無法解決的難題，在能夠看到的有限未來都很難解決。之前，征求意見稿要求生成式AI生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，而《辦法》則更新為，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

再比如《辦法》強(qiáng)調(diào)“虛假有害信息”，而不是《征求意見稿》一刀切的“虛假信息”。“虛假有害信息”和“虛假信息”相比，雖然只多了兩個(gè)字，但二者卻有天壤之別。這些都使得《辦法》比《征求意見稿》溫和了一些，可操作性強(qiáng)了一些。

和《征求意見稿》相比，《辦法》也新增加了不少對(duì)于生成式AI服務(wù)的相關(guān)鼓勵(lì)。

例如，在第二章技術(shù)發(fā)展與治理的第五條與第六條，都提到了要鼓勵(lì)生成式AI技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

這一點(diǎn)令人鼓舞。因?yàn)檫@些領(lǐng)域和方向是我們國家生成式AI的未來?；ヂ?lián)網(wǎng)和AI的發(fā)展歷史證明，我們?cè)趹?yīng)用層，尤其是在千行百業(yè)的應(yīng)用，是最大的優(yōu)勢所在。尤其對(duì)于廣大的創(chuàng)業(yè)公司來說，生成式AI在千行百業(yè)的應(yīng)用，是廣闊天地，大有可為。

《生成式人工智能服務(wù)管理暫行辦法》作為首部AIGC管理法規(guī), 將使得生成式人工智能健康發(fā)展、防范生成式人工智能服務(wù)風(fēng)險(xiǎn)邁入全新階段。

有理由相信，在維護(hù)國家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益的前提下，我國生成式人工智能會(huì)迎來蓬勃發(fā)展。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。