8月15日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布的《生成式人工智能服務(wù)管理暫行辦法》(以下簡稱《辦法》)正式施行，有望促進生成式人工智能健康發(fā)展和規(guī)范應用。
“生成式人工智能技術(shù)快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題。”文淵智庫研究員王超接受記者采訪時表示，《辦法》的正式實施，是促進生成式人工智能健康發(fā)展的要求，也是防范生成式人工智能服務(wù)風險的需要。
監(jiān)管不搞“一刀切”
生成式人工智能是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)，自去年底起在各行各業(yè)大規(guī)模落地應用，在提升效率的同時也亂象叢生。
新壹科技CEO雷濤告訴記者，與判別型人工智能風險主要集中在算法的歧視和濫用上不同，生成型人工智能存在更多知識產(chǎn)權(quán)爭議和更復雜的數(shù)據(jù)風險，同時濫用生成內(nèi)容在技術(shù)上可能會給監(jiān)管帶來更多挑戰(zhàn)。“特別是隨著大模型的不斷迭代，其生成內(nèi)容的真實性、偏向性與原創(chuàng)性在技術(shù)上越來越難以判別，也給監(jiān)管造成較大壓力。”
在教育行業(yè)，生成式人工智能大多在輔助教學、自動批改作業(yè)、優(yōu)化教育資源以及個性化學習和興趣激發(fā)上具有智能、提效的作用。即便如此，但iEnglish智能英語學習解決方案技術(shù)研發(fā)負責人賈先好認為，這些應用帶來的版權(quán)、作弊，以及數(shù)據(jù)與隱私安全風險等系列問題，也需要引起足夠的重視。他表示，《辦法》明確了提供和使用生成式人工智能服務(wù)應當遵守相關(guān)法律法規(guī)和倫理規(guī)范，對于保障人工智能的安全、可靠和透明使用具有重要意義。“《辦法》的正式施行，標志著我國對生成式人工智能的管理進入了新的階段。”
《辦法》提出堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。
雷濤認為，這種包容審慎和分類分級的監(jiān)管明確供應商主體責任，在創(chuàng)新和有效監(jiān)管之間取得了平衡。“《辦法》符合對人工智能進行分級、分類管理的趨勢，實現(xiàn)了監(jiān)管科學化、精細化，避免了‘一刀切’式的監(jiān)管措施抑制人工智能技術(shù)創(chuàng)新。”
產(chǎn)業(yè)應該積極應對
生成式人工智能大規(guī)模落地應用，大模型居功至偉。日前發(fā)布的《中國人工智能大模型地圖研究報告》顯示，我國人工智能大模型產(chǎn)品已經(jīng)發(fā)布超百余個。
基于大模型研發(fā)應用全產(chǎn)業(yè)鏈，數(shù)據(jù)及安全便成為重中之重。《辦法》明確，生成式人工智能服務(wù)提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型;采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。此外，還明確了數(shù)據(jù)標注的相關(guān)要求。
顯然，這些規(guī)定讓此前在數(shù)據(jù)采集、加工和應用方面呈野蠻式發(fā)展的廠商壓力倍增。雷濤認為，這種陣痛是短暫且必須的，雖然當前生成式人工智能依然是一個輔助人類創(chuàng)作的技術(shù)工具，但不可否認的是其巨大潛能以及廣闊的應用場景，產(chǎn)業(yè)鏈上的企業(yè)都應是立足于自身做好研發(fā)追趕，而絕非回避。“《辦法》的施行，將有助于明確企業(yè)技術(shù)拓展和使用的邊界，新技術(shù)、新場景只有在合理的規(guī)范體系下，才能不斷推動行業(yè)進步，進而形成良性的行業(yè)生態(tài)。”
“作為全球范圍內(nèi)較早關(guān)注生成式人工智能服務(wù)治理的規(guī)范性文件，《辦法》為生成式人工智能服務(wù)劃定了底線，提供了方向。”王超提醒，產(chǎn)業(yè)相關(guān)企業(yè)應該以積極開放的態(tài)度面對《辦法》的施行，并結(jié)合自身優(yōu)勢、探索生成式人工智能技術(shù)的創(chuàng)新應用場景，不斷完善自身的應用生態(tài)體系。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
