中國信通院張琳琳：人工智能安全標(biāo)準(zhǔn)化工作要繼續(xù)發(fā)揮基礎(chǔ)性、規(guī)范性、引領(lǐng)性的作用

9月11日消息（趙婷婷）近日，以“澎湃創(chuàng)新力，戰(zhàn)新共未來”為主題的中國移動第四屆科技周拉開帷幕。在同期進(jìn)行的“安全分論壇”上，中國信息通信研究院安全研究所副主任張琳琳圍繞人工智能安全態(tài)勢及安全風(fēng)險(xiǎn)框架、人工智能安全規(guī)則及標(biāo)準(zhǔn)現(xiàn)狀、人工智能安全標(biāo)準(zhǔn)化工作的思路，分享人工智能安全及相關(guān)標(biāo)準(zhǔn)的解讀。

張琳琳表示，人工智能作為引領(lǐng)未來的戰(zhàn)略性的技術(shù)，日益成為驅(qū)動經(jīng)濟(jì)社會各領(lǐng)域從數(shù)字化網(wǎng)絡(luò)化向智能化加速躍升的重要量引擎，對人類文明的發(fā)展和社會進(jìn)步產(chǎn)生廣泛深遠(yuǎn)的影響，但與此同時(shí)人工智能技術(shù)的應(yīng)用也帶來了安全風(fēng)險(xiǎn)挑戰(zhàn)。

人工智能安全規(guī)則及標(biāo)準(zhǔn)現(xiàn)狀

她認(rèn)為，人工智能安全規(guī)則是人工智能安全治理的主要的依據(jù)，典型的規(guī)則體驗(yàn)形式主要有倫理規(guī)范，法律法規(guī)和標(biāo)準(zhǔn)規(guī)范。

在具體的管理手段方面，世界主要國家共同選擇將倫理規(guī)范作為先導(dǎo)性治理手段。人工智能是一個(gè)新興的事物，處于高速發(fā)展期，需要一定的發(fā)展空間逐步完善。同時(shí)，為了給人工智能法律法規(guī)等強(qiáng)制性措施以充足的時(shí)間，要充分考量這個(gè)規(guī)則的方式。因此，現(xiàn)階段世界主要國家要是以軟性規(guī)范先行。

在具體的倫理規(guī)則制定方面，美歐各有不同，美國是以企業(yè)和行業(yè)層面為主，歐洲是以國家層面為主。我國倫理原則大多是2019年以來新近形成的，社會共識有待凝聚和加強(qiáng)，國際影響力較弱。

在法律法規(guī)方面，各國都比較謹(jǐn)慎。法律是社會治理的最后一種手段，是保障人民權(quán)利的最后一道屏障，至關(guān)重要。法律一般是基于現(xiàn)實(shí)生活而生成，無法對可能的社會風(fēng)險(xiǎn)作出反映，通常具有滯后性。

因此，國外主要是針對風(fēng)險(xiǎn)已經(jīng)比凸顯的一些相關(guān)領(lǐng)域，例如，無人駕駛、無人機(jī)、深度偽造等重點(diǎn)應(yīng)用領(lǐng)域進(jìn)行立法規(guī)制。對于人工智能整體的專門立法，以歐盟《人工智能法》為代表。我國率先嘗試生成式人工智能的針對性監(jiān)管，2023年7月13日，公布的《生成式人工智能服務(wù)管理暫行辦法》，成為全球首個(gè)針對生成式人工智能的監(jiān)管規(guī)定。

從標(biāo)準(zhǔn)規(guī)范來看，當(dāng)前國際和我國人工智能安全的標(biāo)準(zhǔn)步入成熟期，ISO/IEC、IEEE、NIST等國際標(biāo)準(zhǔn)化組織，積極開展人工智能的安全的研究，制定并相關(guān)標(biāo)準(zhǔn)，提升人工智能安全性。

從我國來看，2020年7月，我夠印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，明確安全標(biāo)準(zhǔn)架構(gòu)體系。我國全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會在生物特征識別、智能終端、自動駕駛、智能制造等領(lǐng)域積極開展安全標(biāo)準(zhǔn)化的工作。

人工智能安全標(biāo)準(zhǔn)化工作的思路

最后，張琳琳提出人工智能安全標(biāo)準(zhǔn)化工作的思路。她指出，統(tǒng)籌安全和發(fā)展，加強(qiáng)基礎(chǔ)共性和重點(diǎn)亟待標(biāo)準(zhǔn)制定，面對未來人工智能發(fā)展的關(guān)鍵時(shí)期，人工智能安全標(biāo)準(zhǔn)化工作要繼續(xù)發(fā)揮基礎(chǔ)性、規(guī)范性、引領(lǐng)性的作用，以技術(shù)標(biāo)準(zhǔn)帶動人工智能發(fā)展。

在國際方面，要積極參與國際標(biāo)準(zhǔn)的制定，也要力爭主導(dǎo)相關(guān)的國際標(biāo)準(zhǔn)，提出人工智能安全評估評測，用戶隱私保護(hù)等相關(guān)的提案，貢獻(xiàn)更多的中國智慧。

在我國標(biāo)準(zhǔn)方面，要加強(qiáng)人工智能基礎(chǔ)共性安全標(biāo)準(zhǔn)的研究，持續(xù)完善人工智能標(biāo)準(zhǔn)的框架體系，重點(diǎn)開展了安全風(fēng)險(xiǎn)倫理設(shè)計(jì)，安全評估等一些基礎(chǔ)的標(biāo)準(zhǔn)的研究；也是要加快推進(jìn)推進(jìn)人工智能安全重點(diǎn)急需標(biāo)準(zhǔn)制定。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。