7月7日，由南方都市報(bào)、清華大學(xué)人工智能?chē)?guó)際治理研究院主辦，中國(guó)科協(xié)-復(fù)旦大學(xué)科技倫理與人類(lèi)未來(lái)研究院和上海人工智能實(shí)驗(yàn)室協(xié)辦的“人工智能創(chuàng)新與治理”論壇在上海召開(kāi)。本次論壇邀請(qǐng)了多位來(lái)自國(guó)內(nèi)外的大咖專(zhuān)家參與，并針對(duì)近年來(lái)出現(xiàn)的AI換臉詐騙、大模型生成虛假信息、AIGC版權(quán)歸屬爭(zhēng)議等聚焦生成式AI潛在的風(fēng)險(xiǎn)與問(wèn)題，發(fā)布了《生成式AI倫理與治理倡議書(shū)》(下稱(chēng)《倡議書(shū)》)。據(jù)了解，這也是國(guó)內(nèi)首份由智庫(kù)媒體發(fā)起、跨行業(yè)聯(lián)動(dòng)發(fā)布的生成式AI治理與倫理倡議書(shū)。賽博昆侖創(chuàng)始人兼CEO鄭文彬，與30余位專(zhuān)家、學(xué)者、公眾人物一道，聯(lián)合署名發(fā)布了本次倡議書(shū)。
《倡議書(shū)》提到，近年來(lái)，“AI詐騙”、“AI犯罪”等關(guān)鍵詞開(kāi)始走入公眾視野，出現(xiàn)了一系列“網(wǎng)聊10分鐘騙走430萬(wàn)元”等真實(shí)案例，而利用AI換臉、AI擬聲技術(shù)等佯裝好友實(shí)施詐騙，以及利用人工智能軟件 “捏造”罪名、生成虛假案例，生成內(nèi)容涉嫌侵犯知識(shí)產(chǎn)權(quán)等問(wèn)題，更是屢屢見(jiàn)諸媒體。
如何區(qū)分足以“以假亂真”的AI生成內(nèi)容、當(dāng)AI生成內(nèi)容造成侵權(quán)或違法問(wèn)題時(shí)，如何認(rèn)定相關(guān)責(zé)任，以及類(lèi)似的問(wèn)題如何利用技術(shù)手段去管理，都成為本次會(huì)議討論的焦點(diǎn)。
據(jù)南都數(shù)字經(jīng)濟(jì)治理研究中心介紹，本《倡議書(shū)》最終形成了“七大原則”和“七大建議”，內(nèi)容包括確保安全、客觀公正、信息披露、尊重自主、可問(wèn)責(zé)可追溯、人工把關(guān)、敏捷治理等。其中“確保安全原則”提出，相關(guān)企業(yè)或組織應(yīng)采取足夠的管理措施和技術(shù)手段，積極防范生成式AI技術(shù)產(chǎn)品的漏洞攻擊風(fēng)險(xiǎn)，并在產(chǎn)品的整個(gè)生命周期中保證用戶隱私及個(gè)人信息的安全。
賽博昆侖方面表示，隨著人工智能技術(shù)的高速發(fā)展，特別是AIGC出現(xiàn)以后，網(wǎng)絡(luò)安全開(kāi)始遭遇到新的問(wèn)題與挑戰(zhàn)，新的使用場(chǎng)景，帶來(lái)了新的攻擊手段和安全隱患。對(duì)此，除了社會(huì)各界深入關(guān)注、恪守公德邊界之外，技術(shù)手段的“硬手段”，往往才是最終的解決之道。
賽博昆侖代表認(rèn)為，AIGC的內(nèi)容安全不僅僅牽涉到數(shù)據(jù)以及隱私泄露，也同時(shí)關(guān)乎模型訓(xùn)練、標(biāo)注、應(yīng)用，以及長(zhǎng)期輿情監(jiān)控的各個(gè)環(huán)節(jié)，其中任何一個(gè)環(huán)節(jié)存在漏洞，都可能引入相關(guān)風(fēng)險(xiǎn)。對(duì)此，賽博昆侖代表表示將充分發(fā)揮自身優(yōu)勢(shì)，與社會(huì)各界一道，積極參與應(yīng)對(duì)防范AIGC安全問(wèn)題的行動(dòng)中來(lái)。
作為《倡議書(shū)》的簽署方，賽博昆侖在防范漏洞攻擊、確保信息安全方面，恰恰是國(guó)內(nèi)頂級(jí)技術(shù)能力驅(qū)動(dòng)的網(wǎng)絡(luò)空間安全服務(wù)商，在高危漏洞攻防、0day漏洞預(yù)警應(yīng)急等方面，擁有國(guó)內(nèi)首屈一指的技術(shù)實(shí)力。公司旗下安全研究團(tuán)隊(duì)“昆侖實(shí)驗(yàn)室”，由國(guó)內(nèi)頂尖安全研究人員組成，自成立以來(lái)，已多次斬獲Pwn2own、天府杯、強(qiáng)網(wǎng)杯精英賽等國(guó)際頂級(jí)黑客大賽最高榮譽(yù)。而其旗下高級(jí)攻防團(tuán)隊(duì)成員，則均來(lái)自一線大廠的攻防實(shí)驗(yàn)室，并作為攻擊隊(duì)核心成員，在大型護(hù)網(wǎng)、區(qū)域/行業(yè)級(jí)護(hù)網(wǎng)、企業(yè)級(jí)護(hù)網(wǎng)中表現(xiàn)優(yōu)異，取得過(guò)多項(xiàng)優(yōu)秀成績(jī)。
賽博昆侖代表最后表示，未來(lái)將從技術(shù)角度出發(fā)，積極踐行《倡議書(shū)》的原則和方向，為生成式AI更加健康、穩(wěn)定的長(zhǎng)遠(yuǎn)、安全發(fā)展，貢獻(xiàn)自己的力量。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
