國(guó)內(nèi)首個(gè)內(nèi)容安全解決方案評(píng)估結(jié)果出爐：騰訊云首批通過

1月16日，由中國(guó)信息通信研究院指導(dǎo)，云計(jì)算標(biāo)準(zhǔn)和開源推進(jìn)委員會(huì)承辦，云計(jì)算開源產(chǎn)業(yè)聯(lián)盟支持的"嚴(yán)守紅線，共筑安全-內(nèi)容安全的管與控"的云計(jì)算安全沙龍?jiān)诒本┱匍_。來自中央機(jī)關(guān)、國(guó)家部委、中國(guó)移動(dòng)集團(tuán)信安中心等內(nèi)容安全專家及40多家相關(guān)企業(yè)代表，圍繞“文字、圖片、音頻、視頻”違規(guī)信息識(shí)別方面進(jìn)行技術(shù)分享。

會(huì)上，中國(guó)信息通信研究院發(fā)布了國(guó)內(nèi)首批內(nèi)容安全解決方案評(píng)估成果，騰訊云計(jì)算(北京)有限責(zé)任公司成為首批通過評(píng)估的企業(yè)之一。加上本次認(rèn)證，騰訊云目前已獲得21項(xiàng)可信云認(rèn)證，包含云主機(jī)服務(wù)、塊存儲(chǔ)服務(wù)、云數(shù)據(jù)庫服務(wù)、本地負(fù)載均衡等，成為可信云體系認(rèn)證中最全云廠商之一。

　　(騰訊云首批通過試點(diǎn)評(píng)估測(cè)試證書)

國(guó)內(nèi)首批通過可信云內(nèi)容安全認(rèn)證，累計(jì)達(dá)成21項(xiàng)認(rèn)證記錄

為落地《中華人民共和國(guó)網(wǎng)絡(luò)安全法》中對(duì)用戶發(fā)布信息的管理要求，云計(jì)算標(biāo)準(zhǔn)和開源推進(jìn)委員會(huì)云安全工作組根據(jù)"嚴(yán)守紅線"的安全方針，組織電信運(yùn)營(yíng)商、云計(jì)算服務(wù)提供商、安全廠商的相關(guān)技術(shù)專家，編制并發(fā)布了"可信云"系列標(biāo)準(zhǔn)《基于云計(jì)算的業(yè)務(wù)安全風(fēng)險(xiǎn)解決方案技術(shù)要求 第1部分：內(nèi)容安全》。

本次會(huì)議上，中國(guó)信息通信研究院云大所云安全專家王敬宇對(duì)該標(biāo)準(zhǔn)進(jìn)行了解讀，該標(biāo)準(zhǔn)規(guī)定了內(nèi)容安全解決方案的功能要求、性能要求、自身安全功能要求，云計(jì)算服務(wù)提供商和安全廠商的內(nèi)容安全解決方案，其在功能設(shè)計(jì)、產(chǎn)品研制、能力評(píng)估等方面均可參照此標(biāo)準(zhǔn)執(zhí)行。

為了將標(biāo)準(zhǔn)落到實(shí)處，中國(guó)信息通信研究院于2018年11月開展了國(guó)內(nèi)首個(gè)云計(jì)算行業(yè)的內(nèi)容安全解決方案評(píng)估，騰訊云等三家廠商作為首批企業(yè)參與了此次評(píng)估，并最終通過測(cè)試。

據(jù)中國(guó)信息通信研究院云大所何友斌介紹，為了確保評(píng)估質(zhì)量，評(píng)估專家精心準(zhǔn)備了多樣化的文本、圖片、音頻、視頻測(cè)試樣本，包含涉黃、血腥、暴恐等內(nèi)容大類，并對(duì)測(cè)樣本進(jìn)行了復(fù)雜處理。評(píng)估過程中發(fā)現(xiàn)，騰訊云等廠商主要使用深度學(xué)習(xí)技術(shù)訓(xùn)練監(jiān)測(cè)模型，并結(jié)合已知違規(guī)樣本的分類標(biāo)簽技術(shù)對(duì)海量數(shù)據(jù)戶進(jìn)行實(shí)時(shí)監(jiān)測(cè)，在節(jié)約人工審核成本的同時(shí)，大幅度提高了違規(guī)內(nèi)容識(shí)別的準(zhǔn)確率和查全率，并有效降低了誤判率。本次評(píng)估，客觀、真實(shí)地反映解決方案的水平，為企業(yè)選擇和部署內(nèi)容安全解決方案提供值得信賴的參考和依據(jù)。

智能AI+人工審核 騰訊云破解“鑒黃界最大難題”

騰訊云安全策略專家周耀輝也在大會(huì)現(xiàn)場(chǎng)分享了騰訊云內(nèi)容安全的策略：基于四大場(chǎng)景的六類違規(guī)內(nèi)容識(shí)別，通過“智能AI+人工審核”一站式解決目前網(wǎng)絡(luò)中違規(guī)內(nèi)容的問題。而正是在這套策略的指導(dǎo)下，騰訊云解決了“鑒黃界公認(rèn)的最大難題”——音頻鑒黃。

對(duì)于網(wǎng)絡(luò)上傳播的色情惡意內(nèi)容，圖像鑒黃技術(shù)很好的打擊了大部分色情圖像和視頻內(nèi)容，但在一些短視頻、直播等場(chǎng)景中，還有一些色情內(nèi)容以音頻方式傳播，用以規(guī)避圖像維度的打擊。尤其是音頻的信噪低、時(shí)長(zhǎng)短、信道復(fù)雜等因素，進(jìn)一步加劇了內(nèi)容審核者的挑戰(zhàn)。

對(duì)此，騰訊云天御在文本、圖片鑒黃的基礎(chǔ)上，研發(fā)了基于音頻的鑒黃系統(tǒng)，讓騰訊云的整套鑒黃解決方案更具突破性。其中，在針對(duì)海量正負(fù)樣本的訓(xùn)練上，除了應(yīng)用深度學(xué)習(xí)模型之外，騰訊云天御還針對(duì)線上的識(shí)別數(shù)據(jù)持續(xù)進(jìn)行人工抽檢覆蓋和漏過情況，并將正負(fù)樣本進(jìn)行標(biāo)注用于系統(tǒng)優(yōu)化，讓音頻鑒黃系統(tǒng)更智能。目前該系統(tǒng)已在騰訊云的點(diǎn)播、直播等業(yè)務(wù)中上線使用，進(jìn)一步提高色情內(nèi)容檢出率。

暴力、血腥、黃賭毒不良社會(huì)導(dǎo)向違規(guī)內(nèi)容的傳播，嚴(yán)重影響網(wǎng)絡(luò)環(huán)境的清朗健康發(fā)展，本次可信云標(biāo)準(zhǔn)的發(fā)布以及首批通過評(píng)估認(rèn)證企業(yè)的公布，將有效促進(jìn)內(nèi)容安全行業(yè)向更高的標(biāo)準(zhǔn)提升，同時(shí)也將對(duì)整個(gè)產(chǎn)業(yè)生態(tài)的有序發(fā)展起到積極的推動(dòng)作用。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。