網(wǎng)易云安全：直播用戶量爆發(fā)，智能化風(fēng)控成趨勢

近日，第二屆移動(dòng)視頻生態(tài)發(fā)展論壇在上海舉行，200余位來自視頻直播的行業(yè)領(lǐng)袖和技術(shù)專家就視頻直播趨勢變化、直播內(nèi)容監(jiān)管與規(guī)范、視頻內(nèi)容IP價(jià)值的發(fā)掘和重塑等主題展開探討。

　　網(wǎng)易云安全(易盾)產(chǎn)品總監(jiān)王博受邀出席論壇，并發(fā)表了關(guān)于“視頻直播行業(yè)內(nèi)容安全現(xiàn)狀與實(shí)踐”的演講，他認(rèn)為當(dāng)下直播運(yùn)營者在內(nèi)容監(jiān)管方面往往會(huì)遇到風(fēng)險(xiǎn)、成本、技術(shù)、效果等困境，而在內(nèi)容安全解決方案上，做到有機(jī)整合、人工智能、內(nèi)容風(fēng)控這三點(diǎn)尤為重要。此外，網(wǎng)易云安全正式面向企業(yè)客戶開放了其內(nèi)容安全智能系統(tǒng)，這一系統(tǒng)在云安全服務(wù)領(lǐng)域處于業(yè)內(nèi)領(lǐng)先。

　　網(wǎng)絡(luò)直播爆發(fā)的同時(shí)，內(nèi)容監(jiān)管問題日益凸顯

　　2016年被譽(yù)為“中國網(wǎng)絡(luò)直播元年”，上半年網(wǎng)絡(luò)直播用戶規(guī)模就已經(jīng)達(dá)到了3.25億，占網(wǎng)民總體的“45.8%”，中國直播市場的總量超過了 250 億元。網(wǎng)絡(luò)直播作為一種新的大眾傳媒方式開始全方位走入公眾視野。

　　一個(gè)新行業(yè)野蠻增長之后，暴露的是約束條件的不健全?！斑M(jìn)入2017年，直播遇到新挑戰(zhàn)，內(nèi)容監(jiān)管就是其中之一”，王博說，“僅2016年7月，文化部查處關(guān)閉的直播房間數(shù)超過2萬、涉及網(wǎng)絡(luò)主播超1.6萬”。

　　隨著國家在直播內(nèi)容方面的收緊，有關(guān)部門對直播內(nèi)容提出了要24小時(shí)監(jiān)管、建立內(nèi)容審核機(jī)制，包括錄播先審后發(fā)，以及主播實(shí)名認(rèn)證等要求。王博認(rèn)為，在如此嚴(yán)格的內(nèi)容監(jiān)管要求下，直播運(yùn)營者或COO往往會(huì)遇到以下四個(gè)方面的困境——風(fēng)險(xiǎn)、成本、技術(shù)、效果。

　　風(fēng)險(xiǎn)層面：如果某直播運(yùn)營團(tuán)隊(duì)在內(nèi)容審查方面經(jīng)驗(yàn)比較少，往往會(huì)出現(xiàn)觸犯法規(guī)高壓線，輕則停站，重則關(guān)站。

　　成本審核：如果是自建7×24小時(shí)的審核團(tuán)隊(duì)，一般來說90后團(tuán)隊(duì)管理難度大、人員流動(dòng)非常頻繁，這會(huì)導(dǎo)致成本居高不下。

　　技術(shù)成本：無論是內(nèi)容監(jiān)管，還是文本反垃圾，采取自研技術(shù)時(shí)間周期長且成本也非常高。

　　效果不佳：垃圾清理不干凈，極大可能會(huì)影響用戶，因此造成用戶流失。

　　控制違規(guī)內(nèi)容，最好從源頭解決

　　在直播內(nèi)容黃、暴、廣告日益嚴(yán)峻的情況下，打造純凈網(wǎng)絡(luò)空間顯得尤為迫切。在本次論壇上，王博根據(jù)網(wǎng)易20年的反垃圾技術(shù)經(jīng)驗(yàn)，總結(jié)出了以下三點(diǎn)重要經(jīng)驗(yàn)——有機(jī)整合、人工智能、內(nèi)容風(fēng)控。

　　有機(jī)整合是指必須有一個(gè)完整的、功能齊全的內(nèi)容管控系統(tǒng)。“網(wǎng)易在做內(nèi)容安全方面，對整個(gè)業(yè)務(wù)流程中每一個(gè)環(huán)節(jié)都有把控。舉個(gè)例子來說，用戶注冊到登陸再到發(fā)表一些內(nèi)容——包括圖片、文本、音頻、視頻，我們都會(huì)做內(nèi)容防護(hù)，確保最后的內(nèi)容是純凈、安全的?！蓖醪┱f。

　　借助人工智能。單純靠人工解決審核問題，已經(jīng)無法滿足視頻直播高流量的需求，人工智能在此環(huán)節(jié)中起到很大作用，讓機(jī)器做機(jī)器做的事情，讓人做人做的事情。在此方面，網(wǎng)易云安全(易盾)會(huì)通過機(jī)器學(xué)習(xí)進(jìn)行語意分析及智能關(guān)鍵詞分析，來判斷發(fā)表的內(nèi)容是否涉黃、涉暴、涉及謠言等。

　　內(nèi)容風(fēng)控，在反垃圾方面如果是事后做，會(huì)比較被動(dòng)。反垃圾更為高效的手段在于運(yùn)營者在源頭或者垃圾沒有產(chǎn)生之時(shí)，做到提前預(yù)知。王博表示，網(wǎng)易云安全(易盾)可以通過對用戶行為的大數(shù)據(jù)分析，形成用戶畫像，能提前預(yù)知該用戶是否產(chǎn)生詐騙行為。

　　據(jù)王博介紹，目前網(wǎng)易云安全(易盾)已經(jīng)為瘋播、全聚星、栗子直播、魚泡泡等多家視頻或直播客戶提供反垃圾服務(wù)。針對直播行業(yè)，網(wǎng)易云安全(易盾)推出了專業(yè)的主播身份認(rèn)證功能、直播掛機(jī)檢測和直播黑屏檢測功能等。隨著視頻直播用戶內(nèi)容遞進(jìn)式爆發(fā)，視頻平臺(tái)的內(nèi)容安全能力走向系統(tǒng)化、智能化已經(jīng)成為趨勢。

　　此外，網(wǎng)易云安全(易盾)還推出有內(nèi)容反垃圾、行為式驗(yàn)證碼、注冊保護(hù)服務(wù)、登陸保護(hù)等服務(wù)，已為眾多UGC、PUGC平臺(tái)提供內(nèi)容安全和業(yè)務(wù)安全防護(hù)服務(wù)，為企業(yè)降低人力和技術(shù)成本，其相關(guān)技術(shù)已經(jīng)處于業(yè)內(nèi)領(lǐng)先。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。