網(wǎng)易云安全（易盾）講述互聯(lián)網(wǎng)黑產(chǎn)那些事

“老司機(jī)上車”、“少婦誘惑直播”、“衤果聊”……如今網(wǎng)絡(luò)上充斥著此類具有挑逗性且易讓人想入非非的暗示語，看著很刺激，但刺激背后隱藏著看不見的黑手在推動這些信息的傳播。

在移動互聯(lián)網(wǎng)時代，用戶上網(wǎng)極度便利的當(dāng)下，色情內(nèi)容、垃圾評論、垃圾廣告、違禁品買賣、謠言、賭博等信息正無孔不入，滲透到各種互聯(lián)網(wǎng)產(chǎn)品，長期危害著青少年心理健康及網(wǎng)民的用戶體驗。那么這些互聯(lián)網(wǎng)垃圾信息的來源和盈利模式到底是怎么樣的呢?

無利不起早，有錢能使鬼推磨

“如果沒有利益驅(qū)使，不會有專門的團(tuán)伙來散播垃圾信息，亦無法形成一個成熟的產(chǎn)業(yè)鏈”，網(wǎng)易云安全(易盾)技術(shù)總監(jiān)朱浩齊用涉黃產(chǎn)業(yè)鏈舉了一個例子—— 一般來說，涉黃團(tuán)伙希望通過網(wǎng)絡(luò)發(fā)布大量的廣告，吸引盡可能多的“客戶”來保證團(tuán)伙的利潤，但是沒有一個正規(guī)的互聯(lián)網(wǎng)公司敢接他們的廣告業(yè)務(wù)。

“有錢能使鬼推磨”，看到諸如涉黃團(tuán)伙這類需求方出錢后，有一些打著“互聯(lián)網(wǎng)營銷推廣”幌子的公司或者平臺就會出現(xiàn)，他們會分析需求方單子的技術(shù)難度。以發(fā)布涉黃廣告為例，如果想增加曝光率，那需要在熱門產(chǎn)品的熱門區(qū)域持續(xù)不斷發(fā)布評論。一般發(fā)布評論都需要注冊帳號，有些產(chǎn)品也會增加驗證碼等作為發(fā)布評論的門檻，還有一些產(chǎn)品甚至要完成手機(jī)短信驗證等等。“如果所有需要跨過門檻的技術(shù)方案都由自己完成，那成本無疑是非常大的，于是所謂的‘互聯(lián)網(wǎng)營銷推廣’公司就會找一些黑產(chǎn)下家來協(xié)助”，朱浩齊說。

這些黑產(chǎn)下家五花八門且“業(yè)務(wù)”精細(xì)——有專門負(fù)責(zé)注冊帳號、提供IP資源的，有研發(fā)自動發(fā)評論工具的，還有研發(fā)碼驗證打碼平臺、完成短信驗證的……接到需求的“互聯(lián)網(wǎng)營銷推廣”平臺會把上述黑產(chǎn)環(huán)節(jié)集成起來，巧妙的利用這些黑產(chǎn)資源，滿足涉黃團(tuán)伙的需求，實現(xiàn)非法營利。

苦情戲、軍情刺探，黑產(chǎn)無所不用其極

雖然黑產(chǎn)有資源也有技術(shù)，但是互聯(lián)網(wǎng)安全廠商與他們的斗爭并未停歇。據(jù)朱浩齊描述，網(wǎng)易云安全(易盾)在與黑產(chǎn)斗爭的過程中，遇到過不少奇葩有趣的案例。

中文作為世界上最復(fù)雜的語言之一，它的變化方式難以窮盡，拼音、字符、拆字、同音字等，都可以用來表達(dá)同樣的意思，比如“想看妹誘惑直播嘛”就可以變種為以下幾種形式：

“針對這些垃圾樣本，我們會采用機(jī)器學(xué)習(xí)的技術(shù)進(jìn)行訓(xùn)練，實現(xiàn)文本的語義識別，可以從內(nèi)容維度把絕大多數(shù)的垃圾都抓出來”，網(wǎng)易云安全(易盾)技術(shù)總監(jiān)朱浩齊說。

不過，上述垃圾蟲大多在一個完整的輸入框中完成垃圾內(nèi)容的編輯和發(fā)布，雖然用了各種變種，但是整句話在語義上還是一體的，所以還算容易處理。但下圖中的垃圾蟲就進(jìn)化得高級一些，它能巧妙地適配產(chǎn)品表現(xiàn)形式，比如頭像、用戶名、簽名等，把想要表達(dá)的意思拆分為不同的部分，完整展現(xiàn)在普通用戶眼前。如果加上IP、帳號等不停變化，抓取的難度就會大大提升：

據(jù)朱浩齊介紹，為了從內(nèi)容角度對付這種垃圾蟲，網(wǎng)易云安全(易盾)設(shè)計了“所見即所得”的過濾系統(tǒng)和審核系統(tǒng)，真實地還原產(chǎn)品數(shù)據(jù)展示的形式，比如會把昵稱和評論內(nèi)容放在一起做語義分析，也會把頭像圖片經(jīng)過機(jī)器識別后跟評論內(nèi)容組合在一起審核。

為了逃避機(jī)器7*24小時不停歇的審查，黑產(chǎn)偶爾還會上演苦情戲：

有意思的是，在發(fā)現(xiàn)苦情戲不好使時，黑產(chǎn)團(tuán)伙會直接撥打平臺客服電話，表面裝作很生氣地投訴——“憑什么刪我貼”、“把你負(fù)責(zé)人叫過來”，實則是想從客服的嘴里刺探到平臺的一些防御策略，比如如何識別他們發(fā)布的內(nèi)容，如何才能申請帳號或者IP解封等。

黑產(chǎn)手段在進(jìn)化，網(wǎng)絡(luò)安全技術(shù)需實時演進(jìn)

隨著互聯(lián)網(wǎng)技術(shù)不斷進(jìn)步，用戶參與網(wǎng)絡(luò)進(jìn)行討論和獲取知識的門檻越來越低，用戶得到便利的同時，也給了垃圾蟲越來越多的可乘之機(jī)。

就拿最近火爆的直播行業(yè)為例，垃圾蟲可以在熱門直播平臺的各個角落里發(fā)布垃圾內(nèi)容：彈幕，評論，昵稱，頭像，簽名，用戶資料，有的還甚至直接參與違法直播的表演。

據(jù)了解，針對新的產(chǎn)品形態(tài)，為了有更好的防御效果，網(wǎng)易云安全(易盾)也適時推出了直播行業(yè)的解決方案，專門針對直播行業(yè)的各種特點定制防御策略。比如針對彈幕的實時聊天文本過濾、視頻流的機(jī)器鑒黃、直播間熱度監(jiān)控報警，以及更加智能的直播電視墻等等。

互聯(lián)網(wǎng)內(nèi)容安全的戰(zhàn)爭從網(wǎng)絡(luò)誕生之初開始，已經(jīng)持續(xù)了幾十年?？梢灶A(yù)見，以后還會有新的互聯(lián)網(wǎng)產(chǎn)品形式，當(dāng)然也會有新的發(fā)布垃圾的手段?！拔覀冊谠朴嬎恪⑸疃葘W(xué)習(xí)、人工智能等技術(shù)方面已經(jīng)有很多實踐經(jīng)驗和技術(shù)積累，我們有信心打贏每一場戰(zhàn)爭”，朱浩齊如是說。

生成海報