藏在直播里的秘密，騰訊云內(nèi)容安全解決方案來祛“污”

尤記得五年前，掃黃行動(dòng)肅清了全國(guó)多地線下各大小“會(huì)所”。五年時(shí)間過去了，被清掃的“小姐姐”們都去哪里了?據(jù)坊間傳言，某些“小姐姐”已經(jīng)將陣地由線下轉(zhuǎn)為線上，借著直播、短視頻的火熱，大力拓展“業(yè)務(wù)”。

五年前，各大小“會(huì)所”因違法違規(guī)一夜之間消失殆盡。如今全國(guó)“掃黃打非”辦公室大力開展的“凈網(wǎng)2019”“護(hù)苗2019”“秋風(fēng)2019”專項(xiàng)行動(dòng)劍起直指未及時(shí)自查的直播、短視頻等平臺(tái)，而這些平臺(tái)，可能也有無法言表的“痛”。

為什么會(huì)痛？

大部分直播平臺(tái)其實(shí)是遵紀(jì)守法的，但在直播的時(shí)候總有一些想要博眼球、抖機(jī)靈的用戶，讓平臺(tái)深陷泥沼。除直播平臺(tái)以外，一些超高流量的 APP 也成了不法分子的娛樂場(chǎng)，前不久騰訊云天御就幫某旅游 APP 第一時(shí)間避開了一場(chǎng)危機(jī)。

一場(chǎng)說走就走的旅行是當(dāng)下潮流之一，該 APP 可謂是游客必備，其中旅游指導(dǎo)、游記分享、互動(dòng)直播區(qū)與視頻區(qū)更是深受游客喜愛，大家也會(huì)像翻看買家秀那樣去評(píng)論區(qū)看建議，然而，這些本是分享攻略的地方，卻成為一小撮不法分子發(fā)布招嫖、販毒的“廣告牌”。了解到這一情況后，騰訊云天御快速識(shí)別該 APP 內(nèi)海量文本信息，迅速判斷有害、色情等內(nèi)容反饋給到審核管理員，由審核管理員及時(shí)進(jìn)行刪除/禁言/封號(hào)處理，以保證平臺(tái)為用戶提供安全健康的內(nèi)容。

除了這類的內(nèi)容社區(qū)容易中招之外，以下三大場(chǎng)景更容易成為不法分子散播色情、暴力、血腥等違法內(nèi)容的重災(zāi)區(qū)。

直播平臺(tái)

還記得早年的互聯(lián)網(wǎng)聊天室，大家賣力的唱著歌，花錢買最好的攝像頭與麥克風(fēng)，只為情感得到釋放，單純享受陌生人之間的交流。而現(xiàn)在，直播平臺(tái)的一些主播們?yōu)榱丝焖偕?cái)，花重金置辦最誘惑的直播場(chǎng)景，只為襯托自己“不可描述”的撩人動(dòng)作表演。

除了色情直播，少量不法分子還會(huì)利用直播平臺(tái)煽風(fēng)點(diǎn)火傳播敏感言論、惡搞政治人物等，蒙蔽不明(吃)真相(瓜)的群眾。不僅如此，還有不少越過法律邊緣的人利用直播平臺(tái)來販賣槍支彈藥，推廣賭博網(wǎng)站，甚至販賣違禁藥物。

部分平臺(tái)由于審核人力和技術(shù)資源有限，短時(shí)間內(nèi)容易漏過對(duì)某些主播視頻內(nèi)容分享的檢測(cè)，造成平臺(tái)口碑下降，對(duì)觀眾造成不良影響，甚至觸犯法律。騰訊云天御內(nèi)容安全解決方案不僅對(duì)涉黃、敏感畫面有著99%的識(shí)別準(zhǔn)確率，若遇上主播們通過“聲情并茂”的表演獲利，發(fā)出那羞羞的聲音，天御最新的音頻識(shí)別技術(shù)能結(jié)合聲紋、違禁詞匯，來判斷出色情嬌喘聲以及敏感言論。

此處不適合放客戶案例現(xiàn)場(chǎng)圖

省略一萬字……

游戲平臺(tái)

開著語音打著游戲，當(dāng)遇上神(zhu)一樣的隊(duì)友時(shí)，總是忍不爆幾句粗口，文字罵完語音罵，從“家屬式問候”到敏感言論，大量低俗內(nèi)容滋生。除了充斥謾罵，被騙則讓更多玩家們苦不堪言。詐騙分子常常聲嘶力竭的喊著麥“游戲裝備只要XX元”，價(jià)格如此優(yōu)惠，讓眾多玩家“心動(dòng)不已”，而騙子們正是利用玩家貪圖便宜的心里誘騙玩家充錢，實(shí)際上，用戶很難拿到心儀的道具，甚至有可能導(dǎo)致游戲賬號(hào)被封。

平臺(tái)被不法分子利用，不僅影響玩家體驗(yàn)，對(duì)平臺(tái)也造成極大困擾。不久前，天御就為游戲「香腸派對(duì)」解決了這個(gè)棘手的問題。

「香腸派對(duì)」是一款兒童游戲，可是有些不法分子連小孩子都不放過!接入騰訊云天御的服務(wù)后，天御為「香腸派對(duì)」識(shí)別出實(shí)時(shí)語音里的涉黃內(nèi)容，以及謾罵等。騰訊云實(shí)時(shí)語音引擎能夠?qū)⑵脚_(tái)指定的違規(guī)音頻過濾，審核人員則會(huì)收到識(shí)別引擎的反饋，根據(jù)平臺(tái)守則對(duì)違規(guī)人員進(jìn)行禁言/封號(hào)處理，從而維護(hù)游戲平臺(tái)生態(tài)，讓孩子享受一個(gè)健康的游戲平臺(tái)。

小程序平臺(tái)

除了常見的直播平臺(tái)、游戲平臺(tái)，新興的小程序平臺(tái)也被違法的內(nèi)容制造者盯上，依賴于平臺(tái)的高互動(dòng)性，他們開始瞄準(zhǔn)這里生產(chǎn)高危內(nèi)容吸引眼球，其中不乏涉黃、暴力、血腥等各種違法內(nèi)容。

運(yùn)營(yíng)者受限于審核人力原因，很無助，甚至被執(zhí)法部門約談。對(duì)于這些違規(guī)內(nèi)容，騰訊云天御都能快速識(shí)別，幫助企業(yè)或者開發(fā)者提高內(nèi)容平臺(tái)的安全屬性，從而助力業(yè)務(wù)健康的成長(zhǎng)。

除以上高流量淫穢場(chǎng)景之外，還有不少普通應(yīng)用場(chǎng)景也涉及內(nèi)容安全，比如社交、電商O2O圖片識(shí)別場(chǎng)景等。社交場(chǎng)景下用戶填寫資料，不少賣愛情動(dòng)作片的商家直接將內(nèi)容制作為圖像文本，最常見的是把聯(lián)系方式與樣片作為頭像，這個(gè)時(shí)候 ocr 識(shí)別技術(shù)便會(huì)識(shí)別，不讓你縱欲;電商O2O平臺(tái)的商家在布置店鋪以及商品上架發(fā)布過程，可能存在違法圖片上傳風(fēng)險(xiǎn)，有可能涉黃、涉敏等，畢竟好賺的錢大都違法。

不想被色情、血腥、暴力等違法內(nèi)容毀掉的企業(yè)如遇到以上這些問題，請(qǐng)及時(shí)接入騰訊云天御內(nèi)容安全解決方案：色情圖片識(shí)別準(zhǔn)確率99%，文本識(shí)別率高達(dá)99%，每0.02秒能夠識(shí)別1秒的音頻……

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。