12月27日,抖音發(fā)布2024年直播治理報告,全面闡釋抖音直播過去一年的治理理念、技術(shù)及最新成果。
報告稱,抖音在過去一年持續(xù)迭代主播“健康分”,通過加減分定級定檔的長效管理機制引導(dǎo)主播“向善”,獲得顯著成效。此外,抖音利用AI技術(shù)不斷提升治理速度和精度,有效解決風(fēng)險曝光時長的痛點。升級未成年人保護機制,并積極探索“城市+平臺”治理模式,完善綜合治理體系。抖音直播還配合相關(guān)部門打擊黃賭毒詐黑色產(chǎn)業(yè)鏈,搗毀百余個犯罪窩點,從源頭消除違法犯罪分子對直播行業(yè)的污染,全力維護行業(yè)的健康發(fā)展。
主播管理精細化運營 機構(gòu)需承擔(dān)管理責(zé)任
2024年1月3日,抖音直播新版“健康分”管理機制正式生效,該機制是在針對直播間違規(guī)內(nèi)容做單次處罰的基礎(chǔ)上,平臺根據(jù)主播日常直播增減賬號“健康分”,并依據(jù)分值對賬號分級定檔,對應(yīng)不同的長效管理措施。這也意味著,抖音的主播管理進入精細化運營階段。
報告介紹,“健康分”低于70的主播,會被減少推薦、限制單日PK次數(shù),甚至限制違規(guī)場次收益提現(xiàn)、關(guān)閉禮物收入功能等,0分主播則永久回收直播權(quán)限。主播的長期表現(xiàn)和收益綁定后,大量主播開始主動修正內(nèi)容。至2024年底,共有100萬主播被扣除過健康分,76%的低分主播主動調(diào)整內(nèi)容后不再違規(guī),直播間違規(guī)率明顯下降。
同時,抖音直播制定了將“主播健康分”與機構(gòu)進行關(guān)聯(lián)的管理規(guī)則,如主播內(nèi)容違規(guī),機構(gòu)需要承擔(dān)對應(yīng)的管理責(zé)任,并持續(xù)開展機構(gòu)安全培訓(xùn),2024年,機構(gòu)主播的重復(fù)違規(guī)率下降10%。
引入音頻審核大模型,強化違規(guī)內(nèi)容治理
直播的魅力在于“所見即所得”,這決定了直播治理的關(guān)鍵在于最短時間識別、定位并處置違規(guī)直播,盡可能縮短違規(guī)內(nèi)容曝光時長。
抖音直播在原有的AI應(yīng)用基礎(chǔ)上引入音頻審核大模型,通過大量預(yù)訓(xùn)練,使其逐步掌握直播場景中的常用表達方式,并具備基本的邏輯推理能力,還能在分析文本內(nèi)容的同時,兼顧環(huán)境音、氛圍音等信號特征,感知音頻包含的情緒,輔助判斷語義。AI 技術(shù)的深度應(yīng)用,將有效改善違規(guī)內(nèi)容曝光時長的核心痛點,未來大量風(fēng)險內(nèi)容的識別、研判將逐漸由人審處置轉(zhuǎn)移為機器自動識別 + 處置。
2024 年,隨著 AI 大模型在直播審核、處置上的廣泛應(yīng)用,抖音直播著重加強對各類違規(guī)內(nèi)容的治理,開展二十余次專項行動,共無限期回收直播權(quán)限賬號32萬個,清退直播機構(gòu)526家。
升級重點人群保護機制 探索“城市+平臺”聯(lián)動治理模式
同時,抖音也在持續(xù)完善綜合治理體系,結(jié)合城市、人群特點,探索不同的治理模式。2024年,抖音直播升級未成年人保護機制,推廣“青少年模式”應(yīng)用。“青少年模式”不提供打賞消費服務(wù),可從源頭阻斷未成年人直播消費,平臺也同步加強對未成年人繞過青少年模式消費等行為的監(jiān)督。
未經(jīng)監(jiān)護人允許的未成年人打賞消費,一經(jīng)核實,抖音直播將先行全額墊付退賠,平均21小時可完成退款,2024年共幫助9.5萬個未成年人所在家庭快速退款。對于這些退款賬號,平臺將關(guān)閉其充值消費功能,預(yù)防再次消費。
另一方面,抖音直播在網(wǎng)紅城市爆火的背景下,積極探索“城市+平臺”治理模式。2024年,抖音直播聯(lián)動長沙、沈陽等城市的相關(guān)部門,結(jié)合直播特點針對性建立“快速預(yù)防+高效處置”的聯(lián)動機制,對反復(fù)違規(guī)的賬號升級處置力度、對涉及線下違規(guī)的行為共同打擊,違規(guī)行為大幅減少,并在多部門協(xié)同下,與直播機構(gòu)、主播代表等發(fā)起文明直播的行業(yè)倡議。
加強與警方配合,嚴厲打擊線下違法犯罪行為
平臺在治理中還發(fā)現(xiàn),大部分嚴重違規(guī)的直播間,如低俗色情、詐騙導(dǎo)流等,都來自線下違法甚至犯罪行為,僅靠線上治理無法真正解決問題。即便在單個平臺防范住某個黑產(chǎn)團伙,他們?nèi)钥梢岳闷渌脚_進行違法犯罪行為,嚴重阻礙行業(yè)健康發(fā)展。
在此背景下,過去一年抖音直播成立專項團隊,分級分類摸排違規(guī)線索,深入研判賬號信息特征后上報公安機關(guān),并緊密配合相關(guān)部門對黑灰產(chǎn)的查處;上線多個針對性內(nèi)容檢測能力,前置打擊企圖在直播前利用頭像、背景圖、評論等信息進行色情引流的賬號;直播中對暴露色情二維碼等內(nèi)容實現(xiàn)快速斷播,色情黑產(chǎn)重復(fù)違規(guī)率減少30%,無限期回收7.4萬個涉色情導(dǎo)流、15萬個涉嫌導(dǎo)流欺詐黑灰產(chǎn)賬號的直播權(quán)限。一年來,抖音直播主動向相關(guān)部門上報黑產(chǎn)線索300余條,配合公安機關(guān)搗毀犯罪窩點100余個,抓捕犯罪嫌疑人361名。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
