9月11日上午，第六屆CSS互聯(lián)網(wǎng)安全領袖峰會正式開幕。來自中國信通院、IDC、小紅書、騰訊等相關領域的專家，共同圍繞“產(chǎn)業(yè)上云，安全先行”主題展開探討，分享產(chǎn)業(yè)安全不同領域的最佳實踐。
小紅書安全業(yè)務負責人周達受邀出席大會并發(fā)表題為《小紅書與安全》的主題演講。他認為，社區(qū)安全治理是一個長期不間斷的工作，其安全本質(zhì)就是解決平臺、發(fā)布者、消費者三方訴求，終極解決之道就是加持大數(shù)據(jù)、人工智能等技術創(chuàng)新手段，才能實現(xiàn)打擊質(zhì)效的進一步提升。
以“三方”訴求為導向，構建“識別+處罰+宣導”社區(qū)安全管理機制
周達指出，對于社區(qū)平臺而言，用戶發(fā)布的內(nèi)容，需要符合相關的法律法規(guī)，以及平臺的價值觀。這要求平臺強化內(nèi)容安全審核時，要以科技創(chuàng)新為基礎，通過“機器審核+人工審核+高展復合”機制提高對內(nèi)容安全的監(jiān)管能力，始終圍繞社區(qū)定位做好內(nèi)容安全管理。
周達舉例說，在機器審核環(huán)節(jié)中，通過與騰訊的合作，我們引入了騰訊安全天御的AI技術，完善了機器審核能力，同時大幅提高了人工審核效率，以及減少了人工審核的數(shù)量，為小紅書的發(fā)布者提供了一個更加優(yōu)質(zhì)的體驗。
關于發(fā)布者和消費者二者之間的關系和安全訴求，周達以一個譬喻來生動形象地說解答說：小紅書像是一座城市，內(nèi)容的發(fā)布者參與到社會的生產(chǎn)活動中，我們認定其為“商人”，而用戶付出的是時間機會成本，在經(jīng)濟學中被稱之為“消費者”。那么，“商人”更加畏懼刷粉、刷量、刷贊等破壞市場規(guī)則的不正當競爭手段，這樣會導致優(yōu)質(zhì)的發(fā)布者無法獲得足夠的流量，最終被淘汰。但消費者安全訴求本質(zhì)是信息的不對稱，無論是以什么樣的方式，都是通過信息不對稱的結(jié)果，導致了我們的消費者最終上當受騙，或者對你們的利益產(chǎn)生了損害。
針對以上三方面臨的安全問題，小紅書在實踐過程中逐漸摸索一套“識別+處罰+宣導”專業(yè)化安全治理體系，并且效果日漸凸顯。據(jù)小紅書2020年第二季度社區(qū)生態(tài)治理報告數(shù)據(jù)顯示，小紅書當季處理涉嫌刷量筆記 66萬篇、實時攔截和清理黑產(chǎn)行為超過1.3億次、巡回攔截和清理黑灰產(chǎn)行為超過1.3億次，對網(wǎng)絡黑灰產(chǎn)形成了巨大的威懾力和殺傷力。
創(chuàng)新技術手段加持，“大數(shù)據(jù)服務+用戶隱私保護”驅(qū)動社區(qū)安全建設發(fā)展
流量為王時代，針對內(nèi)容安全治理如何破解的問題。周達則表示，創(chuàng)新技術是內(nèi)容平臺安全管理的終極解決之道，通過建立安全新思維，體系化機制來解決安全問題。
他以小紅書和騰訊安全聯(lián)合打擊真人眾包合作為例，天御系統(tǒng)會把在站外識別到的黑灰產(chǎn)打上標簽，當這些黑灰產(chǎn)用戶來到小紅書的時候，我們就已經(jīng)提前一步知曉黑灰產(chǎn)的目的動機，可以第一時間采取防御措施。
除了持續(xù)的迭代策略對抗、加強內(nèi)容模型識別外，小紅書還自主開發(fā)、升級清理不良內(nèi)容、打擊虛假數(shù)據(jù)策略模型和治理策略，對有效提升基于行為特征、內(nèi)容特征等方面的算法模型和策略識別能力在治理中也起到了關鍵作用。同時，小紅書還將大數(shù)據(jù)分析、人工智能、機器學習等新技術運用于安全體系，對安全事件事前偵知預警、事中察知阻斷和事后溯源修復，全流程有效防范和嚴厲打擊黑灰產(chǎn)。
正如騰訊副總裁丁珂在演講中所說：“目前大多數(shù)企業(yè)安全體系的完備程度，相比數(shù)字化的發(fā)展速度，還存在比較大的差距。不能簡單的把安全寄希望于一筆預算的投入，而是應該系統(tǒng)性地重新思考安全的戰(zhàn)略定位，選擇恰當?shù)穆窂胶褪侄危业浇鉀Q安全風險的‘最優(yōu)解’。”
在大數(shù)據(jù)及人工智能飛速發(fā)展的今天，周達也對大數(shù)據(jù)服務和用戶隱私保護等新技術趨勢做出預測。在演講最后他表示，小紅書正逐步將位置保護技術、同態(tài)加密技術、聯(lián)邦計算技術、OT傳輸技術等多方技術應用于用戶數(shù)據(jù)保護，從根源上確保用戶隱私被盜用、竊取，讓用戶對自己個人數(shù)據(jù)享有絕對的“自主權”。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
