阿里詳解安全AI：鑒黃、故宮文創(chuàng)、新零售等場景如何應(yīng)用新一代AI

烏鎮(zhèn)刷臉游、新零售賣場抓小偷、幫故宮睡衣維權(quán)……這些看起來風(fēng)馬牛不相及的事件背后，卻都有阿里安全圖靈實驗室安全AI技術(shù)能力的身影。近日，在阿里首提“安全AI”技術(shù)概念后，旋即引發(fā)行業(yè)討論：如何看待安全場景的新一代AI？在應(yīng)用場景中AI如何不斷進(jìn)化、帶來哪些改變？

1月16日，在北京舉行的“安全AI護(hù)航數(shù)字經(jīng)濟”溝通會上，阿里安全圖靈實驗室多名技術(shù)專家集體亮相，系統(tǒng)闡釋了內(nèi)容安全、新零售安全、知識產(chǎn)權(quán)保護(hù)等領(lǐng)域的實踐案例，并詳細(xì)講解安全AI應(yīng)用的技術(shù)邏輯。

圖說：阿里安全所提及的安全AI概念包含可信賴人工模型、極限數(shù)據(jù)條件下學(xué)習(xí)等四個特點

“舉個例子，人都是可以進(jìn)化的，在安全領(lǐng)域，面對高對抗性、高變化、小樣本等特質(zhì)，我們覺得可以培養(yǎng)或者進(jìn)化出一種新的AI能力，就是安全AI，”阿里安全研究員陸全表示，面對阿里巴巴經(jīng)濟體這樣一個龐大、復(fù)雜的生態(tài)環(huán)境，以及黑灰產(chǎn)利用AI等攻擊手段，讓AI具有靈活性、自適應(yīng)性、實現(xiàn)智能攻防就尤為重要，安全AI理念的提出也是阿里安全不同于其他安全團(tuán)隊的技術(shù)特質(zhì)。

安全AI在智能攻防、知識產(chǎn)權(quán)等場景落地

阿里安全提出這一理念的底氣也緣于他們長久以來為業(yè)務(wù)解決安全問題的實踐經(jīng)驗。2018年雙11，阿里安全攔截了超過16億次的惡意攻擊，就是通過其安全AI的智能攻防技術(shù)。

阿里安全資深技術(shù)專家鐵花表示，安全AI首先會分析是什么樣的行為，其次會學(xué)習(xí)正常人的購買路徑和交易請求，“通過黑樣本和白樣本的篩選，當(dāng)于是我給你建了檔，你從這個地方來的時候，你必須得符合這些要求，我才讓你過，所以安全AI能夠催生下一代的AI智能攻防。”

近期故宮睡衣遭侵權(quán)的事件引來高度關(guān)注，而在淘寶原創(chuàng)保護(hù)機制下迅速成功維權(quán)，安全AI功不可沒。與此同時，在知識產(chǎn)權(quán)保護(hù)領(lǐng)域，安全AI的應(yīng)用也在不斷增強。

“阿里安全已經(jīng)建立了一套基于內(nèi)容的大規(guī)模檢索系統(tǒng)，應(yīng)用在logo識別、盜圖檢索、視頻指紋、商家原創(chuàng)保護(hù)等領(lǐng)域，”阿里安全圖靈實驗室高級算法專家華棠表示，安全AI應(yīng)用可有效抵抗轉(zhuǎn)碼、加噪、裁剪等多種干擾，與此同時，GPU配合大規(guī)模分布式計算，使得十億規(guī)模的圖像檢索系統(tǒng)，可在幾秒內(nèi)返回結(jié)果，并使百億量級的圖像檢索成為可能。

安全AI提供未來安全的解決方案

活動現(xiàn)場，阿里安全圖靈實驗室的專家們也對未來網(wǎng)絡(luò)安全的趨勢進(jìn)行預(yù)判，內(nèi)容安全和新零售安全的需求無疑將不斷增長。

2018年，從內(nèi)涵段子、暴走漫畫等被關(guān)停的風(fēng)波，到多家視頻、新聞平臺被約談，內(nèi)容安全的重要性已經(jīng)不言而喻，但卻鮮有完美的解決方案。

“以色情低俗內(nèi)容為例，很多人認(rèn)為通過‘信息+開源模型‘就能簡單粗暴去做過濾，但實際上從我們實踐的經(jīng)驗來看，AI算法與業(yè)務(wù)需求之前存在很大的鴻溝?！卑⒗锇踩珗D靈實驗室高級算法專家威視認(rèn)為原因包涵：正常樣本與違規(guī)樣本的比例極度不均衡，圖像、音頻等面臨高度的對抗性，以及不斷增加的新風(fēng)險深度學(xué)習(xí)可參考的樣本幾乎沒有。

“針對上述原因，安全AI已有面向未來的解決方案，比如設(shè)計非開源網(wǎng)絡(luò)、對抗訓(xùn)練、多任務(wù)網(wǎng)絡(luò)、AI專用芯片等?！蓖暠硎?。

而作為商業(yè)操作系統(tǒng)的新零售業(yè)務(wù)，為用戶提供了更自由、更放松的購物環(huán)境，但也可能出現(xiàn)偷盜、商品損壞等多種風(fēng)險，對安全技術(shù)提出更高的要求。

阿里安全圖靈實驗室高級算法專家覺奧表示，安全AI技術(shù)在新零售的多家門店進(jìn)行落地后，其預(yù)警小偷的準(zhǔn)確率接近100%，抓捕率達(dá)到90%，“其中就是通過技術(shù)能力，我們歸類了18項高風(fēng)險人物特征，運用深度學(xué)習(xí)技術(shù)實現(xiàn)視頻信息結(jié)構(gòu)化，結(jié)合算法和規(guī)則計算風(fēng)險概率，根據(jù)中期長期記憶增強識別能力，對風(fēng)險行為進(jìn)行識別?！?/p>

覺奧認(rèn)為，隨著安全AI技術(shù)能力的進(jìn)步，未來算法需要實現(xiàn)從解決單點到透視全局，從模擬人工到超越人工的進(jìn)化。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。