近日，來自機器學(xué)習(xí)、計算機視覺、自然語言處理，以及在生物醫(yī)療、金融、推薦系統(tǒng)等應(yīng)用領(lǐng)域的12位著名專家聯(lián)合創(chuàng)作的《可解釋人工智能導(dǎo)論》一書正式出版，該著作全面介紹了可解釋AI在理論上和應(yīng)用上的發(fā)展現(xiàn)狀、存在的問題以及今后發(fā)展的方向。其中微眾銀行首席人工智能官楊強教授與人工智能首席科學(xué)家范力欣博士作為主要作者參與了此書的撰寫。
AI應(yīng)用持續(xù)落地，打造可解釋AI日趨重要
進入21世紀(jì)以來，人工智能(Artificial Intelligence，AI)取得了長足發(fā)展，智能化的人機協(xié)同成為發(fā)展趨勢。如果能夠了解AI對決策的判斷，實現(xiàn)理解、信任、管理AI的目標(biāo)，那么人們將更有信心全方位地應(yīng)用AI。
在此背景下，發(fā)展可解釋、可擴展、安全可靠的AI顯得至關(guān)重要?？山忉屝跃腿缤t(yī)生需要向病人解釋病因，才能提供可理解的診斷結(jié)果和治療措施。發(fā)展安全可靠的AI的首要任務(wù)，是人類能夠理解AI技術(shù)的基本原理、自動決策的機制，以應(yīng)對潛在風(fēng)險及準(zhǔn)備防范措施。在實際情況中，核心AI算法尤其是深度學(xué)習(xí)算法通常運行在類似于“黑盒”中的工作模式，其運行結(jié)果需要輔以合理的解釋為人類所理解和信任。
各國現(xiàn)行的條例法規(guī)同樣要求人工智能系統(tǒng)的開發(fā)使用，必須在監(jiān)管合規(guī)的條件下運行。因此，發(fā)展可解釋AI具有重要的理論意義與現(xiàn)實意義。首先，可解釋AI可幫助用戶建立對AI系統(tǒng)的信任，防止因為算法的黑盒特性做出有偏見的結(jié)論，促進算法的公平性;其次，它可以滿足監(jiān)管機構(gòu)的合規(guī)要求，促進AI的公平性、穩(wěn)健性、安全性發(fā)展。
微眾銀行關(guān)注可信、可解釋的AI理論及應(yīng)用
基于在金融領(lǐng)域的實踐，微眾銀行已經(jīng)在智能服務(wù)、智能營銷、聯(lián)邦學(xué)習(xí)等方面獲得一系列成果。參與撰寫《可解釋人工智能導(dǎo)論》體現(xiàn)了微眾銀行在發(fā)展可信、可解釋、負(fù)責(zé)任的人工智能方面的探索。
據(jù)了解，針對隱私計算和聯(lián)邦學(xué)習(xí)所面臨的安全、效率、性能之間的平衡問題，近期楊強教授帶領(lǐng)微眾銀行AI團隊持續(xù)豐富和拓展聯(lián)邦學(xué)習(xí)的理論，提出了“可信聯(lián)邦學(xué)習(xí)”概念。“可信聯(lián)邦學(xué)習(xí)”以隱私保護、模型性能、算法效率為核心的三角基石，以模型的決策可解釋性和可監(jiān)管性為兩大支柱，共同構(gòu)成了更加安全可信的聯(lián)邦學(xué)習(xí)。
在“可信聯(lián)邦學(xué)習(xí)”理論框架下，楊強教授及團隊提出了隱私與模型性能的"No-free-lunch安全-收益恒定"定律，利用該定律可實現(xiàn)可信聯(lián)邦學(xué)習(xí)的安全、性能、效率三者的協(xié)調(diào)，在實現(xiàn)更高質(zhì)量的隱私保護的同時，既不犧牲數(shù)據(jù)安全保護，也不致使模型性能和學(xué)習(xí)效率的大幅下降。有效運用該定律能夠量化分析隱私計算各種技術(shù)保護方案的優(yōu)劣，進一步優(yōu)化隱私保護算法設(shè)計。目前相關(guān)論文已被國際頂級學(xué)術(shù)期刊接收。
楊強教授表示：“數(shù)據(jù)安全、隱私保護與可解釋性應(yīng)當(dāng)與模型性能、算法效率并重，在金融應(yīng)用場景中尤為重要。未來，微眾銀行將持續(xù)深入在相關(guān)領(lǐng)域的探索和研究，持續(xù)推動可信、可解釋、負(fù)責(zé)任的AI應(yīng)用。”
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
