OpenDILab幕后的「孤勇者」：AI研究員、電競冠軍和他們的開源夢

生物智能的產(chǎn)生，一直以來被定義為「奇跡」和「謎團」。

從宇宙的一片塵埃開始，人類的演化花費了數(shù)十億年的時間。很難想象，你我均起源于出現(xiàn)在地球上的單細胞生物。

時至今日，人類憑借自身的智慧，創(chuàng)造了地球上最繁榮的文明。同時，這一演化仍在繼續(xù)，遠沒有走到盡頭。

但演化的方向已經(jīng)悄然改變：下一代文明的方向，將由人類親手創(chuàng)造的「智能體」來探索。

由此引出一個問題：人類智能與人工智能，誰的上限將會更高？

過去數(shù)十年，研究者夙興夜寐，將無數(shù)人類智慧灌注其中，不斷將「人工智能」的能力上限抬高。一個剛剛誕生的智能體，就像一個初來世間的嬰孩，即使懵懂，卻蘊藏著無限潛力。在永不停歇的演變之后，人們普遍認(rèn)為，智能體終將超越人類。

這種演化規(guī)律，在 OpenDILab 平臺的開源歷程中體現(xiàn)得淋漓盡致。它的源起，是幾位算法研究員的一次跨界設(shè)想，是面向最復(fù)雜的競技游戲的一場挑戰(zhàn)。僅僅過了兩年多時間，今天的 OpenDILab 已演化為覆蓋最全學(xué)術(shù)界算法和工業(yè)級規(guī)模的國產(chǎn)決策智能開源平臺。它為整個決策智能領(lǐng)域開辟了一個全新的開源社區(qū)，這個社區(qū)正在以驚人的速度生長。

項目地址：https://github.com/opendilab

2022 年 6 月 12 日，《星際爭霸 II》前中國冠軍——IG 戰(zhàn)隊的 iA ，又一次登陸了斗魚直播間。這么久不見，人們發(fā)現(xiàn)，iA 竟然開始講 PPT 了。

兩年之前，iA 低調(diào)退役。兩年之后，電競少年歸來，已是 AI 研究員，還帶來了目前已開源項目中實力最強的《星際爭霸 II》 AI——DI-star。

直播錄像：https://www.bilibili.com/video/BV15T411G7xD?spm_id_from=333.999.0.0

一個多小時的直播里，iA 演示了多場對局。在所有演示中，DI-star 均表現(xiàn)出人類最高段位——Grandmaster 分段的競技水平。

驚喜的是，DI-star 的決策能力相當(dāng)靈活，屢次在復(fù)雜對局中快速找到最優(yōu)策略。比如與前世界冠軍 Scarlett 對戰(zhàn)時，DI-star 使用了 「女王前壓」 這種不常見于人類的戰(zhàn)術(shù)，出奇制勝：

此時，距離 DI-star 及其背后的決策智能平臺 OpenDILab 開源已經(jīng)有一年了。

2022 年 9 月，OpenDILab 正式升級為 1.0 版本，幕后團隊兩年多來的心血，全部凝聚于此。

白手起家

所有的故事都從 2020 年的第一個月開始。一群來自中國的算法研究員和工程師，在人臉識別的數(shù)據(jù)海中摸爬滾打多年之后，決定跳出舒適區(qū)，做一點探索未來的事。

比如，從零開始打造一個星際爭霸 AI。

在當(dāng)時的 AI 學(xué)界眼中，決策 AI 是不同于計算機視覺等感知型 AI 的另一道難關(guān)，而《星際爭霸 II》一直被看作檢驗 AI 決策能力的絕佳舞臺，也是 AI 爭相挑戰(zhàn)的「珠峰」。

星際爭霸系列游戲能保持 20 多年長盛不衰，一部分原因就在于其豐富的多層次游戲機制?！缎请H爭霸 II》的空間復(fù)雜度高達 10 的 1685 次方，遠超圍棋 10 的 170 次方復(fù)雜度。對于 AI 來說，這是一個非常接近現(xiàn)實世界的虛擬環(huán)境。

開源社區(qū)是助力 AI 發(fā)展的重要因素之一，而在項目的開始階段，DI-star 的開發(fā)者們準(zhǔn)備好了充足的算力和資源，卻發(fā)現(xiàn)星際爭霸 AI 的開源生態(tài)基本是一片空白，只能找到 DeepMind 公開的原版論文，非常多的技術(shù)細節(jié)都有待考證。就好比老師教了你九九乘法表，卻突然讓你做一道微積分的作業(yè)題。

DI-star 的開發(fā)者們首先調(diào)研了各種已有的強化學(xué)習(xí)開源平臺，但發(fā)現(xiàn)開源的算法、工具等基本都是圍繞「小而精」的學(xué)術(shù)研究，壓根沒有星際爭霸這種大規(guī)模環(huán)境的開源項目。

「沒有輪子，就立馬動手造一個，這才是極客精神！」

于是乎，DI-star 的開發(fā)者們拿著之前自己在計算機視覺任務(wù)上積累的經(jīng)驗，想要一定程度的知識復(fù)用。但很快他們就發(fā)現(xiàn)，這不只是個脫離舒適區(qū)的問題，這簡直是一腳踏入深水區(qū)，每天都會誕生新的靈魂拷問：

原本規(guī)規(guī)整整的張量圖片，卻變成了高度結(jié)構(gòu)化且動態(tài)變化的游戲信息；

原本直筒式簡簡單單搭積木的神經(jīng)網(wǎng)絡(luò)設(shè)計，卻變成了復(fù)雜多樣的「毛線團網(wǎng)絡(luò)」設(shè)計比賽；

原本輕易擴展的分布式訓(xùn)練架構(gòu)，卻變成了多種硬件和計算模式混合的大雜燴系統(tǒng)……

在不斷以「一日速成法」了解各類游戲 AI 設(shè)計和分布式系統(tǒng)設(shè)計知識后，團隊總算是搭出了第一版能正常運行的分布式訓(xùn)練系統(tǒng)，這也是之后 OpenDILab 的最初原型。

只不過還有一件事讓人犯愁：到底怎么讓 AI 學(xué)習(xí)打星際的技巧呢？這需要集深度學(xué)習(xí)、強化學(xué)習(xí)、游戲 AI 三方面的技術(shù)和力量。

技術(shù)可以后天努力學(xué)習(xí)，游戲天賦可真是命中注定，于是，他們找到了中國星際的傳奇人物：iA 周航。于是，幾個基本對決策 AI 零基礎(chǔ)的人，構(gòu)成了 DI-star 項目的最初班底。

「最初幾乎訓(xùn)練不出來任何哪怕有正常操作的 AI」。DI-star 團隊一度很頭疼。沒辦法，前半年只能一點一點解 bug，慢慢地教。發(fā)現(xiàn)一個不合理的 AI 行為，就從游戲錄像中開始分析，對應(yīng)到具體的游戲操作，解析游戲引擎內(nèi)存中的數(shù)據(jù)片段，再一步步追根溯源，最終分析到神經(jīng)網(wǎng)絡(luò)里具體某個神經(jīng)元的激活輸出，從而定位到代碼實現(xiàn)和算法設(shè)計的相關(guān)問題。

「程序是不會騙你的，只要你用心去凝視它?！?/strong>像上面這樣一環(huán)扣一環(huán)，非常需要高度集中心力的細節(jié)分析，在 DI-star 的前期階段，幾乎是天天都有。

終于，經(jīng)歷了半年的艱苦奮斗， 2020 年 6 月，DI-star 已經(jīng)能夠擊敗簡單的電腦。2020 年 7 月，團隊進行了 DI-star 第一次人機內(nèi)測，AI 戰(zhàn)勝了一位剛剛?cè)腴T《星際爭霸 II》的研究員。

步入正軌之后，就要去探索 AI 的上限究竟在哪里。DI-star 團隊希望在整個系統(tǒng)的各個環(huán)節(jié)中都做到極致：不僅僅是復(fù)現(xiàn)最強的決策 AI 問題，而是盡其所能去嘗試每種可能性。有人從神經(jīng)網(wǎng)絡(luò)角度，設(shè)計更穩(wěn)定的大批量樣本優(yōu)化技術(shù)和高效處理動態(tài)決策空間的網(wǎng)絡(luò)層，有人從強化學(xué)習(xí)優(yōu)化方向，精心調(diào)控探索和利用的多方面平衡，有人從游戲 AI 領(lǐng)域，融合即時戰(zhàn)略類游戲的百家之長，將 AI 的微操優(yōu)勢培養(yǎng)到新的境界，有人從系統(tǒng)效率出發(fā)，做各種資源的權(quán)衡，存儲 / 網(wǎng)絡(luò) / 計算，一切能想到的辦法都用來優(yōu)化訓(xùn)練效率。

在集合整個團隊的技術(shù)積累之后，歷經(jīng)人類錄像模仿學(xué)習(xí)和自我博弈強化學(xué)習(xí)兩個階段，總計一億局星際對局，五周的最終訓(xùn)練時間，2021 年 6 月，DI-star 終于戰(zhàn)勝了 DI-star 的創(chuàng)造者之一——周航本人。之后，周航又拉來一些職業(yè)電競時期的老朋友跟 DI-star 打，包括 MMR6000 分的中國最強蟲族選手 Rex。

好消息是，DI-star 都贏了，沒辜負一年多來的苦練。

從星際 AI 到開源平臺

路行至此，接下來又該怎么走？

極客探索歸探索，但想把技術(shù)做長久做出影響力，復(fù)盤是必不可少的。而在當(dāng)時的馬拉松復(fù)盤會中，研發(fā)團隊一致的觀點是：必須積累足夠扎實的技術(shù)工具鏈。DI-star 中的小農(nóng)式精耕細作太難復(fù)制也太難推廣了，需要能有讓決策AI技術(shù)真正大放光彩的基建工作。那么自然的，做一個決策智能開源平臺和生態(tài)，就成了大家新的目標(biāo)。

更具體一點，在算法方面，哪些技術(shù)適合在前期探索智能體策略的多樣性和潛力，哪些方法適合作為最終超大規(guī)模強化學(xué)習(xí)訓(xùn)練的核心模塊；在系統(tǒng)方面，哪些系統(tǒng)設(shè)計既能提高采樣效率又能對大規(guī)模強化學(xué)習(xí)的優(yōu)化效率帶來幫助，什么樣的設(shè)計可以易用快速的算法迭代和想法驗證。所有上述這些積累的經(jīng)驗和知識，都是有價值被沉淀下來的東西。

光是教會AI玩《星際爭霸 II》并不是最終目標(biāo)，探索決策AI的能力邊界，學(xué)會面對更加復(fù)雜的真實世界，才是在青春年月值得去拼搏的事?；谶@樣的初心，后續(xù)成立的 OpenDILab 團隊以 DI-star 為起點，開始進一步探索如何做開源。

當(dāng)時決策智能領(lǐng)域的開源生態(tài)，比起 CV、NLP 這些成熟的研究領(lǐng)域，的確差了不是一點半點。

不過對于整個決策智能領(lǐng)域來說，開發(fā)者最需要的不只是某一套代碼，也不僅是某一個工具包。這個領(lǐng)域，正需要一個功能全面、便捷易用的開源平臺。

但如何設(shè)計一個能滿足廣大研究者需求的平臺，是需要認(rèn)真考慮的問題。

這時，更多學(xué)術(shù)界、產(chǎn)業(yè)界的決策智能研究痛點進入了團隊成員們的視野：

與感知智能不同，決策類問題通常涉及處理諸如圖像、語音、結(jié)構(gòu)化數(shù)據(jù)等多種復(fù)雜模態(tài)的數(shù)據(jù)類型。此外，單機單卡與多機多卡甚至跨集群計算的決策 AI 計算邏輯也完全不同。不同任務(wù)間的最優(yōu)算法配置也差別較大。對于決策智能，這些問題很難標(biāo)準(zhǔn)化。

還有一個客觀現(xiàn)象：關(guān)于決策智能的問題定義和研究視角，學(xué)術(shù)界和工業(yè)界之間的差距是很大的。很多前沿的理論算法缺少環(huán)境和計算 pipeline 上的通用性，只能局限于 toy model 級別的實驗環(huán)境，無法遷移到真正的工業(yè)場景中。

因此，團隊最終對開源平臺的期望是：既要在學(xué)術(shù)算法層面做到最全最廣的覆蓋和統(tǒng)一，又要將這些算法真正發(fā)揮到相應(yīng)的實際場景中去，解決各個其他領(lǐng)域的工業(yè)級應(yīng)用問題。當(dāng)然，想要兼顧兩者是一件極為困難的事，系統(tǒng)和平臺設(shè)計本身就是在做各種各樣的權(quán)衡，而開源社區(qū)正是幫助平臺成長和不斷進化的重要力量。

這將是一項產(chǎn)生長期價值的工程，力求將技術(shù)的廣度和深度都推到極致，將成千上萬開發(fā)者的智慧與努力集合起來，在各行各業(yè)中演化出無限可能。

人人可用的開源決策智能平臺

2021 年 7 月，DI-star 及其衍生出的決策智能平臺 OpenDILab 在 GitHub 正式開源了。

在最初發(fā)布的 OpenDILab beta 版本中，自上而下覆蓋了應(yīng)用生態(tài)層、算法抽象層、分布式管理層和分布式執(zhí)行層，還支持從單機到上萬級別 CPU/GPU 聯(lián)合訓(xùn)練的全尺度調(diào)度系統(tǒng)優(yōu)化，將 OpenDILab 團隊自 DI-star 項目以來積累的各方面技術(shù)和知識完全開源開放出來。然而開源社區(qū)的構(gòu)建是需要不斷打磨的，beta 版本在各種各樣的權(quán)衡中遺留了一些上手難度問題，而在這一年多開發(fā)者與開源社區(qū)的共同努力下，OpenDILab 1.0版本在易用性、效率、多元化等方面都展現(xiàn)出了新的思考和理解。

項目地址：https://github.com/opendilab/

其中，OpenDILab 推出了一系列面向不同目標(biāo)的開源庫：

最底層的 DI-engine 及相關(guān)系統(tǒng)支持庫致力于解決決策AI在環(huán)境，算法，計算尺度三個方面的標(biāo)準(zhǔn)化問題，它首先提供了在 40+ 不同類型決策環(huán)境上的最佳實踐，可作為不同領(lǐng)域研究者應(yīng)用強化學(xué)習(xí)技術(shù)的最佳模板，還匯聚了 8 大研究子方向的 60+ 決策智能算法，將深度強化學(xué)習(xí)，多智能體博弈，離線強化學(xué)習(xí)和模仿學(xué)習(xí)等領(lǐng)域一網(wǎng)打盡，而上述這些環(huán)境和算法，都可以在統(tǒng)一的系統(tǒng)執(zhí)行設(shè)計下高效實現(xiàn)，并根據(jù)任務(wù)特性自適應(yīng)地調(diào)整資源利用的最佳方案。

中層的算法與模型抽象層 DI-zoo 整合了 OpenDILab 在各個領(lǐng)域應(yīng)用決策AI算法的相關(guān)經(jīng)驗，將算法理論，代碼實現(xiàn)，應(yīng)用領(lǐng)域知識一一對應(yīng)在一起，并在AutoML工具的支持下，幫助開發(fā)者構(gòu)建統(tǒng)一且標(biāo)準(zhǔn)的基準(zhǔn)方案，也很大程度上降低了初學(xué)者的入門門檻。

在應(yīng)用生態(tài)層，既有 DI-star 這樣面向于虛擬世界即時戰(zhàn)略類游戲的大規(guī)模強化學(xué)習(xí)訓(xùn)練方案，包含完整的訓(xùn)練、測試和應(yīng)用原型代碼細節(jié)，還開源了包含感知決策全流程的自動駕駛平臺 DI-drive，朝著決策 AI 落地應(yīng)用的方向前進。

自開源以來，OpenDILab 已經(jīng)收獲了 4500 多個 GitHub star。DI-star 也被列入 Github Trending Python 語言優(yōu)質(zhì)開源項目。

多智能體決策智能領(lǐng)域的「ImageNet」

決策智能的落地通常會受到訓(xùn)練平臺、仿真環(huán)境兩方面的挑戰(zhàn)。OpenDILab 是好用的，但它暫時只解決了訓(xùn)練平臺層面的一部分問題。

那么，仿真環(huán)境的問題怎么解決呢？

為了讓更多人參與到?jīng)Q策智能的探索中來，OpenDILab 搞了一場 Go-Bigger 挑戰(zhàn)賽。通俗地講，這其實是一場決策 AI 版的「大球吃小球」挑戰(zhàn)賽。

在 Go-Bigger 挑戰(zhàn)賽里，每局時長十分鐘，大球吃掉小球會獲得更大重量和體積，但同時需要避免被更大的球吃掉。球的類型包括分身球、孢子球、食物球、荊棘球，這四種球的決策路徑是不同的。

每個隊伍都需和其他隊伍對抗，總重量更大的團隊獲勝。

這個游戲環(huán)境看起來簡單，但其實非常考驗多智能體之間的配合和對抗，包括權(quán)衡同一團隊中的個體行動與合作行動、不同團隊間的合作與競爭、表征和交換與其它智能體的環(huán)境信息等，體現(xiàn)了很高的決策復(fù)雜度。

有意思的是，Go-Bigger 游戲設(shè)計了球球?qū)箷r間、成長加速度、分裂、消失、衰亡等約束條件，這種情況其實廣泛存在于現(xiàn)實世界，比如在人的生命周期中，我們都需要在不同的人生階段，在各種約束條件下進行協(xié)作、對抗，做出最利于自身的決策。球球和人類之間，由此產(chǎn)生了一種微妙的關(guān)聯(lián)。

在 AI 領(lǐng)域，很多研究問題的真正被定義和解決，都經(jīng)歷了從「球球」到「真實世界」的模擬過程。

比如計算機視覺領(lǐng)域的經(jīng)典之作 ImageNet。上海人工智能實驗室青年科學(xué)家、商湯科技高級研究總監(jiān)、OpenDILab 項目發(fā)起人劉宇表示，在 ImageNet 比賽之前，數(shù)據(jù)集都非常小，學(xué)術(shù)界很難定義產(chǎn)業(yè)界真正需要的算法問題。但 ImageNet 提出了全新的挑戰(zhàn)，在海量數(shù)據(jù)上定義的研究問題與真實世界中真正應(yīng)該被解決的問題更加貼近了，加上算力條件的提升，成就了后來計算機視覺的蓬勃發(fā)展。

對于今天的多智能體決策智能領(lǐng)域來說，學(xué)術(shù)界和產(chǎn)業(yè)界都在等待著像「ImageNet」這樣具備「公認(rèn)的問題定義能力」的項目出現(xiàn)，而 OpenDILab 希望 Go-Bigger 能擔(dān)起這一重擔(dān)。

有人可能會問，既然開源了 DI-star，為什么不直接辦一場星際爭霸 AI 挑戰(zhàn)賽？

這也是從現(xiàn)實因素出發(fā)來考慮的，畢竟訓(xùn)練一個星際爭霸 AI 需要太多的算力消耗，對于一般參賽者來說實在不友好。

Go-Bigger 的定位是人人可以參加的中型游戲 AI 競技環(huán)境。相比學(xué)術(shù)界常用的 Atari、MuJoCo、SMAC，Go-Bigger 的環(huán)境規(guī)模更大，但又可以在小型的實驗室中完成，用一臺機器、一塊 GPU 就能訓(xùn)練起來。這樣一來，參賽者就能把更多精力聚焦到探索多智能體協(xié)作能力的算法上。

即使如此，從零開始實現(xiàn)比賽要用的算法和訓(xùn)練流程還是很復(fù)雜的，而 OpenDILab 平臺提供的決策 AI 框架 DI-engine 正好幫助開發(fā)者簡化了這一過程。

開發(fā)者們基于DI-engine為Go-Bigger設(shè)計實現(xiàn)了多種類型的基準(zhǔn)算法，包含多智能體協(xié)作，稀疏獎勵引導(dǎo)，記憶化探索和計算效率提升等多個方面。

走進現(xiàn)實世界

在工業(yè)應(yīng)用這塊，OpenDILab 也沒松懈，推出了自動駕駛領(lǐng)域內(nèi)第一個支持多種仿真器和多種決策智能算法的開源研究平臺——DI-drive。

之所以選擇自動駕駛領(lǐng)域做開源，OpenDILab 有自己的思考：

第三次發(fā)展浪潮之后，AI 技術(shù)已經(jīng)進入從感知智能到?jīng)Q策智能演變的關(guān)鍵節(jié)點，決策 AI 技術(shù)的突破也到了在實際場景部署和應(yīng)用的階段。任何前沿的學(xué)術(shù)理論，都要走到現(xiàn)實世界當(dāng)中去，才能產(chǎn)生更多的價值。

可以說，決策 AI 技術(shù)應(yīng)用的成功與否，直接決定了這一技術(shù)在產(chǎn)業(yè)界的認(rèn)可程度，反過來，應(yīng)用領(lǐng)域的難題也可以指導(dǎo)決策 AI 理論的演進。

另一方面，生態(tài)構(gòu)建的成功與否體現(xiàn)了決策 AI 技術(shù)的應(yīng)用門檻、其通用能力和泛化能力以及對不同任務(wù)的適應(yīng)能力。應(yīng)用生態(tài)也可以更加廣泛地拓展決策 AI 的應(yīng)用領(lǐng)域，打通不同應(yīng)用領(lǐng)域所面臨的問題和挑戰(zhàn)。

自動駕駛是當(dāng)前人工智能的熱門研究方向。決策、規(guī)劃與控制是自動駕駛任務(wù)的大腦，一向被各大公司視作高度保密技術(shù)。如果是一位普通開發(fā)者，就算想深入了解也難。

所以，OpenDILab 綜合了大量自動駕駛決策 AI 的方法，抽象出基本涵蓋現(xiàn)有自動駕駛方法的一套流程，做出了自動駕駛領(lǐng)域第一個開源的、人人可以參與的研究平臺 DI-drive。

目前，DI-drive 已在自動駕駛端到端仿真任務(wù)上取得若干算法突破。對于一系列核心技術(shù)突破，OpenDILab 不作保留，全部開源。

比如自動駕駛策略 InterFuser，該策略基于 Transformer 進行多傳感器融合，并使用了可解釋性特征來增加自動駕駛的安全性。

我們都知道，在高交通密度的場景中，會有大量的障礙物和動態(tài)物體參與決策。在這些情況下，一些部署的自動駕駛系統(tǒng)可能表現(xiàn)出不正確或意外的行為，導(dǎo)致災(zāi)難性的事故。

比如行人突然從路邊出現(xiàn)、通過路口時遭遇意外車流（闖紅燈等），這需要更好地理解多模態(tài)多視角傳感器輸入下的場景。另外，如何驗證決策過程也是個問題，換句話說，識別系統(tǒng)的功能 / 故障情況以及故障原因，這需要決策系統(tǒng)的可解釋性。

OpenDILab 模擬了大部分情況，基于自動駕駛研究的開源模擬器 CARLA 進行了測評，InterFuser 顯示出良好的問題處理能力：

等紅燈

轉(zhuǎn)彎

在最新的 CARLA Leaderboard 排行榜中，OpenDILab 提出的自動駕駛策略 InterFuser 取得了 Top 1 的成績。

InterFuser 在 CARLA Leaderboard 上的排名

InterFuser arXiv 論文地址: https://arxiv.org/abs/2207.14024

InterFuser Github 項目地址: https://github.com/opendilab/InterFuser

此外，OpenDILab 還針對自動駕駛開發(fā)了一套貼近真實的駕駛場景 Casezoo，所涉及的駕駛場景均由實車數(shù)據(jù)和路測案例轉(zhuǎn)化而來。他們在多種貼近真實的駕駛環(huán)境中訓(xùn)練和測試了決策模型，有效促進自動駕駛領(lǐng)域仿真研究在實車環(huán)境中的推廣和應(yīng)用。

圖注：Casezoo 為自動駕駛模擬提供更接近真實的駕駛場景

與此同時，OpenDILab 也在探索新的決策智能應(yīng)用領(lǐng)域和方法，如金融領(lǐng)域的反欺詐和交易，電網(wǎng)、港口等場景的資源調(diào)度和優(yōu)化，生物領(lǐng)域的合成搜索和預(yù)測等。一系列重磅成果，均在醞釀之中。

不斷進化的 OpenDILab

一年時間過得很快。Beta 版本開源之后，OpenDILab 團隊一直在根據(jù)開發(fā)者社區(qū)的反饋改進。

經(jīng)過多次完善后，近日的 WAIC 2022 大會上，OpenDILab 1.0 版本正式問世。

OpenDILab 框架圖

項目地址：https://github.com/opendilab

整體來看，OpenDILab 1.0 有三大升級特點：

1. 易用高效的大規(guī)模決策智能訓(xùn)練系統(tǒng)：具備插件化的擴展能力和友好的分布式能力

2. 當(dāng)前世界上最全面的標(biāo)準(zhǔn)化決策 AI 平臺：一個平臺整合所有 RL 研究領(lǐng)域，一套框架服務(wù)多種決策 AI 問題，最全最強算法集（1 個架構(gòu)，8 大研究方向，40 + 環(huán)境，60 + 算法，70 + 專利）

3. 到手即用的工業(yè)應(yīng)用生態(tài)：決策 AI+X 的最佳實踐，助力各行各業(yè)實現(xiàn)關(guān)鍵的技術(shù)和應(yīng)用突破。

「在計算機視覺領(lǐng)域，標(biāo)準(zhǔn)化做得很好，比如所有數(shù)據(jù)模態(tài)都可以用非常規(guī)整的 Tensor 來表示，所有任務(wù)都可以在 batch 維度同步 forward 和 bp（Back Propagation）的神經(jīng)網(wǎng)絡(luò)來處理，比如 PyTorch 和 TensorFlow。而在數(shù)據(jù)模態(tài)高度結(jié)構(gòu)化，訓(xùn)練過程高度異步化的決策智能領(lǐng)域，我們希望做的也是這樣一件事?！箘⒂畋硎?。

硬核升級之外，OpenDILab 也更加注重易用性和便捷性，為社區(qū)內(nèi)的開發(fā)者提供了更加詳盡的上手教程。值得一提的是，OpenDILab 將于今年 10 月推出從應(yīng)用場景出發(fā)的 「PPO x Famliy 入門公開課」，課程內(nèi)容主要從一個 PPO 解決絕大多數(shù)的常規(guī)決策問題，根據(jù)算法原理，代碼實現(xiàn)，實際應(yīng)用三者的一一對應(yīng)來設(shè)計，即使你只是一枚想入門決策 AI 的萌新，或者只是一位想用決策 AI 技術(shù)解決某個實際問題的非內(nèi)行工程師，都可以通過該課程和 OpenDILab 平臺獲得在算法、系統(tǒng)、工程等經(jīng)驗和工具支持。

我們也了解到，同在 WAIC2022 發(fā)布的 SenseMAP 商湯多智能體平臺，在搭建過程中也用到了 OpenDILab 開源的多項前沿技術(shù)。

在 WAIC 2022 的企業(yè)論壇中，劉宇介紹：「我們利用 OpenDILab 作為基建之一構(gòu)建了商湯多智能體游戲 AI 平臺 SenseMAP，同時 OpenDILab 也支持了我們在游戲、電力調(diào)度、自動駕駛和貨運調(diào)度等領(lǐng)域的業(yè)務(wù)應(yīng)用?！?/p>

劉宇認(rèn)為，只有一項技術(shù)的門檻明顯降低，更多人才有機會入局。

縱觀人類技術(shù)發(fā)展歷史，真正帶動整個社會往前走的機會，未必出現(xiàn)在某種技術(shù)誕生的那一刻，更多是這項技術(shù)能夠得到普及之后。這正是 OpenDILab 的開源初衷。

來源：轉(zhuǎn)載機器之心