阿里達(dá)摩院聯(lián)合高德發(fā)布多模態(tài)地理文本預(yù)訓(xùn)練模型MGeo,已在魔搭社區(qū)開放

2月21日,達(dá)摩院聯(lián)合高德發(fā)布業(yè)界首個多模態(tài)地理文本預(yù)訓(xùn)練模型MGeo,其可充分理解地圖上的每一個元素,并精準(zhǔn)完成地圖搜索、地理位置分析等任務(wù)。MGeo是阿里通義模型系列旗下的新模型,目前已在魔搭社區(qū)開放(https://modelscope.cn/models/damo/mgeo_backbone_chinese_base/summary)。

地理文本信息處理是導(dǎo)航軟件、物流以及零售等行業(yè)的基礎(chǔ)。然而,目前傳統(tǒng)地理文本AI算法對于地理信息的理解仍局限在經(jīng)緯度以及經(jīng)緯度的遠(yuǎn)近上,無法像人類一樣理解地圖上的元素,該方法難以精準(zhǔn)表示景區(qū)、園區(qū)、商業(yè)街等大型地理實體的具體形狀,以及不同地圖元素之間復(fù)雜的臨近、包含等關(guān)系。

針對上述問題,達(dá)摩院聯(lián)合高德提出地理文本多模態(tài)模型,使用對抗MLM預(yù)訓(xùn)練、句子對預(yù)訓(xùn)練及多模態(tài)預(yù)訓(xùn)練三大技術(shù),并用多任務(wù)預(yù)訓(xùn)練將這三種預(yù)訓(xùn)練任務(wù)進(jìn)行動態(tài)組合,最終訓(xùn)練得到適合于多類地理文本任務(wù)的預(yù)訓(xùn)練底座MGeo。該模型擁有豐富的地理知識,能像人類一樣跨模態(tài)理解地圖與地理文本的信息,相關(guān)研究成果已被EMNLP、AAAI等國際頂級會議收錄。

00.png

MGeo像人類一樣具備跨模態(tài)理解能力,可識別地圖元素之間的位置關(guān)系

據(jù)悉,高德基于MGeo研發(fā)了全新的模型,不僅顯著提高泛化語義的表示能力,還可準(zhǔn)確識別不同地圖元素之間的位置關(guān)系,有效提升用戶的搜索體驗。例如,當(dāng)用戶在杭州輸入“星光薈對面中國美術(shù)”時,MGeo能根據(jù)位置關(guān)系準(zhǔn)確定位到中國美術(shù)學(xué)院象山校區(qū),而傳統(tǒng)BERT模型則給出了錯誤定位結(jié)果;此外,在用戶書寫有誤的情況下,該模型也能匹配正確的結(jié)果。該能力已逐步在高德灰度上線。

000.jpg

在四平市搜索“傭兵小區(qū)”,高德可準(zhǔn)確定位“擁軍社區(qū)”

達(dá)摩院語言技術(shù)實驗室負(fù)責(zé)人黃非表示:“地理信息與AI的融合已是業(yè)界公認(rèn)的趨勢,但傳統(tǒng)AI比如文本處理在地理信息應(yīng)用場景中有一定局限性 ,我們需要讓AI學(xué)習(xí)人類對于空間信息的理解范式,例如,通過地圖中的地理實體以及他們之間的關(guān)系來判定地理文本中各個元素的歸屬以及指向。”

作為最早投入預(yù)訓(xùn)練語言模型研究的團(tuán)隊之一,達(dá)摩院研發(fā)了阿里通義AliceMind,該體系涵蓋預(yù)訓(xùn)練模型、多語言預(yù)訓(xùn)練模型、超大中文預(yù)訓(xùn)練模型等,具備閱讀理解、機(jī)器翻譯、對話問答、文檔處理等多種能力,該模型體系已斬獲36項國際賽事冠軍。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2023-02-21
阿里達(dá)摩院聯(lián)合高德發(fā)布多模態(tài)地理文本預(yù)訓(xùn)練模型MGeo,已在魔搭社區(qū)開放
2月21日,達(dá)摩院聯(lián)合高德發(fā)布業(yè)界首個多模態(tài)地理文本預(yù)訓(xùn)練模型MGeo,其可充分理解地圖上的每一個元素,并精準(zhǔn)完成地圖搜索、地理位置分析等任務(wù)。

長按掃碼 閱讀全文