4月7日,自然語(yǔ)言處理領(lǐng)域國(guó)際頂級(jí)學(xué)術(shù)會(huì)議NAACL 2022(The North American Chapter of the Association for Computational Linguistics)公布論文入選名單,由華為云語(yǔ)音語(yǔ)義創(chuàng)新Lab多名研究者撰寫的信息抽取論文《Delving Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition》被NAACL 2022 Findings接收,這代表著中文命名實(shí)體識(shí)別的最優(yōu)結(jié)果 (SOTA) 被進(jìn)一步刷新,更準(zhǔn)確有效的實(shí)體識(shí)別將推動(dòng)下游自然語(yǔ)言處理任務(wù)的進(jìn)一步發(fā)展。
NAACL由國(guó)際計(jì)算語(yǔ)言學(xué)學(xué)會(huì)(ACL)主辦,與ACL、EMNLP并稱NLP領(lǐng)域的三大頂會(huì),是人工智能的重要研究陣地。NAACL的錄用十分嚴(yán)格,根據(jù)往年評(píng)選結(jié)果,只有不到30%的論文被接收。
作為自然語(yǔ)言處理中最經(jīng)典、最基礎(chǔ)的任務(wù),命名實(shí)體識(shí)別一直受到廣泛的關(guān)注與研究。近年來(lái),中文命名實(shí)體識(shí)別任務(wù)上取得了明顯進(jìn)展,很多新的方法和框架被陸續(xù)提出,但往往忽略了實(shí)體詞的內(nèi)部組成。
對(duì)于中文命名實(shí)體而言,很多類別的實(shí)體都具有很強(qiáng)的命名規(guī)律性。比如說(shuō),以“公司”或者“銀行”結(jié)尾的實(shí)體詞,通常屬于組織機(jī)構(gòu)這一實(shí)體類別。因此,在《Delving Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition》中,華為云語(yǔ)音語(yǔ)義創(chuàng)新Lab的研究者提出用簡(jiǎn)單有效、規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò)來(lái)探究中文實(shí)體詞中的規(guī)律性。
圖1 規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò)
如圖1,華為云研究者首先利用注意力機(jī)制顯著地提取每個(gè)文本段的規(guī)律性,進(jìn)而將這種表征文本內(nèi)部的規(guī)律性的特征和通過(guò)Biaffine Attention提取的文本段特征結(jié)合起來(lái),進(jìn)行后續(xù)的實(shí)體識(shí)別。為了避免由于過(guò)度關(guān)注實(shí)體內(nèi)部規(guī)律性導(dǎo)致的實(shí)體邊界識(shí)別偏差,研究者們另外設(shè)計(jì)了一個(gè)與規(guī)則無(wú)關(guān)的模塊來(lái)幫助模型更準(zhǔn)確地識(shí)別實(shí)體的邊界。
圖2 中文數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果
華為云研究者提出的規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò),如圖2,在MSRA, Ontonotes4.0, 和Ontonotes5.0三個(gè)大規(guī)模中文實(shí)體識(shí)別數(shù)據(jù)集上都取得了SOTA的結(jié)果。同時(shí),本文提出的方法不依賴于外部詞典信息,并且F1值超過(guò)了目前所有使用詞典信息的方法的結(jié)果。這充分說(shuō)明通過(guò)研究實(shí)體詞的內(nèi)部規(guī)律性,研究者們提出了一個(gè)非常有效的網(wǎng)絡(luò)結(jié)構(gòu)。
不止在信息抽取方面,華為云語(yǔ)音語(yǔ)義創(chuàng)新Lab秉承開放創(chuàng)新、勇于探索、持續(xù)突破關(guān)鍵技術(shù)的精神,面向行業(yè)客戶提供領(lǐng)先的語(yǔ)音語(yǔ)義AI能力,結(jié)合大量行業(yè)知識(shí),推出知識(shí)計(jì)算等行業(yè)解決方案,打造業(yè)界一流的知識(shí)計(jì)算競(jìng)爭(zhēng)力。截至目前,已在政務(wù)、金融、石油等多個(gè)行業(yè)進(jìn)行了落地和實(shí)踐,幫助客戶實(shí)現(xiàn)AI落地與智能升級(jí)。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )