日前,自然語言處理領域國際頂級會議 ACL 2020 (Association for Computational Linguistics)論文接收結(jié)果公布。大會共收到 3429 篇投稿論文,投稿數(shù)量創(chuàng)下新高。作為計算語言學和自然語言處理領域最重要的頂級國際會議,ACL 錄取論文代表了自然語言處理領域在過去一年最新和最高的科技水平以及未來發(fā)展潮流。
本屆大會,云知聲-中科院自動化所“語言與知識計算聯(lián)合實驗室”共有3篇論文被收錄,分別在醫(yī)療對話的自動信息抽取、國際疾病分類(ICD)自動編碼,以及 ICD 自動編碼可解釋性等領域取得突破。這些最新的自然語言處理算法將為后續(xù)研究提供極具價值的經(jīng)驗和方向,已在云知聲醫(yī)療業(yè)務率先應用。
一種面向醫(yī)學對話的醫(yī)學信息提取器
MIE: A Medical Information Extractor towards Medical Dialogues
如今,電子病歷已經(jīng)成為現(xiàn)代醫(yī)療的重要組成部分,但是目前書寫電子病歷費時費力,已經(jīng)成為醫(yī)生的沉重負擔。如果能夠從醫(yī)療對話中自動地抽取醫(yī)學信息,將極大緩解醫(yī)生書寫病歷的壓力。
本文提出一個面向醫(yī)患對話文本的信息抽取系統(tǒng),它可以從對話中抽取出癥狀、檢查、手術、一般信息及其相應的狀態(tài)。這些抽取出的信息將有助于醫(yī)生書寫病歷,或者更進一步地應用于病歷的自動生成。研究團隊收集并標注了1120段在線問診的醫(yī)患對話作為數(shù)據(jù)集,采用滑動窗口形式進行標注,和序列標注相比,減緩了標注難度。在此基礎上,針對醫(yī)療問診對話文本的特點和難點,提出一種基于深度匹配的神經(jīng)網(wǎng)絡模型,能夠考慮到對話的多輪結(jié)構,利用注意力機制捕捉對話中不同輪次之間的交互信息,從而完善醫(yī)學信息的抽取。
圖1:典型的醫(yī)學對話窗口和相應的帶注釋的標簽
HyperCore:基于雙曲空間和共現(xiàn)圖表示的ICD自動編碼
HyperCore: Hyperbolic and Co-graph Representation for Automatic ICD
Coding
國際疾病分類(International Classification of Dieases,ICD)是由世界衛(wèi)生組織發(fā)起的,針對各種疾病做出的國際通用的統(tǒng)一分類方法,這種方法賦予每種疾病一個獨特的編碼。ICD 編碼的普及和應用能夠極大促進世界范圍內(nèi)疾病的信息共享和臨床研究,并對健康狀況研究、保險索賠、發(fā)病率和死亡率統(tǒng)計產(chǎn)生積極的影響。
長期以來,ICD 編碼一直由專業(yè)編碼員人工完成。人工編碼耗時費力,而且非常容易出錯,同時不斷更新 ICD 代碼版本會導致代碼數(shù)量大幅度增加,對編碼人員的要求越來越高。數(shù)據(jù)顯示,在美國每年因為編碼錯誤以及用于提升編碼質(zhì)量的相關成本超過250億美元。
為了緩解人工編碼的問題,一些工作開始嘗試利用機器自動完成 ICD 編碼任務。但是現(xiàn)有的方法獨立地預測每個編碼,而忽略了編碼的兩個重要特征——層級性和共現(xiàn)性。
在本文中,研究團隊提出了使用雙曲空間和共現(xiàn)圖卷積神經(jīng)網(wǎng)絡針對性地建模上述兩種性質(zhì)。具體來說,提出了一種雙曲線表示方法來利用編碼的層次結(jié)構。此外,提出了一種共現(xiàn)圖卷積網(wǎng)絡來利用編碼的共現(xiàn)性。在國際公開數(shù)據(jù)集上的實驗取得了最好的效果。
圖2:自動ICD編碼任務的示例
Clinical-Coder:面向中文臨床記錄的ICD-10自動編碼
Clinical-Coder: Assigning Interpretable ICD-10 Codes to Chinese Clinical Notes
國際疾病分類(ICD)作為世衛(wèi)組織成員國在衛(wèi)生統(tǒng)計中共同采用的對疾病進行編碼的標準分類方法,是目前國際上通用的疾病分類方法。目前廣泛使用的國際疾病分類第十次修訂版(簡稱 ICD-10)的編碼數(shù)量達到了72,184個,是以前版本(ICD-9)的五倍多。
為了緩解人工編碼耗時、費力、容易出錯的問題,很多工作開始研究利用機器進行自動的 ICD 編碼。這些方法雖然取得了很大的成功,但仍然面臨著預測結(jié)果可解釋性問題的嚴峻挑戰(zhàn),可解釋的結(jié)果對臨床醫(yī)學決策具有重要意義。
針對此問題,并結(jié)合中文的語言特點,研究團隊提出了一種基于空洞卷積和N-gram語言模型的ICD自動編碼方法,利用空洞卷積捕獲非嚴格匹配的語義片段證據(jù),利用 N-gram 捕獲嚴格匹配的語義片段證據(jù),進而二者聯(lián)合使用,共同提升預測結(jié)果的可解釋性。實驗結(jié)果顯示,該方法不僅能在中文數(shù)據(jù)集上取得顯著的效果,在國際公開的英文數(shù)據(jù)集上也有不錯的效果。
圖3:兩種語義片段證據(jù)類型-非嚴格匹配和嚴格匹配
值得一提的是,在醫(yī)療領域,云知聲-中科院自動化所語言與知識計算聯(lián)合實驗室基于自然語言處理技術構建的醫(yī)療知識圖譜已儲備約 50萬醫(yī)學概念,超過 169 萬醫(yī)學術語庫和 398 萬醫(yī)學關系庫,涵蓋了絕大部分藥品、疾病、科室與檢查,規(guī)模達國際領先水準,并在語音病歷,病歷生成、病歷質(zhì)控、輔助診斷系統(tǒng)等具體應用中發(fā)揮了重要支撐作用。
關于 ACL :ACL 是自然語言處理領域頂級國際學術會議,由計算語言學學會(Association for Computational Linguistics)主辦,每年舉辦一次。其接收的論文覆蓋了語言模型、句法分析、語義分析、篇章分析等計算語言學基礎研究以及信息抽取、問答系統(tǒng)、對話生成、機器翻譯、自動文摘、情感分析、社會計算等自然語言處理應用研究等眾多方向。第 58 屆 ACL 年會 ACL 2020 原定于 7 月 5 日-10 日在美國華盛頓西雅圖舉行,因疫情影響今年將改為在線會議。
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )