醫(yī)療AI聊天機器人有潛力為患者提供咨詢，但錯誤的回答和有偏見的護(hù)理仍然是重大風(fēng)險。
如果一個患者知道他們的醫(yī)生在即將到來的預(yù)約中會給他們錯誤的信息，他們會立即取消。然而，像ChatGPT這樣的生成式AI模型經(jīng)常會“產(chǎn)生幻覺”，意思是編造東西。那么為什么有人想要使用AI進(jìn)行醫(yī)療目的呢？
這是一個樂觀的情景：AI工具在經(jīng)過驗證的醫(yī)學(xué)文獻(xiàn)上接受培訓(xùn)，正如一些正在開發(fā)中的模型已經(jīng)做到的那樣，但它們還會掃描患者記錄和智能手表數(shù)據(jù)。然后，像其他生成式AI一樣，它們會生成文本、照片，甚至視頻，針對每個用戶進(jìn)行個性化，并且足夠準(zhǔn)確以提供幫助。而反烏托邦版本則是：政府、保險公司和企業(yè)推動有缺陷的AI以降低成本，導(dǎo)致患者迫切需要人類臨床醫(yī)生的醫(yī)療護(hù)理。
現(xiàn)在，很容易想象事情會出錯，特別是因為AI已經(jīng)被指責(zé)在網(wǎng)上傳播有害的建議。今年春天晚些時候，國家飲食障礙協(xié)會暫時停用了其聊天機器人，因為有用戶聲稱它鼓勵了不健康的飲食習(xí)慣。但在美國，人們?nèi)匀豢梢韵螺d使用AI來評估癥狀的應(yīng)用程序。盡管存在潛在問題，一些醫(yī)生仍然試圖使用這項技術(shù)與患者更富同情心地溝通。
ChatGPT和其他大型語言模型“非常自信，非常善于表達(dá)，但很常常是錯誤的”，約翰霍普金斯大學(xué)計算機科學(xué)教授Mark Dredze說。簡而言之，人們在能夠信任其醫(yī)療建議之前，AI還有很長的路要走。
然而，Dredze對該技術(shù)的未來持樂觀態(tài)度。他的最新研究發(fā)現(xiàn)，ChatGPT已經(jīng)給出了與醫(yī)生在Reddit論壇上提供的建議相媲美的建議。而且，未來的生成式模型可能會在一定程度上補充醫(yī)生的診斷，而不是完全取代咨詢，Hugging Face的機器學(xué)習(xí)工程師Katie Link表示。例如，在就診后，它們可以更全面地解釋治療和病情，或者幫助避免因語言障礙而產(chǎn)生的誤解。
在更樂觀的展望中，哈佛醫(yī)學(xué)院的AI和醫(yī)療保健研究員Oishi Banerjee設(shè)想了能夠整合多個數(shù)據(jù)源的AI系統(tǒng)。利用照片、患者記錄、可穿戴傳感器等信息，他們可以“為任何人在任何地方提供良好的護(hù)理”，她說。你手臂上有奇怪的皮疹？她想象中的皮膚科應(yīng)用程序可以分析照片，并查看你最近的飲食、位置數(shù)據(jù)和病史，為你找到合適的治療方法。
隨著醫(yī)療AI的發(fā)展，行業(yè)必須確保越來越多的患者數(shù)據(jù)的安全。但麻省理工學(xué)院的機器學(xué)習(xí)實驗室負(fù)責(zé)人Marzyeh Ghassemi表示，監(jiān)管機構(gòu)現(xiàn)在可以為負(fù)責(zé)任的進(jìn)展奠定基礎(chǔ)。許多醫(yī)院已經(jīng)將匿名化的患者數(shù)據(jù)出售給谷歌等科技公司；美國政府機構(gòu)可以要求它們將這些信息添加到國家數(shù)據(jù)集中，以改進(jìn)醫(yī)療AI模型，加塞米建議。此外，聯(lián)邦審計可以審查醫(yī)院和醫(yī)療團(tuán)體使用的AI工具的準(zhǔn)確性，并停止向低質(zhì)量軟件提供有價值的醫(yī)療保險和醫(yī)療補助金。醫(yī)生們不應(yīng)該只是被交付AI工具，他們應(yīng)該接受如何使用它們的廣泛培訓(xùn)。
很容易看出AI公司可能會誘使組織和患者注冊使用不能被信任的服務(wù)。立法者、醫(yī)療保健提供者、科技巨頭和企業(yè)家需要謹(jǐn)慎行事。生命取決于此。
本文譯自 Popular Science，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
