醫(yī)療AI聊天機(jī)器人有潛力為患者提供咨詢,但錯誤的回答和有偏見的護(hù)理仍然是重大風(fēng)險。
如果一個患者知道他們的醫(yī)生在即將到來的預(yù)約中會給他們錯誤的信息,他們會立即取消。然而,像ChatGPT這樣的生成式AI模型經(jīng)常會“產(chǎn)生幻覺”,意思是編造東西。那么為什么有人想要使用AI進(jìn)行醫(yī)療目的呢?
這是一個樂觀的情景:AI工具在經(jīng)過驗證的醫(yī)學(xué)文獻(xiàn)上接受培訓(xùn),正如一些正在開發(fā)中的模型已經(jīng)做到的那樣,但它們還會掃描患者記錄和智能手表數(shù)據(jù)。然后,像其他生成式AI一樣,它們會生成文本、照片,甚至視頻,針對每個用戶進(jìn)行個性化,并且足夠準(zhǔn)確以提供幫助。而反烏托邦版本則是:政府、保險公司和企業(yè)推動有缺陷的AI以降低成本,導(dǎo)致患者迫切需要人類臨床醫(yī)生的醫(yī)療護(hù)理。
現(xiàn)在,很容易想象事情會出錯,特別是因為AI已經(jīng)被指責(zé)在網(wǎng)上傳播有害的建議。今年春天晚些時候,國家飲食障礙協(xié)會暫時停用了其聊天機(jī)器人,因為有用戶聲稱它鼓勵了不健康的飲食習(xí)慣。但在美國,人們?nèi)匀豢梢韵螺d使用AI來評估癥狀的應(yīng)用程序。盡管存在潛在問題,一些醫(yī)生仍然試圖使用這項技術(shù)與患者更富同情心地溝通。
ChatGPT和其他大型語言模型“非常自信,非常善于表達(dá),但很常常是錯誤的”,約翰霍普金斯大學(xué)計算機(jī)科學(xué)教授Mark Dredze說。簡而言之,人們在能夠信任其醫(yī)療建議之前,AI還有很長的路要走。
然而,Dredze對該技術(shù)的未來持樂觀態(tài)度。他的最新研究發(fā)現(xiàn),ChatGPT已經(jīng)給出了與醫(yī)生在Reddit論壇上提供的建議相媲美的建議。而且,未來的生成式模型可能會在一定程度上補(bǔ)充醫(yī)生的診斷,而不是完全取代咨詢,Hugging Face的機(jī)器學(xué)習(xí)工程師Katie Link表示。例如,在就診后,它們可以更全面地解釋治療和病情,或者幫助避免因語言障礙而產(chǎn)生的誤解。
在更樂觀的展望中,哈佛醫(yī)學(xué)院的AI和醫(yī)療保健研究員Oishi Banerjee設(shè)想了能夠整合多個數(shù)據(jù)源的AI系統(tǒng)。利用照片、患者記錄、可穿戴傳感器等信息,他們可以“為任何人在任何地方提供良好的護(hù)理”,她說。你手臂上有奇怪的皮疹?她想象中的皮膚科應(yīng)用程序可以分析照片,并查看你最近的飲食、位置數(shù)據(jù)和病史,為你找到合適的治療方法。
隨著醫(yī)療AI的發(fā)展,行業(yè)必須確保越來越多的患者數(shù)據(jù)的安全。但麻省理工學(xué)院的機(jī)器學(xué)習(xí)實(shí)驗室負(fù)責(zé)人Marzyeh Ghassemi表示,監(jiān)管機(jī)構(gòu)現(xiàn)在可以為負(fù)責(zé)任的進(jìn)展奠定基礎(chǔ)。許多醫(yī)院已經(jīng)將匿名化的患者數(shù)據(jù)出售給谷歌等科技公司;美國政府機(jī)構(gòu)可以要求它們將這些信息添加到國家數(shù)據(jù)集中,以改進(jìn)醫(yī)療AI模型,加塞米建議。此外,聯(lián)邦審計可以審查醫(yī)院和醫(yī)療團(tuán)體使用的AI工具的準(zhǔn)確性,并停止向低質(zhì)量軟件提供有價值的醫(yī)療保險和醫(yī)療補(bǔ)助金。醫(yī)生們不應(yīng)該只是被交付AI工具,他們應(yīng)該接受如何使用它們的廣泛培訓(xùn)。
很容易看出AI公司可能會誘使組織和患者注冊使用不能被信任的服務(wù)。立法者、醫(yī)療保健提供者、科技巨頭和企業(yè)家需要謹(jǐn)慎行事。生命取決于此。
本文譯自 Popular Science,由 BALI 編輯發(fā)布。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )