醫(yī)療AI可以帶來許多潛在的好處，這一點(diǎn)毫無爭(zhēng)議。但是，利益相關(guān)者也不能忘記使用該技術(shù)可能存在的風(fēng)險(xiǎn)和障礙。為了避免AI給醫(yī)療保健的潛在危害，供應(yīng)商、支付方、管理人員和其他主要行業(yè)參與者需要解決技術(shù)的潛在問題，并找到克服這些挑戰(zhàn)的創(chuàng)新方法。

近年來，人工智能已迅速成為醫(yī)療保健人員、供應(yīng)商和IT開發(fā)人員討論的主要話題。醫(yī)療及相關(guān)領(lǐng)域的專家已經(jīng)探索了AI技術(shù)的許多應(yīng)用，并認(rèn)識(shí)到它對(duì)未來醫(yī)療服務(wù)的潛在優(yōu)點(diǎn)：加快醫(yī)療診斷速度、提高讀片的精度、減少醫(yī)生的工作量……這些能力可能意味著更好、更精確的治療，改善患者的治療效果，并最終降低護(hù)理成本。

然而，新技術(shù)給人帶來的希望很容易讓人們忘記醫(yī)療器械A(chǔ)I化可能帶來的問題。例如：算法存在爭(zhēng)議，患者安全問題以及數(shù)據(jù)隱私威脅等問題，都使人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用受到質(zhì)疑，并可能限制AI在醫(yī)療行業(yè)中的發(fā)展。

在醫(yī)療服務(wù)中使用人工智能有哪些主要風(fēng)險(xiǎn)和障礙？醫(yī)療保健系統(tǒng)如何確保這些因素不會(huì)給患者和醫(yī)療服務(wù)提供者帶來重大問題？醫(yī)療AI落地的途中，還有哪些難關(guān)需要克服？

第一關(guān)：存在爭(zhēng)論的算法與數(shù)據(jù)

臨床醫(yī)生必須完全相信算法是準(zhǔn)確、可靠和客觀的， AI工具才能成為常規(guī)臨床護(hù)理的一部分。然而，有時(shí)用于訓(xùn)練算法的數(shù)據(jù)是有偏差的，或者算法可能被設(shè)計(jì)為偏差結(jié)果。在最近發(fā)表在新英格蘭醫(yī)學(xué)雜志（NEJM）上的一篇文章中，斯坦福大學(xué)醫(yī)學(xué)院的研究人員指出：醫(yī)療數(shù)據(jù)中的偏差或許是人們無意識(shí)引入的，最終導(dǎo)致有偏差的數(shù)據(jù)被帶入到醫(yī)療保健系統(tǒng)正常的數(shù)據(jù)中。

相關(guān)部門應(yīng)該有所作為，并清楚地了解深度學(xué)習(xí)中數(shù)據(jù)來源和數(shù)據(jù)的使用方法。這可能需要商業(yè)、學(xué)術(shù)或?qū)Ｓ?u>數(shù)據(jù)庫提供分析信息來提供算法研究指南。

第二關(guān)：難以服眾的信息安全

雖然AI評(píng)估大量數(shù)據(jù)的能力令人興奮，但患者并不相信AI工具會(huì)將他們的信息保密。

2018年對(duì)500名患者進(jìn)行的一項(xiàng)調(diào)查顯示，雖然大多數(shù)患者在醫(yī)療保健環(huán)境中使用AI比在銀行或零售環(huán)境中使用AI更為舒適，但AI技術(shù)仍會(huì)在醫(yī)療保健消費(fèi)者中產(chǎn)生信任問題。只有35%的受訪者表示他們確信他們用于人工智能的數(shù)據(jù)是安全存儲(chǔ)的。40歲以上的消費(fèi)者中有69%擔(dān)心他們的數(shù)據(jù)沒有安全存儲(chǔ)，而40歲以下的消費(fèi)者中有58%擔(dān)心這一點(diǎn)。

Frost & Sullivan最近的一項(xiàng)分析表明，從可穿戴監(jiān)測(cè)工具中提取信息并直接進(jìn)行AI化處理的的應(yīng)用將更加廣泛應(yīng)用到人們的日常中。隨著移動(dòng)醫(yī)療數(shù)據(jù)在患者管理中發(fā)揮更大作用，數(shù)據(jù)安全問題將變得更加重要。

行業(yè)的主要參與者正在努力解決數(shù)據(jù)安全問題。Aetna，Ascension，Humana和Optum最近加入了Synaptic Health Alliance，這是一個(gè)使用區(qū)塊鏈技術(shù)在供應(yīng)商之間創(chuàng)建安全數(shù)據(jù)集的協(xié)作試點(diǎn)項(xiàng)目。雖然區(qū)塊鏈對(duì)醫(yī)療保健領(lǐng)域來說仍然相對(duì)較新，但該技術(shù)對(duì)數(shù)據(jù)安全性和更加無縫的數(shù)據(jù)交換具有重要意義。

第三關(guān)：醫(yī)療AI短、中、長(zhǎng)期的問題

人工智能應(yīng)用于醫(yī)療器械中存在的潛在風(fēng)險(xiǎn)是現(xiàn)如今醫(yī)療工作真需要認(rèn)真考慮的問題。當(dāng)計(jì)算機(jī)完全按照指令去做事時(shí)，也可能會(huì)引起或加劇意外結(jié)果。我們也分析了短期，中期和長(zhǎng)期發(fā)展中可能會(huì)出現(xiàn)的問題。

1. 短期

AI嚴(yán)格按照獲得的數(shù)據(jù)訓(xùn)練，可能會(huì)出現(xiàn)一種稱為“分布式移位”的現(xiàn)象：訓(xùn)練數(shù)據(jù)和真實(shí)數(shù)據(jù)不同，導(dǎo)致算法得出錯(cuò)誤的結(jié)論。AI也沒有像醫(yī)生那樣權(quán)衡假陽性或假陰性的成本和后果的能力，它們不能像人一樣“謹(jǐn)慎行事”。計(jì)算機(jī)只能按照指令運(yùn)行，沒有獨(dú)立改善數(shù)據(jù)的能力。并且機(jī)器學(xué)習(xí)應(yīng)用程序通常作為“黑匣子”運(yùn)行，如果臨床醫(yī)生只能根據(jù)系統(tǒng)的最終結(jié)果來判斷預(yù)測(cè)，那么它可能會(huì)影響醫(yī)生的診斷結(jié)果。

2. 中期

隨著機(jī)器學(xué)習(xí)變得越來越普遍，臨床醫(yī)生和與機(jī)器學(xué)習(xí)相互作用的人有可能變得自滿，并將所有計(jì)算機(jī)生成的評(píng)估都默認(rèn)為“絕對(duì)可靠”。但隨著時(shí)間的推移，訓(xùn)練數(shù)據(jù)集變得越來越老，可能會(huì)與未來新的治療方法與新的用藥種類產(chǎn)生沖突。

3. 長(zhǎng)期

雖然人工智能控制與人類生活直接相關(guān)的過程或設(shè)備（胰島素泵，呼吸機(jī)等）還有很長(zhǎng)的路要走，但相關(guān)研究人員必須謹(jǐn)慎行事。機(jī)器學(xué)習(xí)算法在相當(dāng)狹窄的數(shù)據(jù)集上進(jìn)行訓(xùn)練，無法考慮患者需求或治療結(jié)果的更廣泛背景。深度學(xué)習(xí)可以“忽悠”研發(fā)者，因?yàn)檠芯拷Y(jié)果會(huì)呈現(xiàn)短期有效但與長(zhǎng)期目標(biāo)相悖的結(jié)果。

另外關(guān)于機(jī)器學(xué)習(xí)系統(tǒng)可以進(jìn)行多少程度的“探索”這一問題，是存在道德和安全問題的：持續(xù)學(xué)習(xí)的自主系統(tǒng)最終將嘗試推動(dòng)治療的界限，發(fā)現(xiàn)可能傷害患者的新策略。所有這些都引發(fā)了AI和機(jī)器學(xué)習(xí)應(yīng)該解決的問題——增加人類的直接監(jiān)督。

結(jié)語

利用機(jī)器學(xué)習(xí)開發(fā)人工智能是一個(gè)激動(dòng)人心的研究領(lǐng)域，但變化快速的步伐、技術(shù)的多樣性和調(diào)整參數(shù)的多樣性，使得人們很難把握AI系統(tǒng)在臨床應(yīng)用中的準(zhǔn)確程度。隨著人工智能和其他分析技術(shù)不斷改造醫(yī)療行業(yè)，醫(yī)療系統(tǒng)領(lǐng)導(dǎo)者和供應(yīng)商所扮演的角色將隨之變化。

醫(yī)療AI可以帶來許多潛在的好處，這一點(diǎn)毫無爭(zhēng)議。但是，利益相關(guān)者也不能忘記使用該技術(shù)可能存在的風(fēng)險(xiǎn)和障礙。為了避免AI給醫(yī)療保健的潛在危害，供應(yīng)商、支付方、管理人員和其他主要行業(yè)參與者需要解決技術(shù)的潛在問題，并找到克服這些挑戰(zhàn)的創(chuàng)新方法。

來源：思宇醫(yī)械觀察