如果將人們的想象力用在廣泛的臨床應用，那么醫(yī)療人工智能還有很長的路要走。

[[276120]]

加拿大多倫多大學的研究人員在7月10日發(fā)表在“醫(yī)學互聯(lián)網(wǎng)研究雜志”上的一篇論文中，指出了人工智能在醫(yī)療保健行業(yè)應用面臨的主要障礙。

多倫多大學的JamesShaw博士及其同事根據(jù)NASSS框架比較了人工智能與其他技術(shù)的市場滲透率，NASSS框架將機器學習用例分為自動化和決策支持兩大類。而NASSS是Nonadoption、Abandonment、Challenges to Scale-up、Spread、Sustainability的首字母縮略詞。

建議決策支持應用程序?qū)⒁龑ё詣踊?，至少在短期?nèi)如此。遵循NASSS框架，他們概述了阻礙主要決策支持人工智能實施的各種問題。為此強調(diào)的是：

1.有意義的決策支持

Shaw解釋說，“臨床決策是一個復雜的過程，涉及各種數(shù)據(jù)源的整合，其中包括隱性和明確的智能模式。”

他補充說，“為了更直觀地通知這個決策過程，人工智能開發(fā)人員正在添加數(shù)據(jù)可視化等通信工具。這些通信工具的性質(zhì)和價值是實現(xiàn)過程的核心，有助于確定算法輸出是否和如何被納入日常慣例。”

2.可解釋性

醫(yī)療保健的人工智能模型如何實現(xiàn)其結(jié)果?Shaw及其同事指出，即使對創(chuàng)建它們的計算機科學家來說，答案仍然是未知的。

Shaw說，“缺乏對這些機制和環(huán)境的理解，這對機器學習對醫(yī)療保健利益相關(guān)者的可接受性提出了挑戰(zhàn)。盡管可解釋性問題與決策支持明確相關(guān)，但如此處所解釋的那樣使用機器學習案例。”

他補充說，“這一問題可能更加深刻地應用于以自動化為重點的用例，因為它們在醫(yī)療保健領域占據(jù)重要地位。”

3.隱私和同意

Shaw指出，目前缺乏有關(guān)正確使用可穿戴設備數(shù)據(jù)的立法和指導。同時，許多與健康相關(guān)的應用程序在使用過程中產(chǎn)生的數(shù)據(jù)流中存在著不明確的一致性過程。

除了這兩個明顯的問題之外，當與其他數(shù)據(jù)集鏈接時，可以重新識別其他的數(shù)據(jù)。他表示：“這些因素為那些尋求將健康數(shù)據(jù)用于機器學習應用開發(fā)的計劃帶來了重大風險，可能遭遇來自醫(yī)療保健提供商的巨大阻力。”

4.算法偏差

Shaw表示，“算法只能和訓練它們的數(shù)據(jù)一樣好。”

他說，“如果訓練數(shù)據(jù)部分或不完整的，或只反映給定人口的子集，則生成的模型將僅與數(shù)據(jù)集中表示的人群相關(guān)。這提出了關(guān)于數(shù)據(jù)來源的問題，并代表了一系列與偏差相關(guān)的問題，這些偏差內(nèi)置于用于決策的算法中。”

5.可擴展性和面臨障礙

隨著人工智能應用在醫(yī)療保健領域的迅速發(fā)展，一些算法輸出不可避免地會混淆、矛盾或以其他方式與他人對抗。

Shaw表示，“這種相互作用的影響無法提前預測，部分原因是相互作用的特定技術(shù)尚不清楚，可能在常規(guī)護理過程中尚未實施。我們建議實施科學家需要考慮機器學習在醫(yī)療保健中的實施和規(guī)模的意外后果，為患者、醫(yī)療保健提供者、公眾的安全帶來更大的復雜性和更大的風險。”

Shaw和其團隊還圍繞企業(yè)角色和醫(yī)療保健工作不斷變化的性質(zhì)指出了一些障礙。

在總結(jié)他們的觀察和預測時，Shaw表示機器學習在醫(yī)療保健領域的未來是積極但不確定的。他們認為，在很大程度上，接受和采用這項技術(shù)取決于所有醫(yī)療保健利益相關(guān)者、患者、提供者，這與人工智能開發(fā)者一樣。

Shaw指出，“機器學習的應用變得更加復雜，對數(shù)據(jù)可視化等通信策略的投入也在增長，機器學習可能變得更加用戶友好和更有效。如果實施，科學界要以有利于所有人的方式促進機器學習的采用，那么提出的問題將在未來幾年內(nèi)得到充分關(guān)注。”