人工智能決策工具對患者安全的影響因素分析

肖 堯

（武漢鐵路職業技術學院，湖北武漢 430205）

隨著科學技術的飛速發展，人工智能的產品在生活中隨處可見，它們被應用于各種行業，而人工智能在醫療行業的作用尤為明顯，人工智能可以為醫生在診斷過程中提供參考，有效提升了醫生的診斷正確率，同時，也節省了更多的時間，提高了患者的醫療效率，緩解醫生資源短缺。人工智能的出現給醫生和患者帶來了很多幫助，于此同時人工智能技術也帶來了一定的安全隱患。本文將重點介紹人工智能支持決策工具影響患者安全的因素，主要涉及到其計算思維、倫理思維、系統思維和設計思維四個層面，從這四個層面找出威脅患者安全的原因，進而分析這些原因并提出減少或杜絕對患者安全影響的改進策略，最大限度地提高人工智能支持決策工具輔助醫生服務于患者的安全。

1 人工智能支持決策工具

人工智能是研究人類智能活動的規則，構建具有一定智能的人工系統，研究如何讓計算機完成過去需要人類智能的工作，即如何應用計算機硬件和軟件來模擬人類活動的理論、方法和技術的一些智能行為[1]。人工智能決策支持工具是一系列技術，允許計算機執行通常認為需要人類推理和解決問題的任務[2]。例如，在醫療行業應用中，設計使用人工智能決策支持工具，經過訓練分析大腦掃描的計算機可以在出現癥狀之前檢測出癡呆的跡象。目前，人工智能決策支持工具在各行業包括醫療行業均得到廣泛應用，它主要是提高了醫生的診斷效率，但另一方面其對患者安全的影響更需要得到關注。

2 計算思維層面對患者安全的影響分析

計算思維是一系列涵蓋計算機科學廣度的思維活動，如問題解決、系統設計、人類行為理解等[3]。人工智能決策工具通常需醫院提供更高效和準確的設備，但過度依賴這些設備可能會產生無法彌補的后果。在計算思維層面，人工智能支持決策工具對患者安全的影響包括醫院、醫生、患者和人工智能工具開發人員等幾個實體對象。根據概念映射（圖1），這些實體對象在患者安全方面都有相應問題，并存在共性。

圖1 概念映射圖

2.1 各實體對象對患者安全的影響

醫院方面，一般來說，大多數患者在醫院接受治療，如果患者在醫院的病情惡化，醫院可能會收到投訴，這會導致患者安全問題和對醫院的不信任。

醫生方面，醫生應該對患者的病情有自己的判斷。一旦醫生過分依賴機器，他就會失去判斷力，如果機器做出錯誤判斷，患者的病情會變得越來越嚴重，從而影響患者的安全。

對于人工智能工具開發人員為醫院創建此工具，此工具確實可以幫助醫生更快地計算患者的病情和解決方案。然而，開發人員不能保證該工具給出的解決方案是100%正確的，若錯誤，患者的病情將繼續惡化，甚至導致直接死亡，患者的安全就會受到威脅。

2.2 各實體對患者安全的共性問題分析

這個共性問題就是，機器的錯誤決定會導致患者的安全受到威脅。機器不會出錯，因為機器總是遵循開發人員的要求，并且機器不能自己反映，只有開發人員在機器中創建算法模式，機器才能學習如何診斷患者的病情，然后給出相應的解決方案。因此，人工智能支持決策工具的主要問題是算法，因為算法支持人工智能支持決策工具的主要功能，算法的正確與否直接影響機器對患者的判斷和后續的治療計劃，而后續治療計劃則將直接影響患者的安全。

3 倫理思考層面對患者安全的影響分析

倫理思考是指人們試圖批判性地探究或分析問題背后的原因，并在特定情況下證明自己的選擇或行為是合理的。眾所周知，人工智能在醫療系統中發揮著至關重要的作用，通常用于根據患者的情況和需求做出醫療決策。人工智能決策工具可以比人類更快地做出選擇，尤其是在一些復雜的場景中，因為機器在數學和算法方面比人腦要好得多，就安全性而言，即使機器在識別罕見疾病和小問題等方面也要好得多，但人們仍然更愿意與醫生交談，主要是便于患者理解決策結果。

當醫生使用人工智能決策工具規劃患者在醫院的治療時，需要綜合考慮醫院、醫生、患者和人工智能工具開發人員作為利益相關者的問題。為了盡量減少危害并最大限度地發揮效益，需要從倫理思考層面進行分析。

3.1 決策工具的適宜性方面

就絕對命令部分而言，如果人工智能決策工具不適宜每個患者，那么它也不適合所有患者。另一個方面是遵循變化的規則，如果人工智能決策工具有時在做出決策時出現問題，那么它在任何時候都不適合使用。對于新開發的人工智能決策工具即使滿足部分患者的特殊需求，但對于其提供的決策是否正確都需要關注。在當前階段，可能并不適合所有人。

3.2 決策工具的實用性方面

根據功利主義原則，人工智能決策工具是否能為大多數患者帶來巨大利益需要關注，從風險規避原則來講，人工智能可以根據最新的指導方針進行標準化評估和治療。提高最低標準，減少不必要的改變，向患者提供建議，建立識別醫療緊急情況的危險信號機制。

3.3 非正式倫理模式方面

根據黃金法則，人工智能決策工具越來越多地用于支持醫療決策，但在某些情況下，任何決定，都將由醫生做出。例如，當人工智能決策工具做出拒絕對嚴重受傷或即將死亡的患者進行手術的決定時，醫生不能只是出于對生命的尊重而遵循這個冷酷的決定。因為，在道德或倫理方面，這涉及到人類情感。

4 系統思維層面對患者安全的影響分析

在現代社會，人工智能技術在醫療行業的應用越來越受到人們的重視。在這種情況下，醫院在使用該技術分析病史并獲得結果時將考慮結果的準確性，因為準確率將影響患者在治療期間的安全。Ben Zvi Assaraf 和Orion 總結了八個系統思維的涌現層次，即識別系統的組件和過程；確定組件之間的關系；確定動態關系；確定一個框架來組織系統的組件、過程及其交互；確定系統的生命周期；識別系統的隱藏維度；對系統機制的理解，找到解決問題的概括；回顧與預測[4]。這里使用因果循環圖（CLD）來分析支持決策工具引起的患者安全問題，該圖將以可見的方式顯示行為，根據因果分析循環圖（圖2）我們可以得出組件之間的關系，這些都涉及到對患者安全的影響。

圖2 因果分析循環圖

4.1 技術的發展將提高結果的準確性

隨著技術的發展，人工智能工具的結構將得到改進，這些工具中使用的數據將是完整的。在這種情況下，結果可能會獲得較高的精度。然而，環境總是在變化，每年都會有網絡病毒，當開發人員發現精度下降時，他們必須維護和改進舊系統，以便再次提高精度。

4.2 準確性與患者治療率呈正相關

病歷報告的高準確性可以幫助醫生做出適當的治療決定。換句話說，治愈的可能性將增加。相反，如果結果的準確性較低，醫生可能會做出錯誤的決定，患者可能無法按時治療。在這種情況下，治療率將降低。

4.3 過度依賴決策工具將可能導致準確性下降

醫生過度相信人工智能支持決策工具將會導致準確性下降。毫無疑問，使用人工智能技術的產品給我們帶來了很多好處，例如：通過使用計算機醫囑輸入（CPOE）和臨床決策支持系統（CDSS），大多數藥物和可預防的不良藥物事件（ADE）可以在藥物訂購階段預防，有研究數據表明，用藥錯誤減少了81%，未截獲的嚴重用藥錯誤減少了86%[5]。在這種情況下，越來越多的人將樂于使用這些工具來幫助他們做出決策，醫生可能更愿意相信由輔助決策工具分析的結果。因此，如果系統有錯誤和誤導性的算法，醫生可能會被這些結果誤導，并做出錯誤的決定，這可能會導致醫療疏忽，從而威脅患者的安全。

一般來說，系統思維可以幫助我們從整個系統過程中分析思考，通過分析各組成部分之間的關系，找出產生問題的原因。我們可以發現，雖然支持決策系統可以為醫療行業帶來好處，但如果利益相關者過度依賴這項技術并失去自己的判斷，也會給患者帶來一些安全問題。

5 設計思維層面對患者安全的影響分析

設計思維通常被定義為一個分析和創造性的過程，一個好的設計思維應該具備可視化、創造性等特征[6]，設計思維主要包括移情、定義、構思、原型和測試等五個“模式”，這些“模式”在人工智能支持決策工具設計實施中都具有其重要性，并將對患者安全方面構成影響。

5.1 移情模式下對患者安全的影響

移情是人類解決問題的路徑。醫生、護士和醫生試圖解決的問題很少是他們自己的，通常認為是患者的問題。醫療服務提供者需要通過了解患者在就診或治療期間的體驗、價值觀和期望，為其患者建立同理心。醫生需要根據患者的生活質量觀察患者的行為，有些問題可能是隱性的，最好的解決方案是通過對患者的觀察與交流，找到解決問題路徑。例如，發現患者無明顯原因缺席預約，如果發現他們是因為覺得等待時間太長，那我們就應設計實時等待時間應用程序，以便更輕松地為他們安排預約。

5.2 定義模式下對患者安全的影響

定義模式是當我們想要探索我們的同理心發現到需求和見解，并界定一個有意義的挑戰項目。然而，這種模式不僅僅是定義問題，它需要具體、可操作和可測量，否則定義的問題將一事無成。為了真正產生創造力，我們必須根據通過移情工作獲得的新見解重新審視挑戰。最重要的是，我們需要有一個壯觀的視野，并產生許多可能性，例如頭腦風暴。

5.3 構思模式下對患者安全的影響

構思模式是一種生成激進設計方案的模式，用于探索廣泛的解決方案。例如，如果我們想解決缺席預約的患者，并想為患者探索解決方案，我們可以將我們的解決方案從實時等待時間更新應用程序、免費公交車共享來接送患者、虛擬協助來提醒患者預約等等，以及從這個龐大的想法庫中分離出來，我們可以以產品或服務的形式構建原型，以測試患者。這種模式最重要的部分是不要拒絕任何想法，即使它看起來/聽起來很荒謬，但非常重要的創新想法有時就來自于它。

5.4 原型模式下對患者安全的影響

原型是思想的實現。原型可以是我們實際實現的任何物理形式、診斷設備、新的簡化服務等。然而，由于監管，醫療原型的成本通常很昂貴。因此，當相關方設計原型時，他們應該在昂貴的基于計算機的模擬或角色扮演中運行，我們可以從互動或行動中學習，從而推動更深層次的同理心并形成成功的解決方案。

5.5 測試模式下對患者安全的影響

測試是收集反饋、完善解決方案和繼續了解患者的好機會。例如，如果我們想看看實時等待應用程序是否有效，我們可以對兩組患者進行測試，其中一組使用該應用程序，而另一組不使用。然后通過比較這兩組人，我們可以看出該應用程序是否有助于人們參加預約。如果在使用應用程序時缺席率顯著降低，這意味著我們走在了正確的軌道上，可以繼續對原型進行下一階段的改進。

6 結語

人工智能技術雖然可以幫助人們節省時間，但人工智能技術仍然存在許多隱患，人工智能支持決策工具對醫院患者安全的影響也是需要高度關注的方面，第一是人工智能支持決策工具的算法設計方面，算法的正確與否將直接影響決策依據，并將影響醫生對患者治療方案的選擇和患者安全；第二是人工智能使用與否與人類情感方面，也就是在道德或倫理方面人們的情感需受到關注，當人工智能支持決策工具不適用于醫院中所有需要它的人時就不應該在醫院中使用；第三是不應過度依賴人工智能支持決策工具，醫生必須有自己的判斷，不能僅僅依靠機器的預測和決定，否則可能導致患者安全方面的醫療事故?？傊?，醫生應該從患者安全的角度考慮問題，全面了解患者情況，并向機器提供最詳細的數據，并設計一種收集患者信息的方法，然后通過收集的信息整合反饋，最后將信息傳遞給機器，而不是完全依賴機器分析。