AI監測大腦藏倫理風險

劉興亮

據報道，國內有工廠引進員工腦電波掃描系統，通過工人帽子上的傳感器追蹤其腦電波。在工人整個值班期間，傳感器會持續收集腦活動數據，通過對這些數據的分析，能獲悉工人的煩躁、抑郁和消極心態。此時把工人送去休息，或許有利于生產效率和企業的人文建設。

這可以說明，用人工智能監測大腦，在技術上已經成為可能。那么，我們是否可以依賴腦電波掃描系統？如果系統犯錯，或者數據解讀錯誤，責任將由誰承擔？

在我看來，這個技術是靠譜的，至少從原理上來講，有很強的可行性。至于這一系統的準確性具體能達到多少，還很難說。我只能說，這個系統從技術操作角度來說，是沒有多大障礙的。接下來就是要看更多的實踐結果。這就像一種新的藥物研發過程一樣，藥物研發出來之后，還需要幾年的臨床試驗。系統的確會存在一定的失誤率，不可能百分之百準確，但是只要將失誤率控制在一個可控范圍之內，就是可以接受的。

在此之前，我就做過人工智能在未來生活中可能扮演什么角色的分析，明確提出了醫生極可能失業的預測——這主要是基于機器對人身體監測的作用而做出的結論。

與此不同的是，我今天所談的問題是對人腦的監控與診斷。當然不是判斷你是否腦血管有破損可能，大腦是否萎縮，而是實時監控你的大腦活動、情緒狀況以及所思所想。

也就是說人的頭腦，被機器所掌控，并據此調整你的現狀與行為模式。聽起來有些諷刺，但未必不是現實。

但是，設想一個人的大腦出于善意的目的而被監控，這里邊其實隱藏著很大的倫理風險。人性是不可試探的，就如神圣是不可試探的一樣。

如果一個人明確地知道自己的思想被他人掌控，勢必帶來類似于一個硬幣的兩個面的影響——他可能被迫變得更主動和積極于工作，提高效率;也可能伴隨著消極思想的狀態，以便自我隱匿和保護。至于下班后能不能切換回來是很成問題的，長此以往下去，人將變得拒絕思考、停止進步。

按照道德的要求成為一個“心中無不可與人言者”的楷模是人的極致追求，在現實中能夠做到哪一步，個體間差異極大。

當然，也有學者認為極難借助腦造影術解讀心理情緒狀況，并且就目前在工廠進行試驗所取得的成就，也可能具有相對性。對此，我們還是抱著審慎的樂觀態度拭目以待吧。