前瞻性技術倫理治理研究

[摘 要] 新技術引入社會后，在為人們帶來福利的同時也時常引起一些倫理問題，而且根據“穆爾律令”，隨著新技術日益廣泛的應用，它們的倫理問題還將增加。實際上，新技術的倫理問題在其研發階段就蘊含了。為了使輸入到社會的新技術符合社會的倫理價值，我們可以在研發階段對其進行前瞻性的倫理治理。工程師、科學家、管理者和政府官員是前瞻性技術倫理治理的主體，他們可以按照“兩階段”模式進行治理。經過前瞻性的倫理治理，輸入社會的新技術將達到倫理可接受和社會滿意。

[關鍵詞] 前瞻性； 技術治理； 倫理治理； “穆爾律令”

[中圖分類號] B829 [文獻標識碼] A [文章編號] 1673-8616（2018）03-0023-07

新技術引入社會后將產生雙重效應：一方面，它將給人們提供新的手段，帶來新的利益；另一方面，它又時常引起一些倫理問題，甚至引起“先前不知道的倫理問題” [1 ]。這些倫理問題實際上在新技術引入社會之前，即在新技術的研發階段就蘊含了，只不過是新技術被應用到社會后，倫理問題逐漸顯現出來。因此，需要對技術進行前瞻性的倫理治理，以使得向社會輸入的新技術達到倫理可接受和社會滿意。

一、從荷蘭智能電表事件到“穆爾律令”

隨著信息技術的發展，智能電表應運而生。傳統電表只顯示用戶累計用電量，而且需要電力部門人員上門抄錄表數。與傳統電表相比，一方面智能電表對用電量的統計更為準確，另一方面它還可以顯示用戶每小時，甚至每一刻鐘的電力使用量。它還實現了與電力部門數據的雙向傳輸，省去了抄表員上門抄錄表數的工序。2007年，荷蘭政府打算將全國700萬戶居民的傳統電表更換為智能電表，并在2013年之前完成。但令人意想不到的是，智能電表的更換遭到了荷蘭民眾日益高漲的反對。他們認為，智能電表可以反映出用戶的用電習慣，乃至用戶某時某刻正在家中做什么事情，這嚴重侵犯了他們的隱私。這些數據一旦被不法之徒獲取，就可能對用戶隱私造成很大的威脅 [2 ]。該事件啟示我們，如果相關實踐者在智能電表這一新技術引入社會之前，即在智能電表這一新技術的研發階段，就前瞻性地對其進行倫理治理，使其具有符合人們倫理觀念的價值屬性，那么就可以避免這一事件的發生。

一項新技術引入社會后時常會引起不期望的倫理問題，而且隨著該項新技術應用范圍的擴大，它引起的倫理問題還可能會增加。美國學者穆爾（James H. Moor）指出，技術日益廣泛的應用增加了它的社會影響，與此同時，它的倫理問題也相應地增加了 [3 ]。這就是富有影響力的“穆爾律令”（Moor's Law）。穆爾系統地研究了新技術在社會中的發展過程，他把這一過程分為前后相繼的三個階段：引入階段（the introduction stage）、滲透階段（the permeation stage）和權威階段（the power stage） [3 ]。在引入階段，新技術剛剛引入社會，“很少的人知道和使用它” [4 ]，社會融入的程度還較低，對社會的影響也較小。在滲透階段，越來越多人使用該技術，技術使用者的數量增加了。在這一階段，技術的社會融入程度達到了中等水平，技術對社會的影響也變得明顯了 [3 ]。在權威階段，這一技術被廣泛地應用，在社會上的地位牢牢地確立起來，眾多的人受到它直接或間接的影響，對社會產生的影響重大。穆爾詳細分析了新技術的發展過程（三個階段）與倫理問題的關系，從而提出了“穆爾律令”，即技術日益廣泛的應用增加了它的社會影響，與此同時，它的倫理問題也相應地增加了 [3 ]。這一現象之所以會產生，一方面是因為新技術影響越來越多的人，另一方面是因為新技術為人們提供了許多新的行動機會 [3 ]。為了減少或避免新技術引入社會后引起倫理問題（包括隨著新技術社會影響的擴大而增加的倫理問題），我們需要對新技術進行前瞻性的倫理治理。

二、面向新技術的前瞻性技術倫理治理

在上文中，我們通過討論荷蘭智能電表事件和“穆爾律令”揭示了前瞻性技術倫理治理的必要性。那么，究竟什么是前瞻性技術倫理治理呢？

前瞻性技術倫理治理是指這樣的技術治理活動：它在技術輸入社會之前，即在技術的研發階段，就提前識別出技術的倫理問題，并據此采取相應的處理措施，使未來輸入社會的技術達到倫理可接受和社會滿意。前瞻性技術倫理治理針對的是尚在研發中的新技術?！芭f技術”早已被引入社會，因此對于它們來說，不存在前瞻性倫理治理問題。對于已經應用到社會的新技術來說，也不存在前瞻性倫理治理問題，因為它們已經引入到社會中了。論述至此，有人可能會在心中產生疑問：“對尚在研發中的新技術進行前瞻性的倫理治理何以可能？它們還沒有在社會應用，它們的倫理問題還沒有暴露出來?！彪m然尚在研發中的新技術的倫理問題還沒有暴露出來，但是我們可以通過預測提前將它們識別出來。前瞻性技術倫理治理就是要運用預測的方法前瞻性地研究尚在研發中的新技術潛在的倫理問題，進而提前對其進行倫理治理。如何進行預測？本文將在第四部分詳細闡述。

前瞻性技術倫理治理的治理優勢集中體現在三個方面：一是在問題發生之前就提前進行治理，避免問題的出現，而且治理相對容易。在當代，大量的新技術被發明出來，被投入社會。這些新技術一方面給人們帶來了福利，而另一方面又時常引發一些倫理問題，有些倫理問題甚至是我們之前未曾遇到過的。前瞻性技術倫理治理可以在新技術輸入社會之前，即在蘊含的倫理問題發生之前，就在新技術的研發階段提前把這些倫理問題識別出來，并妥善地處理掉，進而使輸入社會的新技術在道德上符合社會要求。同時，前瞻性技術倫理治理相對容易，因為此時新技術尚處于研發階段，還沒有引入社會，它們還沒有成為經濟和社會結構的一部分。如果新技術經過滲透階段在社會上根深蒂固了，已成為經濟和社會結構的一部分，那么再對它們進行倫理治理，就相當困難了。二是前瞻性技術倫理治理將指導人們為應對可能出現的技術倫理問題提前做好準備，避免或最大限度地減少危害。一些新技術蘊含的倫理問題在研發階段難以消除。這些技術，社會需要且受人們歡迎，需要引入社會。通常，人們對這些新技術可能帶來的倫理問題是沒有準備的或者是準備不充分的，這就容易產生危害。前瞻性技術倫理治理將能指導人們提前為應對這些新技術可能帶來的倫理問題做好準備，以避免危害或將危害降到最低程度。打車軟件這一新技術在為乘客提供打車方便的同時，也為不法分子搶劫和綁架提供了有利的可乘之機。這一倫理問題在技術研發階段難以處理掉。如果人們對這一倫理問題沒有準備或準備不充分，就可能發生危險。2016年，南京一位市民在乘坐網約車時，就遭受到不法司機的搶劫和綁架 [5 ]。受害者對這一倫理問題沒有準備或準備不充分是這件事情發生的一個原因。運用前瞻性技術倫理治理，可以在打車軟件應用社會之前，就溫馨地提示人們：第一，上網約車時，盡量不要坐在副駕駛上，尤其是獨自乘車的女性；第二，上網約車后，應和親朋好友聯系，將自己所坐車輛的車牌號、目的地、預計到達時間等告知對方。這樣就指導人們為應對這一倫理問題做好準備，進而有利于避免此件事情的發生。三是通過前瞻性技術倫理治理，可以減少或避免資金的浪費。新技術的研發需要花費大量的經費，新技術的生產同樣也需要投入大筆的資金。新技術引入社會后因為存在倫理問題，而不被使用者（消費者）接受或被國家有關部門宣布禁用，那么就將造成先前投入資金的浪費。前瞻性技術倫理治理可以減少或避免這種資金的浪費。

三、前瞻性技術倫理治理的主體

誰來對尚在研發中的新技術進行前瞻性的倫理治理？是設計者、使用者，還是其他人？通過這一部分的分析，前瞻性技術倫理治理的主體將被揭示出來。

技術并不是自主發展的，它是由社會建構的。平奇（Trevor Pinch）、比克（Wiebe Bijker）和休斯（Thomas P. Hughes）等學者的技術社會建構論就說明了這一點。既然技術是由社會建構的，那么人就可以對技術進行倫理干預（治理），以讓技術塑造更好的生活。技術的社會建構性為對技術進行倫理干預（治理）奠定了本體論的基礎，使對技術的倫理干預（治理）成為可能。

具體地說，工程師、科學家、管理者、使用者、政府官員和相關咨詢學者等行動者共同建構了技術。在這些行動者中，誰能對技術進行前瞻性的倫理治理（干預）呢？能夠對技術進行前瞻性倫理治理的必須同時具備兩個條件：第一，具有實踐推理（practical reason）能力 [6 ]，能夠反思技術的行為，預見技術未來可能帶來的影響；第二，能夠根據技術行為的反思和技術影響的預見，在技術輸入社會之前，即在技術的研發階段，實際地調整技術。使用者具有實踐推理能力，能夠反思技術的行為，預見技術未來可能的影響，但是他們卻不能根據這種反思和預見實際地調整技術。使用者對技術的發明、調整和改進具有重要的作用，他們也是技術建構中“磋商”的一員。這里說“不能實際地調整技術”并不是否定使用者對技術建構的重要作用。另外，當使用者使用該技術時，該技術已經輸入到社會中，因此即使使用者能調整技術也不可能在技術輸入社會之前做這件事。相關咨詢學者，如倫理學家、社會學家等，也只具備第一項條件，不具備第二項條件。雖然他們可以在技術輸入社會之前就介入進來，發表看法，通過這些看法影響工程師、科學家、管理者和政府官員的決策，但是他們不能夠實際地調整技術。工程師、科學家、管理者和政府官員，他們同時具備對技術進行前瞻性倫理治理的兩項條件：一是他們有實踐推理能力，能夠對技術行為進行反思和預測技術未來可能產生的后果；二是他們能夠在技術輸入社會之前，即在研發階段，根據這些反思和預測做出決策，實際地調整和改進技術，以使輸入到社會的技術達到倫理可接受和社會滿意。既然如此，工程師、科學家、管理者和政府官員能夠對技術進行前瞻性地倫理治理（干預），他們是前瞻性技術倫理治理的主體。

四、前瞻性技術倫理治理的途徑

前文已經闡明了前瞻性技術倫理治理的主體，本部分將集中論述這些主體應如何對尚在研發階段的新技術進行前瞻性的倫理治理這一問題，為工程師、科學家、管理者和政府官員這些主體進行前瞻性倫理治理提供參考。

前瞻性技術倫理治理包括前后相連的兩個階段：一是預測階段，二是改進階段。對尚在研發中的新技術進行前瞻性倫理治理的前提就是要預測出該技術未來可能帶來的后果，因此前瞻性技術倫理治理的第一階段就是預測。通過預測，提前預判尚在研發中的新技術未來可能產生的倫理后果。道德想象力法、建設性技術評估法、ETICA項目法和行為科學法是四種有效的預測方法。

道德想象力是人的一個重要能力，它是指人類個體超越自我、超越既定情景對行為進行想象和做出道德判斷的能力。道德想象力的一個突出價值就是我們可以利用它進行預測。我們可以利用道德想象力通過想象推演、預判行為可能產生的倫理問題。在前瞻性技術倫理治理中，各位治理主體可以運用自己的道德想象力對尚在研發中的新技術未來引入社會后可能帶來的倫理問題進行預測。道德想象力法是前瞻性技術倫理治理中一種簡便而實用的方法。

建設性技術評估（CTA）興起于20世紀80年代 [7 ]，它一方面繼承了傳統的技術評估（TA），要評估技術在經濟、社會和環境等方面的影響，另一方面又超越了傳統的技術評估，主張聽取利益相關者的建設性的評價意見 [6 ]。通過建設性技術評估，許多不同的利益相關者參與到技術的評估過程之中 [8 ]。這樣，對新技術輸入社會后可能引起的倫理問題的預測就不再只是依靠前瞻性技術治理主體了，而是擴大為群策群力了，由此將大大提高倫理問題預測的完備性和準確性?？梢酝ㄟ^專題研討會、共識會議等方式讓諸多利益相關者參與到建設性技術評估中來。通過建設性技術評估法，我們可以預測出尚在研發中的新技術輸入社會后可能帶來的倫理問題。

“尚在研發中的信息和通訊技術應用的倫理問題”（Ethical Issues of Emerging ICT Applications，簡稱ETICA）是一個歐盟研究項目 [9 ]。它由英國斯塔爾（Bernd Carsten Stahl）教授等人承擔。ETICA 項目“旨在提供更廣泛的關于尚在研發中的技術后果的認識” [10 ]，同時它也為我們提供了一種有效的預測方法，即ETICA 項目預測法。ETICA 項目預測法可分為三步：第一步研究出尚在研發中的新技術的特征；第二步運用文獻計量分析，識別出值得考慮的倫理問題；第三步檢查尚在研發中的新技術的特征是否可能引起第二步識別出來的倫理問題（每項特征都要檢查）。這樣就能預測出尚在研發中的新技術未來引入社會后可能產生的倫理后果。

行為科學法實際上就是運用行為科學的實證方法，研究尚在研發中的新技術未來引入社會后可能對人的行為造成的倫理影響。行為科學的實證方法有實地試驗、計算機模擬、“第二人生” （Second Life）里的實驗等?！暗诙松笔敲绹_發的一個著名的虛擬世界，同時它也是一款深受人們喜愛的網絡游戲，有的學者運用它研究“旁觀者效應” [6 ]。包括“第二人生”里的實驗在內的行為科學的實證方法將幫助我們在經驗層面洞察和判斷尚在研發中的新技術未來引入社會后可能產生的影響。

以上四種預測方法各有優點和弱點，在治理工作中，我們可以根據實際情況組合使用。預測出尚在研發中的新技術未來輸入社會后可能帶來的倫理影響是前瞻性技術治理第一階段的工作。接下來，工程師、科學家、管理者和政府官員要根據預測結果，采取相應的治理措施。由此，治理進入第二階段——改進階段。

如果預測的結果，即尚在研發中的新技術未來引入社會后可能產生的倫理影響，符合法律規約和倫理規范，那么可以準許這項正在研發中的新技術繼續研發并在未來輸入社會。如果預測尚在研發中的新技術未來引入社會后可能產生的倫理影響與法律規約和倫理價值沖突，倫理上不可接受，同時至少目前又無法進一步采取措施解決這種沖突，那么這項正在研發中的新技術就應當被禁止。如果預測尚在研發中的新技術未來引入社會后會產生一些倫理問題，但這些倫理問題可以通過調整、改進技術解決，那么相關技術倫理治理主體就應該積極調整、改進技術設計，以解決這些潛在的倫理問題。

經過上述的倫理治理，尚在研發中的新技術在未來輸入社會時就可以達到倫理可接受和社會滿意。

五、結 論

新技術引入社會是人類社會運行的常態，新技術引入社會后將產生雙重效應，它們在為人們帶來福利的同時，也時常產生一些倫理問題。新技術在社會中表現出來的倫理問題其實在技術的研發階段就潛在地存在著，只是在新技術應用社會后，倫理問題逐漸顯現出來。因此，我們應該在技術的研發階段就開展前瞻性的倫理治理，使輸入社會的新技術能夠符合倫理價值，達到社會滿意。工程師、科學家、管理者和政府官員具備從事前瞻性技術倫理治理的條件，是前瞻性技術倫理治理的主體。他們應切實承擔起技術前瞻性倫理治理的責任，克服過多關注技術進步、忽視技術社會屬性的“現代化偏見” [11 ]，讓技術塑造更好的生活，塑造更好的未來。

參考文獻：

[1]顧世春.柏瑞預知性技術倫理研究[J].自然辯證法研究，2017，33（1）：20.

[2]胡明艷.科學技術創新需要“負責任”[N].學習時報，2015-03-16（7）.

[3]James H. Moor. Why we need better ethics for emerging technologies[J].Ethics and Information Technology，2005，7（3）.

[4]Philip A. E. Brey. Anticipating Ethical Issues in Emerging IT[J]. Ethics and Information Technology，2012，14（4）：306.

[5]許震寧.女孩打車遇劫獲救記[N].南京日報，2016-12-17（3）.

[6]顧世春.瓦爾博斯前瞻性技術責任倫理研究[J].自然辯證法研究，2015，31（8）.

[7]陳凡，賈璐萌.技術控制困境的倫理分析——解決科林格里奇困境的倫理進路[J].大連理工大學學報（社科版），2016，37（1）：80.

[8]Peter - Paul Verbeek . Moralizing Technology ： Understanding and Designing the Morality of Things [M]. Chicago and London： The University of Chicago Press. 2011：103.

[9]Bernd Carsten Stahl， Philippe Goujon， Catherine Flick，etc. Identifying the Ethics of Emer-ging Information and Communication Technologies： An Essay on Issues， Concepts and Method[J].International Journal of Technoethics，2010，1（4）：21.

[10]Bernd Carsten Stahl. IT for a better future： how to integrate ethics， politics and innovation[J]. Journal of Information，Communication & Ethics in Society，2011，9（3）：141.

[11]梅亮，陳勁，李福嘉.負責任創新：內涵辨析與啟示[J].自然辯證法研究，2017，33（2）：51.

[責任編輯：楊 彧]

Abstract：New technologies bring benefits to people as well as cause ethical problems. According to Moor's Law， as the growing widespread use of technologies， their related ethical problems will also on the rise. In fact， the ethical problems of technologies are germinated in the R &D stage. In order to make new technologies in line with the ethical value of society， we can have a forward-looking ethical governance of the technology in its R &D stage. Engineers， scientists， governors and government officials are the mainstay of forward-looking technological ethical governance. They can govern in accordance with the "two-phase" model. With the forward-looking ethical governance， new technologies to be applied in society will reach an ethical acceptable level and meet the need of social satisfaction.

Key words： Forward-looking； Technology Governance； Ethical Governance； Moor's Law