新興技術前瞻性治理工具及中國場景實踐

陳 瑜,馬永馳

(1.大連海洋大學 海洋法律與人文學院,遼寧 大連 116033;2.山東大學 政治學與公共管理學院,山東 青島 266237)

新一輪科技革命方興未艾,當納米材料、基因生物、新一代信息技術、人工智能等新興技術正在成為國家和社會無法或缺的部分時,不恰當地應用也帶來了諸多社會風險。例如,國內外市場上大量轉基因作物原料進入生產加工領域或者食品鏈,但人們卻無法預測轉基因食品對人體健康的隱患和跨代影響;再如“熊貓燒香”“金豬報喜”等一系列惡意病毒爆發導致的個人數據泄露;戰爭中大量濫用無人機給無辜百姓帶來了沉重的災難;“深度偽造”技術把“原始人臉”替換為“目標人臉”后引發的肖像侵權等[1]。

新興技術應用之所以會產生社會風險,源于新興技術發展初期,人們美好的期望和技術的不確定性并存,這種“雙刃劍”效應伴隨而來的是難以確定新興技術發展的邊界及其社會影響,以至于很難發現“正確”干預時刻[2]。為了防范新興技術社會風險可能引發的不可預知影響,大部分國家以專家決策方式,引導新興技術的發展方向,該方法雖然充分尊重了技術專家和政策制定者的意見和想法,但卻未能將其他多元社會主體的意見、想法和價值納入考量[3]。對于多元社會主體而言,被動接受新興技術產品的后果是容易與他們的心理預期產生偏差,引發人們對新興技術產品的質疑,進而導致新興技術產品社會化變得困難。上述困境表明新興技術發展需要尋求新的治理之道。

為了回應上述訴求,許多國家開始從前瞻性的視角進行新興技術社會風險治理的相關研究與實踐嘗試,只是不同國家,前瞻性治理的手段和效果各有差異。例如,美國企業在新興技術產品設計中納入利益相關者的意見與想法[4],以縮小新興技術產品和利益相關者預期之間的差距。歐盟在出臺某項新興技術決策之前,廣泛運用市民論壇、一致會議等參與式治理手段,以確保該技術決策更符合多元社會主體的意愿[5],從而規避新興技術決策引發的社會質詢。此外,中國部分企業將“科技向善”作為指引新技術應用發展的治理工具[6]。上述諸多嘗試豐富了新興技術治理的手段和工具,但對于前瞻性治理工具的梳理,特別是西方理論解釋是否適用于中國實踐,目前學界尚缺少一定的總結和探討。因此本文將從治理工具角度,梳理明確新興技術前瞻性治理工具,并探討其在中國場景的實踐應用,以期為促進前瞻性治理工具的制度化、提升新興技術社會風險治理績效提供研究啟示。

一、新興技術前瞻性治理工具

(一)前瞻性治理工具與技術風險防范的關系

技術風險問題源自20世紀60、70年代人們關于科學、技術、經濟和社會關系的探討?？茖W家提出科學和技術可能對社會和經濟產生較大的影響,所以需要國家機構幫助公眾選擇技術并提供可靠的技術路徑信息[7],以防止“缺少”專業知識的公眾濫用技術。此段時期,政府和專家單方面決定了廣泛應用的技術,沒有考慮技術可能對社會產生的負面作用,導致了諸如水俁病、痛痛病、米糠油等一系列技術災難。

20世紀90年代,技術風險問題引發了廣泛的社會影響。英國“瘋牛病”事件不僅導致了嚴重的社會風險,也成為了社會各界批判專家決策模式的觸發點[8]。Irwin A(2001)明確提出社會公眾應具有技術決策的合法性,并主張以公眾咨詢模式取代專家決策[9]。社會公眾逐步成為防范技術風險的參與者之一,以專家決策為中心的技術風險防范轉變為以專家決策為主、以公眾咨詢為修補方法,帶來的影響是技術產品及決策開始關注社會公眾的態度和認知[10]。

21世紀以后,納米、生物、信息和認知等新興技術引發了社會公眾對新興技術發展與應用的擔憂。此段時期,學者們一致認同新興技術社會風險防范需要技術專家、政策制定者和社會公眾共同參與。帶有前瞻理念的治理工具開始在新興技術各個環節萌芽并發展(參見表1)。

表1 新興技術發展各環節的前瞻性治理工具與相關理論

(二)前瞻性治理理論來源與內涵

1.新興技術研發環節的理論來源

價值敏感設計理論。前瞻性治理工具的理論來源主要包括價值敏感設計、預期治理和負責任創新框架等。價值敏感設計最初是為了解決技術產品設計工作的倫理道德問題,主張將受到技術產品影響的利益相關者價值觀(如隱私、知情同意、尊重知識產權等)和行為方式(如易于使用等)嵌入到技術人工物當中[4]。價值敏感設計被應用于邀請利益相關者對產品設計提供想法意見,對于前瞻性治理的貢獻提出了要權衡技術產品有用性和倫理道德之間的關系[15],不足之處是用戶范圍較窄導致倫理道德涵蓋面受限。

預期治理理論。近10多年來,預期治理理論通過擴大利益相關者范圍和整合多種參與形式逐步解決了上述問題。在新興技術發展早期投入或整合各種社會要素增加決策知識[16],同時在運用一系列前瞻性治理工具增強人們遠見的基礎上,擴展社會的參與和整合能力[17]。預期治理涵蓋了科學家、工程師、政策決策者和社會公眾等主體,主張在研發過程中,充分利用情境工具,幫助社會主體想象未來新興技術應用場景中的各種可能后果與突發事件[18],引導多元社會主體,圍繞新興技術與社會的關系,進行多重自反式的價值思考[19],以實現對新興技術發展的共同管理[17]。預期治理不是等著社會影響出現,而是鼓勵并支持科學家、工程師、政策制定者和社會公眾試著預測未來技術發展對社會的可能影響。預期治理的作用是讓新興技術決策更好、更知情,讓新興技術發展者將更多的社會需要融入創新過程,讓社會公眾提供他們關注、需要和愿望的知識和信息[20]。預期治理的貢獻是以預見性活動整合社會科學、自然科學和公眾參與,賦予多元社會主體影響新興技術發展的參與權,但也難免存在社會公眾技術創新經驗不足的問題[21]。

2.新興技術創新環節的理論來源

負責任創新理論。負責任創新框架致力于彌補科技創新負外部性治理中的“制度空白”,強調研究與創新必須有效反映社會需求與社會意愿,反射社會價值與責任[12]。負責任創新框架設置了預測性、包容性、自省性、響應性四個維度[22],用來規范創新主體的創新活動、行為模式和管理模式[23]。負責任創新框架的貢獻在于為企業創新活動設定了相應的邊界,使企業在一定的倫理、道德和價值前提下展開創新活動。不足之處是面對新興技術發展不斷涌現的新問題時,未能很好地勾勒出新興技術政策的約束空間。

3.新興技術決策環節的理論來源

參與式治理、逆流而上參與以及分布式對話等理論。其中,逆流而上參與是將社會公眾納入由政府和技術專家構成的政策決策過程[20],讓社會公眾在未來新興技術決策過程中扮演更為活躍和有影響的角色,不僅是“參與”認知與意見調查,更多的是促進社會公眾表達觀點、賦予新興技術資源分配的適當權力[24],最終目的是由多元社會主體共同決定新興技術發展對社會的可能影響。分布式對話則進一步擴大了社會主體參與政策決策的影響范圍,政府將“參與工具”分配給地方層級網絡群體,實現了成百上千社會主體參與活動,目的是將對話結果反饋給決策過程[25]。

綜上可知,前瞻性治理的本質是將原本位于新興技術發展決策之后考量的多元主體想法與意見、責任倫理與價值等前置到了技術決策之前,是一種未雨綢繆、提前預防新興技術社會風險的治理方式。前瞻性治理與傳統技術管理的區別在于:傳統管理強調使用規則和條例、監控和遵循機制,強調民主過程的程序;而前瞻性治理強調建構參與式民主制度,努力克服專業化和底層知識之間的分離,不僅回應新興技術發展,更多地是積極參與技術決策、參與政策制定和知識生產。由此,本文將前瞻性治理內涵界定為通過安排適當范圍的參與主體、調節特定的溝通過程,使治理參與者提升或轉變對新興技術風險的認知,促進或放慢某類新興技術應用的發展腳步,最終實現新興技術社會風險防范化解集體行動的治理目的。

(三)前瞻性治理工具介紹

治理工具,有時也被稱為政策工具,是為了解決某一社會問題或達成一定的政府目標而采取的具體手段和方式。就科技治理領域而言,相關研究主要側重政策工具的類型、作用以及政策含義,通常將羅斯威爾和賽格菲爾德提出的政策工具類型作為該領域的分類標準(供給型、需求型和環境型);蘇竣(2015)將此分類細化并拓展為科技治理領域的工具箱[27]。值得注意的是,治理工具并不是單一的,而是多元化的工具箱。治理工具除了體現政策制定者的理念和規則之外,還需要具有動態性、前瞻性和創新性,需要反映包容性的政策價值[28]。具體而言,主要包括以下3類前瞻性治理工具。

1.研發環節——減少新興技術產品誤解前瞻性治理工具

新興技術產品設計未考慮利益相關者意見,會導致產品難以契合利益相關者的期望,使得產品社會化受到阻礙。為了讓新興技術產品達到公眾預期,減少公眾對產品的誤解和社會化阻力,研究者們提出了一系列的前瞻性治理工具,主要包括:自反性質詢、分布式談話、逆流而上、專家情景等,本質都是為新興技術研發提供更多的信息,以減少社會公眾對新興技術產品預期的差異。

其中,自反性質詢治理工具的要點一是幫助技術研發者和社會公眾圍繞以下4個階段進行信息交換:①如何將不確定性轉化為問題;②參與者假設可能解決的方案;③實踐中操作解決方案;④實踐檢驗。二是在上述基礎上,以質詢、想象和實驗方式探討關于“誰是利益相關者?利益相關者的價值是什么?”等問題,以獲取社會公眾關于新興技術產品的認知與偏好信息[20]。具體應用場景上,自反性質詢工具可用于規避新興技術產品推出階段的機會主義行為風險。通常而言,在新興技術產品的推出階段,產品的可靠性或工藝設計普遍存在不足,這些不足會誘發用戶和企業的機會主義行為。

分布式對話治理工具的要點。分布式對話并不是追求技術研發者和社會主體對于產品設計的一致意見,而是技術研發者面向更大范圍社會主體,獲取公眾對于新興技術的認知、觀點和反應[29],使更多的公眾意見反饋在產品設計之中。通過對分布式對話治理工具的運用,英國皇家社會得出了以下結論:①在減少公眾對新興技術應用的誤解方面,調查公眾的態度、關注點、以及對不確定性的理解,與新興技術研發同等重要;②新興技術問題具有相當大的可討論空間,關鍵在于如何清晰地表達新興技術的爭議之處。如2009年英國皇家社會圍繞生物能源運用分布式對話治理工具展開公眾論壇,該論壇結論已被英國研究委員會采納并在全國范圍內開展了一系列的公眾論壇實踐,取得了良好的效果[30]。

2.創新環節——約束創新主體倫理道德前瞻性治理工具

新興技術創新過程中,創新主體如不遵循倫理道德會導致新興技術產品市場化缺乏控制。比如,轉基因作物原料進入生產加工環節時,如果不對原料流向和使用范圍嚴格管理,會導致轉基因作物濫用、無法溯源其使用去向。為了化解這一類風險,一方面需要確保創新主體具備對自身創新行為進行反思的意識和能力,確保新興技術創新過程遵循道德倫理規范;另一方面需要確保創新主體具有參與和回應的渠道,以培育創新行為轉向公開民主[31]。為了滿足這些要求,除了負責任創新框架提供了創新過程是否“負責任”的評估框架之外[22],一些前瞻性治理工具通過階梯式方式提升創新主體的倫理道德行為。主要包括:

對話治理治理工具。創新主體與參與者相互交換觀點、經驗、期望和關注[14],參與者們提供不同的看法和評價,堅持面對和解釋有爭議的問題[32],改善創新過程設計、決策、評價等環節,完善或改變創新主體和參與者的創新認知,使創新過程更為民主[33]。例如,在新產品研發驗證階段,西門子、波音、通用等大型企業借助大數據和人工智能仿真系統,通過各種報表、圖形、三維動畫等形式呈現出未來新產品的多個維度特征,為用戶刻畫出新產品的全景畫像,以此推動更多的用戶廣泛參與新產品工藝和技術路線的選擇,或借助創客平臺實現用戶參與產品創新,模擬未來銷售情境中的制度環境,反向改進新產品技術性能或工藝,從而在研發初期實現對產品創新的全項目建模和全流程虛擬現實管理,規避用戶在使用階段的機會主義風險[34]。

小組討論治理工具。小組討論參與者通過想象如何發展未來的新興技術,創造一個擴展或減少新興技術發展選項的空間[2],小組討論并非無限制擴展公眾想象力,而是將小組討論融入到研發專家的“實驗室試驗”,實現技術研發本地化參與,將本地公眾的未來生活和新興技術研發密切聯系,突出技術塑造未來的局限性,減少創新活動不受限制的風險[35]。例如,2009年11月和2010年1月奧地利公民運用小組討論治理工具組織了IMAGINE討論會,探討了納米技術在醫學、食品、信息和船舶領域的應用問題。研討會由納米技術故事、應用、問題和未來四個階段構成,每個階段都準備了集合專家意見的主題卡片。其中“故事”階段通過播放視頻剪輯闡述了要討論的主題和問題,其他三個階段邀請參與者選擇預先準備好的主題元素進行討論并闡述觀點。小組討論結果證明了參與者會選擇感興趣的主題元素進行積極創新,未被選擇的元素則表明不是公眾關注的核心問題。小組討論治理工具揭示了在公開辯論中為什么某些問題受到關注,而另一些問題仍未解決。

3.決策環節——提升技術決策信任度前瞻性治理工具

新興技術決策若未能充分考量多元社會主體意愿而可能引發的強烈社會質詢。當人們認知和評估新興技術發展時,會選擇與他們利益、經驗和知識相關的意見主張[36]。不同的視角包括:認為技術是實現社會目標的工具(工具主義)、或者社會是技術的奴隸(確定主義)、或者技術和社會之間是相互作用的(社會建構)。這些視角沖突是不可避免的,是我們道德生活的一部分,因此如何化解這些沖突成為了新興技術治理的關鍵。

一些前瞻性治理工具為化解上述沖突、減少新興技術決策的“信任危機”提供可能。具體而言,包括以焦點小組、相互學習、科學咖啡館、協作現場技術探索等參與式治理工具或者對話治理工具。此類治理工具基于以下出發點,即當新興技術創新對現存秩序構成威脅、或是模糊了現存秩序的邊界時,新興技術的發展將不再是一個簡單的技術選擇問題[37](接受或者拒絕某項新興技術),而是一個多元利益相關主體面臨的公共問題[38]。因此相應治理工具的立足點是,通過多元社會主體相互作用、共同學習的對話過程培育社會主體關注新興技術社會發展,減少社會主體對新興技術的懷疑、并增加社會主體對新興技術確定性的認知,從而消解沖突。

例如,相互學習治理工具的運用方面, 2014年11月在巴塞羅那著名的科學博物館CosmoCaixa,西班牙巴塞羅那大學組織了Super MI的相互學習實踐,旨在圍繞神經增強技術優化人的認知能力這一主題,為公民提供一個開放討論平臺。具體做法如下:一是采用科學咖啡館的形式召開,邀請神經增強技術領域研究者和管理者進行演講,并與參與聽眾進行對話;二是將活動討論的主題集中于神經倫理學和神經增強技術被引入日常生活后所帶來的社會經濟影響,同時借助投票系統向參與者呈現各種選項,將投票結果現場公開展示,并組織參與者積極表達意見、開展辯論;三是實踐活動后立即進行問卷評估。相互學習實踐的結果表明:投票系統充當了組織者評價參與者觀點的一面“鏡子”,可以呈現出某個觀點是主流觀點還是例外觀點(例如大多數參與者都同意在健康人群中使用增強物質和技術,用于預防或推遲與年齡有關的認知問題,如記憶力減退等,但在娛樂性增強工具方面則表現較為消極),從而幫助參與者在辯論中能更好地進行自我定位,為消解沖突和建立信任奠定基礎[14]。

當然,減少新興技術決策“信任危機”僅憑前瞻性治理工具是不夠完備的,還需要政府具有公共價值管理的能力,充分考慮國家獨特的政治和體制文化因素,考量公眾參與意愿等情感因素,同時也有賴于自主化、交互化、智能化技術支撐的輔助性決策工具的運用。

二、中國場景前瞻性治理工具的實踐

(一)研發環節——自反性質詢治理工具實踐

2016年中國國際高新技術成果交易會上,擁有“自主導航、雙目視覺、自然語義理解”等多項功能的陪伴型機器人“小胖”突然失控傷害無辜路人,其原因是機器人設計中缺少誤操作“自我關閉”程序,人工智能專家在設計之初未能將“不傷害原則”嵌入到機器人中,導致了機器人使用的安全隱患[39]。這一設計缺陷使得陪伴型機器人的市場化蒙上了巨大陰影。

為了化解此類風險,中國方面新興技術產品研發開始嘗試運用自反性質詢治理工具。為了規避用戶和企業的機會主義風險,中國騰訊、海爾、阿里、美的、酷狗等企業通過搭建與用戶互動的創新平臺,在產品創意和產品驗證階段通過大數據平臺實現新產品“預售”,充分獲取用戶或潛在用戶意見、產品創意信息,使技術或產品創新從源頭上被賦予了社會屬性或社會群體的集體選擇特征,有利于用戶和企業在技術和工藝選擇的研發初期階段規避機會主義風險[34]。比如海爾咕咚手持洗衣機銷售過程就是運用自反性治理工具的良好借鑒。同時,咕咚手持洗衣機沒有花費一分錢廣告宣傳費、完全沒利用傳統專賣店營銷渠道,就實現產品上市前預約量40萬臺,半年銷售20萬臺的業績。此案例中海爾將官方微博新媒體作為與用戶互動的創新平臺,該平臺并不與同類企業一樣發布自家產品與領導動態,而是注重收集用戶或網友各類意見。海爾的自反性質詢治理工具一方面體現于滿足用戶需求:該洗衣機上市的初衷是海爾為了回應網友在其官博上吐槽的產品不滿和意見,并正式回復認真考慮實現網友想法。此條官方微博收到了5000多條產品改良意見,同時海爾與數據公司合作發現有7萬用戶打算購買此類產品。最關鍵的是與同類大企業僅新產品開模費用高達百萬以及繁瑣的申請流程相比,海爾制造部門1個小時就能確定制造此產品。另一方面體現于用戶深度參與:海爾在24小時之內將產品設計圖掛到微博上,7天時間內網友對產品的結構、外觀、功能等方面提出各種意見,難能可貴的是海爾將各類意見用3D打印反饋于網友。海爾的自反性質詢是把用戶變成企業合伙人,邀請海爾官博30多萬粉絲參與到產品研發、設計、制造、營銷的整個過程。

中國產品研發自反性質詢治理工具實踐與相關國家不同之處在于:部分國家是企業與用戶面對面座談,將座談結果納入技術產品設計中。部分國家將該形式以定期論壇形式加以制度化,這意味著部份國家建立了一定的政府與公眾、企業與公眾的互動機制。中國實踐則體現了企業與用戶之間以新媒體為中介的“面對面”互動交流,也是一種企業與公眾互動機制,同樣取得了非常好的技術治理效果。

(二)創新環節——約束創新主體倫理道德治理工具的實踐

中國約束企業創新倫理道德治理工具包括兩方面:一是國家制度與政策治理工具,包括《關于加強科技倫理治理的意見》《新一代人工智能發展規劃》等規范性文件,這些文件從新興技術制度設計角度給出新興技術發展總體規劃與方向。二是企業“科技向善”治理工具,該治理工具是企業主動將創新技術研發與創新產品應用朝向有利于人類、促進社會良性發展的方向。國家制度和科技向善兩類治理工具相互配合可讓科技工作者從“他律”走向“自律”,進行內省式自我約束以及倫理意識內化,可以實現中央全面深化改革委員會所提倡的“制度規范與自我約束相結合”[40]。實踐中部分企業利用科技向善治理工具較好地踐行了國家政策,同時實現了企業創新自我倫理道德約束。例如騰訊研究院以科技向善為核心發起了一個多方共建的研究、對話與行動平臺,旨在探討新技術、新應用帶來的新潛力及各種新問題,尋求社會各方共識、探索解決方案,推動數字社會福祉最大化。在多方合作的基礎上該平臺提出并建設了很多新技術科技向善的方案和踐行,比如騰訊與世界自然基金會合作打造了一個數字保護平臺,追蹤雪豹的蹤跡和收集各項關鍵數據,以保護它們的棲息地。騰訊與國家林業和草原局合作,借助騰訊多媒體實驗室的技術,完成東北虎豹國家公園的全景覆蓋。并借助沉浸式媒體壓縮傳輸引擎,讓人們可以使用手機隨時隨地“云”游國家公園,使用戶更真切地感受到自己為保護動物貢獻了力量。騰訊與中國最大的人工耳蝸廠商之一諾爾康(Nurotron)合作,基于騰訊天籟AI音頻技術,推出“手機伴侶+人工耳蝸”解決方案,通過AI降噪算法改善聽障人群聽覺體驗,幫助他們真正聽清世界。此外,還包括歡樂斗地主與天天象棋的“健康約定系統”,創新型碳捕集、利用與封存項目等諸多科技向善實踐。

中國約束企業創新倫理道德治理工具實踐與相關國家不同之處在于:部分國家實踐是企業與用戶、政府與公眾之間直接進行討論,優點是直接獲取利益相關者的想法與意見,不足之處是利益相關者覆蓋面有限、討論結果用于技術創新的程度不夠清晰。中國實踐是企業在政策支持引導下,企業與政府、科研院所合作,企業間合作展開的新技術創新倫理道德約束實踐,該過程以非常有利于人類的新技術開發為前提,新技術投向社會后取得了良好的技術治理效果,不足之處是技術創新倫理過程尚未預留與公眾互動的通道。

(三)決策環節——提升技術決策信任度治理工具實踐

中國提升新興技術決策信任度治理工具是共建治理,是中央政府、地方政府、企業、科研機構等多元主體之間的互動,包括參觀、反饋、決定、評估、座談、匯報、申請和協作等行為。例如國內部分國有企業在中央政府出臺的《關于加快推進國有企業數字化轉型工作的通知》《關于加快推進中央企業兩化融合和數字化轉型戰略合作協議》政策引導下,企業管理決策全面進入了“智能化時代”。哈電汽輪機公司對葉片分廠進行大規模智能設備升級和廠房改造,數字化系統應用讓分廠管理更加簡潔高效。中建科工集團實施數字化變革,推進管理手段升級,打造出四級大數據管理駕駛艙、智慧工地平臺、智能制造工廠等。神華與國電合并為國家能源投資集團后,在數字化基礎上推動傳統業務體系全方位改造,通過智能化技術提升決策管理方面的一體化、科學化和信息化……。

中國提升技術決策信任度治理工具實踐與相關國家不同之處在于:部分國家實踐是以技術企業與公眾之間相互探討、相互學習為主,目的是為了彼此從討論中學習觀點和認知,從而將多主體認可的技術發展方式運用于社會。中國實踐是政府、企業、科研院所等共建治理,是以政府政策支持引導、企業技術轉變、科研院所提供技術支持與轉化的方式,實現企業以新技術、數字化系統提升業務體系技術決策科學性與智能化的目的。

本文從新興技術應用引發社會風險的角度出發,探討了防范新興技術社會風險管理方式從專家決策向前瞻性治理的轉變。圍繞前瞻性治理和新興技術社會風險關系的演變,梳理發現前瞻性治理在不同國家的效果各異,其原因在于前瞻性治理尚未成為統一規范的制度化治理工具或政策規則。由此,本文主要研究了前瞻性治理工具及其中國的實踐效果,目的在于提高前瞻性治理工具的社會風險防范能力,為完善和補充中國政府新興技術治理工具箱提供了可遵循的理論依據,為新興技術治理研究者提供進一步的研究啟示。值得進一步研究的議題包括:如何構建不同類型的前瞻性治理工具,如何為前瞻性治理工具設計標準化的過程,如何從作用機制的角度為前瞻性治理工具提供清晰的解釋框架等等。