算法嵌入政府治理:邏輯、風險與規制

周曉麗,姬曉暄

中央民族大學 管理學院, 北京 100081

一、問題提出

近年來,隨著新一輪科技革命取得突破性進展,大數據、云計算、人工智能已深刻嵌入社會生活的方方面面。從人臉識別到安全監控,從智能家居到自動駕駛,從人機交互到數字孿生,數字化、智能化的技術手段不斷重塑社會樣態,驅動人類社會朝著智慧化邁進。其中,算法作為一切智能技術的基礎要素發揮著關鍵性作用。憑借高效的信息處理能力、自主的校準修正能力以及持續的深度學習能力,算法能夠以機器語言對海量數據信息加以處理,以預先設定好的策略機制解決現實問題,為整個社會高效有序運行提供邏輯參照。同時,在“算法社會”時代,算法技術也為政府治理提供了更為廣泛的思路參考,如何推進算法技術與政府治理場景廣泛融合,發揮好算法技術在促進政府決策理性化、公共服務精準化、行政績效高效化方面的優勢成為亟待解決的現實議題?！丁笆奈濉睌底纸洕l展規劃》明確提出,要加快構建算力、算法、數據、應用資源協同的全國一體化大數據中心體系,提高中國數字經濟治理水平,走高質量發展道路;《國務院關于加強數字政府建設的指導意見》指出,要主動順應經濟社會數字化轉型趨勢,充分釋放數字化發展紅利,建立健全對算法的審核、運用、監督等管理制度和技術措施,以數字化改革助力政府職能轉變?？梢?在當下如何推進算法技術深度嵌入政府治理,促進政府治理模式優化升級,以期更好地實現公共價值是亟須關注的時代命題。

從廣義上說,“算法”是模型、目標、數據、訓練數據、應用程序、硬件等一系列要素組成的概念網絡,能夠將人類語言中的社會規范和法律規則轉化為計算機代碼[1]。其雛形最早出現在中國周朝時期,商高提出的“勾三股四弦五”定律即為數學算法的初級推演。此后,歐幾里得算法、《九章算術》、《周髀算經》等不斷推進算法演進,為現代算法設計的形成奠定了理論基礎。隨著Ada Byron程序設計流程圖、圖靈計算機的發明,人類社會逐漸步入信息化時代,人們開始探求以計算機語言描述算法程序的可行性路徑,嘗試通過一套包含算數運算、邏輯運算、關系運算的計算過程高效、理性、客觀地解決現實問題。從當前有關算法與社會發展關系的研究成果來看,學界多從技術、規則以及功能三個方面展開研究。從技術角度而言,一方面,“算法積極論者”認為,人類社會應因技術革命發展方向進行結構性演變,算法能夠促進信息流彼此聯結形成網絡系統,實現對各社會事務的標準化和程式化處理,提高社會運轉效率和整體效益,豐富和便利社會生活,提升公民對于復雜技術規則的學習與掌握能力,推動社會形成開放多元的思維方式和價值理念。另一方面,“算法消極論者”認為,歷史上的所有技術應用都存在異化的風險,算法的純工具理性可能會限制市場競爭、威脅數據安全,導致社會公正性減損、個體權利湮沒等問題,因而需要警惕算法給社會帶來的風險。就規則層面而言,算法不僅是構建網絡空間的代碼和技術,也是對現實世界的制度供給[2]。算法將海量的數據資源放置在預先設定好的程序框架內,經由一套確定的規則轉化為現實的問題解決路徑,以可視的正式的制度安排引導、推動甚至決定社會事務發展方向,同時算法開發者、測試者、使用者基于個人潛在意識賦予算法的非正式制度安排也在潛移默化中作用于社會生活,形成對現實世界的規則。從功能層面而言,學界已普遍關注算法嵌入社會醫療衛生、金融科技、腐敗治理、政務服務、文化傳播、信用評價等領域,認為具備自主學習能力的算法已不僅僅是處理社會事務的技術和規則,更是推動社會權力運行的重要機制[3]。掌握核心算法技術的個人或組織能夠憑借技術優勢把控社會資源,在政治、經濟、社會等領域實現對傳統權力的虛擬化延伸,逐漸構建起復雜的算法權力網絡,對社會進行構建、干預、引導和改造[4]。

關于算法嵌入政府治理,既有研究呈現較明顯的“樂觀”與“悲觀”兩極化態勢。樂觀主義者認為,現階段面對日益復雜的治理環境,傳統政府部門決策可能存在“認知負荷”[5],而算法憑借獨有的算力優勢能夠有效減少政府機構工作人員的投入,降低治理成本[6]的同時,能夠對海量信息資源進行轉碼和解碼,通過統一規范的程序產出問題解決方案,有利于提升公共部門決策質量[2];此外,算法嵌入還有利于將碎片化治理轉變為整合連接式治理[7],保障公共部門決策的中立性和客觀性[8],更好地實現公眾個性化公共服務需求,推進社會治理逐步向開放化、透明化與智能化發展[9]。悲觀主義者則認為要對算法嵌入政府治理保持警惕,公共部門決策過度依賴算法可能會削弱政府和民眾的自主性,侵犯公民隱私權[10],產生算法歧視與算法共謀[11],使得公共秩序被算法支配,最終導致政治正義的解體。因而,要審慎對待算法技術,謹防工具理性對公共價值可能造成的損害。

通過梳理可以發現,既有研究中“樂觀”與“悲觀”兩種研究論調出現的原因在于算法作用于政府治理可能產生的正負外部性間存在的結構性張力。事實上,承認算法對于政府治理的正外部性,即從效率、效益角度強調算法以遠勝于人腦的技術優勢賦能公共組織,提高公共決策效率,提升公共服務質量,更好實現公共福祉;而承認算法在政府治理中的負外部性,更多是看到了算法的權力內核,強調公共部門要秉持公共性,善用技術權力,以算法驅動公共價值實現,旨在從價值層面強調平等、民主、責任等公共價值對于政府治理的重要意義?？梢?無論是作為技術的算法,還是作為權力的算法;無論是從效率角度還是從價值層面來說,算法的正負外部性是一體兩面的,統一于公共價值實現。那么,應該如何調節二者間的結構張力,在充分發揮技術效益的同時反制技術濫用,實現公共價值最大化目標?本文嘗試從“技術—權力—規則”三個維度搭建研究算法嵌入政府治理的分析框架,探索算法技術賦能政府治理的價值意蘊與運作邏輯,同時聚焦算法權力作用于政府治理可能帶來的風險與挑戰,細化未來算法嵌入政府治理的實踐進路。

二、算法嵌入政府治理:“技術—權力—規則”的解釋框架

“算法”最初始的含義即為一種計算機科學技術,通過“邏輯+控制”[10]系統將輸入的數據轉化為編碼程序,經由確定的計算過程形成切實可行的問題解決方案,在實踐中以自動化、智能化邏輯輔助決策,此為算法的淺層表征。同時,由于算法具有構建規則、執行規則的能力,在運行過程中的算法不斷突破自身技術邊界,嘗試與諸社會領域加深融合,憑借技術優勢逐漸形成了達成目的和獲得利益的能力,并不斷編織起以技術為核心的權力網絡,最終具備了自主分配社會資源的權力。此外,從制度化角度看,隨著智能技術不斷更新迭代,算法的開發者、測試者賦予算法以運行邏輯,而算法憑借自主學習能力和預測能力不斷調適、修正網絡空間的制度供給,構建起對技術權力的約束框架,因而算法也作為制度化的規則而存在?；谶@一邏輯,作為技術的算法、作為權力的算法以及作為規則的算法統一作用于網絡空間,持續性地對整個社會產生影響。因而,以“技術—權力—規則”框架(見圖1)分析算法嵌入政府治理具有現實意義。

圖1 “技術—權力—規則”解釋框架

(一)“技術—權力—規則”的運作邏輯與場景呈現

1.作為技術的算法塑造了智慧化公共決策場景,促進政府治理提質增效

在萬物互聯的今天,社會公眾已然習慣于在互聯網平臺獲取自身渴望關注的社會各領域信息資訊,而在平臺上點擊閱讀、點贊轉發、評論褒貶之間,每個人的“數字足跡”已被各種搜索引擎記錄,公眾通過網絡行為反映出的對某一個或某一類社會問題的關注實際上就在向政府傳遞重要的公共問題數據信息,而算法能夠對海量、動態、多元的網絡數據行為進行分布式并行信息處理[12],通過清洗、篩選、挖掘各信息要素之間的相關關系,將眾多孤立個體的“數字足跡”編織成社會整體的“數字網絡”,刻畫出社會公眾普遍關注的公共議題版圖,并通過大數據賦值規則評定每一公共議題重要程度,判別社會公眾對美好生活的需求熱點,據此積極主動作為,使公共決策更加符合百姓期望。此后,在對初步設計好的公共政策進行科學論證時,也可以基于公民基本信息數據庫,利用算法數據畫像技術將初步設定的政策動議推送給相關利益群體,并及時收集聚類相關反饋信息,為進一步調整、修正公共政策問題解決方案提供參考依據。與之相適應,在實踐中,算法依據不同的計算模型切實為輔助公共決策助益。比如,北大方正技術研究所設計研發的“方正智思輿情監測系統”廣泛收集社會公民包括性別年齡、工作經歷、教育背景等方面的數據信息,對海量數據進行篩選和歸類,按邏輯相關原則將可能具有相似公共服務需求的公民納入同一服務單元,繪制出服務需求熱點動態圖譜,持續追蹤不同群體的訴求變化,整體把控社會公眾需求,使政府行政真正做到想民之所想、辦民之所需、行民之所盼。

同時,作為技術的算法不僅能夠助力識別公共政策問題,還能夠對一些公共政策問題進行輔助回應。算法技術能夠根據公共決策需要,對海量數據迅速進行自動追蹤、抓取、聚類和整理,通過程序規則將經過處理的數據信息轉化為算法程序的底層代碼和計算單元,并模擬人腦思維對數據建模生成公共決策的虛擬化樣態,在虛擬樣態中推演底層代碼與計算單元之間的動態演化過程,經過自動化的深度學習進行修正更新,最終形成一套標準化的問題解決程序,為公共部門制定決策提供科學依據。因此,從理論上說,作為技術的算法搭建起了數據信息與政府行政之間的邏輯計算關系,將公共部門決策轉化為基于信息資源高效供給的標準化作業程序,有效降低了非結構化公共問題的復雜性和不確定性,提升了政府行政的精準性和高效性?；诖诉壿?在實踐中,算法也被廣泛寄望于智慧城市、社會保障、基礎設施管理等諸多政府治理領域,不斷創設出更智慧、更便捷、更高效的公共服務新場景。例如,當前算法技術已嵌入中國各級地方政府的政務網站建設中,從公民登錄政務服務平臺起,前端算法已經在詳細記錄用戶的個人信息和服務訴求,并通過調取移動設備后臺信息不斷搜索完善用戶的個人信息庫。隨后,基于政務服務信息數據庫,根據預先設定好的規則程序對公民訴求進行自動識別與回應。如遇算法程序難以界定的問題,算法則會歸納判別各類訴求的責任主體并生成任務窗格,再將不同的任務窗格分配給相應的責任部門進行集中處理。由此,算法借助制式化的規則程序實現了海量訴求與政府責任部門相銜接,把公共部門從瑣碎的信息分析處理中解放出來,促進公共服務效率提升。

2.算法技術在與政府治理不斷加深聯結的過程中也逐漸衍生出權力屬性

算法以社會各領域大數據的抓取和收集為基礎,通過挖掘非結構性數據要素間的聯系,以程序化規則探求非結構化問題的決策最優解,以此對公共部門決策行為進行引導和控制。在此基礎上,通過強大的自主學習和預測能力,對不同的社會治理場景進行感知和探測,形成更加主動的算法運作邏輯,依附于公共部門掌握的公共權力,不斷將權力觸角伸向更廣闊的社會生活領域。由此,算法已不僅僅代表新技術手段,還逐漸表現出了權力屬性。作為權力的算法在加速嵌入政府治理的過程中表現出重要特征。一是技術驅動性。隨著人工智能技術的不斷發展,算法對公共事務的學習、感知、預測能力不斷強化,憑借技術優勢輔助政府公共決策并逐漸與政府治權相結合,形成了對社會資源進行調配控制的能力,因而作為權力的算法本質上具有技術驅動性。二是場景虛擬性。算法權力意志實質上是經建構的代碼規則和數據秩序的體現,具有很強的虛擬性,在其憑借技術優勢進入公共決策場域后,能夠主動搭建數字空間與現實場景間交融互構關系,皈依有形的公共權力主體,隱蔽于代碼規則和數據秩序之中,因而算法權力具有場景虛擬性。三是動態擴散性。數據資源是算法權力運作的核心,由于數據資源具有高度的動態性、共享性、交互性,能夠在不同權力主體間流動和轉化,算法權力也因此具備動態性擴散的能力,使得政府治理呈現一定程度的“多元化”結構特征。在實踐中,作為權力的算法在政府治理場域也發揮著重要作用,為多元化公共服務場景賦能。比如,在金融科技監管領域,基于算法權力中心的“監管沙盒”已在北京、上海、廣東、江蘇、浙江等10余個省市應用試點?！氨O管沙盒”運作的核心是算法程序基于預先收集好的數據信息,在一定測試空間內模擬金融業現實市場環境,通過研究聚合多模態數據與市場風險間的關系,自主劃定需要金融監管部門介入的風險管控閾值,允許在真實的市場環境中適當放寬監管規定,企業在一定風險限度內可以自主創新產品、服務和商業模式,縮減對創新的限制和約束。當前,“沙盒監管”已在消費金融、小微信貸、智能風控等領域正式推行,以算法規則和程序更有效地平衡了政府監管與企業創新之間的關系。類似地,杭州市“城市大腦”依托阿里云的“飛天”算法模型,將人、車、房、?；返戎伟不A要素與治安風險防控相聯結,構建“在線警務”服務系統,發現風險可在5分鐘內判別,形成了對城市風險的全局感知、精準處置?？梢?作為權力的算法已形成針對不同政務服務場景的感知、預測和決策能力,這使得機械的算法邏輯轉變為動態的行為規劃,形成了新的權力運行模式。

3.作為規則的算法以程序規范化設計引導、約束公權力行使

算法作為一套數字空間的規則組合,包括正式和非正式的制度供給[13]。正式制度供給意為經算法推導的公共部門自動化決策的邏輯程序完全透明,在邏輯規則的控制下,從數據輸入到建立數據聯結再到輸出公共決策,整個流程都以算法意志為意志、以算法規則為規則,以透明公開的程序實現對人為裁量的替代;非正式制度供給則是指算法設計者在設定算法規則時隱含的個人潛在意志的集合,是社會價值判斷與技術工具理性的統一。作為規則的算法在政府治理中具有以下優勢:第一,算法明確了數字空間的規則,劃定了行政主體權力作用的界限,有助于保證公共決策公正性,減少權力僭越的可能;第二,行政主體的潛在意志、社會的倫理秩序也被包含在算法規則之中,使算法治理在保證工具理性的同時尊重價值理性,在雙向平衡中實現治理效能的提升。為此,作為規則的算法在實踐中也為規范政府公權力行使助力。在行政監督領域,通過對公務人員的資產申報情況、銀行流水明細等數據進行分析,聚合個人政治生活軌跡,測算腐敗高發點與風險值,據此對公務人員腐敗行為進行識別,把公權力關進算法規則的籠子里,提高對腐敗行為的治理效率,維護公共部門公信力。在行政審批領域,深圳市的“秒批”工作方案,利用智能算法模擬人腦結構,通過算法系統自動審核申請對象提交的材料并進行相關信息比對,從而提升審批效率、約束權力運作、保證審批公正性。此外,作為規則的算法還被廣泛運用于智慧城市建設、精準扶貧、治安管理等領域,通過預先設定的算法程序精準描繪服務對象的數字畫像,規范權力行使。

因此,作為技術的算法、作為權力的算法以及作為規則的算法統一作用于數字空間,在與政府治理不斷加深融合的過程中持續性地作用于社會生活,對社會治理的各領域產生積極影響。

(二)算法嵌入政府治理的價值意蘊

1.算法技術推動公共決策更具理性

算法技術通過數據聚合繪制社會熱點動態圖譜,明確治理對象的精準訴求,精確化識別公共問題,推動公共問題快速進入政府議程,并通過機器算法推演生成理性、科學的決策模型,助力政府決策。因而,作為技術的算法能夠推動政府治理更具理性。第一,信息是治理的基礎,算法技術提高了對海量信息進行清洗、篩選、聚類的效率,能夠快速精準建立數據間的聯結,為公共部門科學決策提供依據。第二,從治理過程而言,算法以規范化代碼復刻行政決策的程序,生成輔助公共治理主體決策的科學化決策方案,并根據現實情況自動反饋和調試,利于科學制定治理方案,合理分配治理資源,提升政府治理效能。第三,從治理能力看,算法憑借全天候自動化、即時性的工作能力,能夠在一定程度上替代傳統上需要大量人工才能完成的瑣粹而重復的經濟技術分析工作,精簡政府機構和工作人員,顯著降低治理成本,提升治理效率。

2.算法權力促進治理行為更具包容性

隨著算法技術與政府治理的聯結不斷加深,算法逐漸成為一種技術性權力,促進了政府治理行為更具包容性。首先,算法具有多元的信息獲取渠道和強大的程序運算能力,能夠精準分析治理對象的服務需求和治理環境狀況,從源頭保證決策依據更具包容性、廣泛性,規避傳統政府決策因數據信息不足造成的決策失靈問題。其次,算法在廣泛抓取社會各領域數據信息時,實際上也在與治理對象進行著潛在互動,通過數據反饋與收集保障社會各主體意志能夠被表現和反映,以算法、數據與公共部門進行的對話一定程度上保證了公民平等參與權。再次,在算法服務場景內,基于算法邏輯形成的應用服務能夠輻射更廣范圍的治理對象,使社會各主體能夠有機會平等享受更友好、更普惠的公共服務。

3.算法規則推動政府治理更加公平

數字空間的算法技術在與公共部門加深聯結的過程中逐漸形成算法權力,影響著公共部門決策,而算法權力通過持續自主學習搭建形成一套程序規范化的設計體系,通過策略規范反制公共部門行政,規范公權力行使,使政府治理更加公平。第一,算法程序明確、規則透明,在實踐中公共權力依照算法程序規定的方向運作,公共權力涉及的事務界限也由預先設定好的算法劃定,有利于規范權力主體的行政行為,增強公權力運行的公正透明性。第二,算法規則能夠突破時間、地點的限制對權力主體行使權力的全過程做追蹤記錄,使公共部門行為真正“有跡可循”,無形之中強化了對公共主體的監督和約束,保障社會資源合理有效配置,強化決策公平性;此外,如若社會主體對政府決策公平性提出質疑,公共部門也能夠因循算法邏輯對決策進行解釋,強化政府公信力。第三,依賴算法技術的自動反饋和預測機制,公共部門能夠及時發掘潛藏的治理風險,并及時做出理性化決策規避風險,從而降低風險外溢的可能性,保障公共行政效力。第四,算法規則具有包容、透明的屬性,有利于多元社會主體在協同治理過程中參與監督和反饋,強化了社會信任機制,密切了社會公眾與政府間的聯結。

三、算法嵌入政府治理的風險與挑戰

算法技術、算法權力以及算法規則統一作用于數字空間,推動公共決策更具理性,促進治理行為更具包容性,促使政府治理更加公平,提升了社會治理整體智慧化、精準化水平。但是,不可否認的是,現階段算法嵌入中國政府治理仍面臨著某些現實風險與挑戰。

(一)算法技術黑箱阻滯公共責任認定

從技術層面而言,智能算法發揮作用的前提在于技術邏輯的有效性。算法技術穩定運行首先需要海量大數據作支撐,其次需要強大的數據處理能力作保障,還要整合相關數據信息,依據運算規則在各信息要素間精準建立正確的相關關系,最后結合預先設定的運算法則輸出決策結果,以此輔助公共決策。在這一過程中,一方面,算法邏輯雖遵循機器理性,但算法程序畢竟由人設計,程序設計優劣在很大程度上受制于設計者的知識水平,一旦設計者有所疏漏,算法程序運作將發生不可預測的偏差;另一方面,即使設計者知識水平較高,具備算法設計所必須的技能,但社會環境因素也在不斷發生動態變化,很難在設計之初全面預測社會問題可能發生的未來變化,因而即使是經過精準測算的算法模型也難與動態變化的社會問題完全適配,導致算法失誤[14]。實踐中,由于各種因素導致的算法失誤已屢見不鮮,比如在美國司法實踐中就曾出現法院利用COMPAS算法技術分析當事人的數字畫像輔助進行司法判定,結果在對案件回溯的過程中發現算法模型多次給出與事實完全相反的判決依據。當算法模型為公共部門提供了錯誤的決策判斷,公共部門又依據算法指示不假思索地執行時,必定會對社會各領域造成一系列負面影響。對錯誤決策進行追責毋庸置疑,但關鍵問題在于,當公共部門決策失誤是由算法技術導致時,追責的對象到底是算法設計工程師、提供算法程序的私主體,還是相關的公共部門?回顧算法發揮作用的機制,由于算法技術能夠進行主動學習和預測,因而即使是最杰出的算法工程師也只能知道最初設定的算法程序,無法完全清楚從輸入數據到產出決策間的程序機制,這就導致了“算法黑箱”[15]。有了“算法黑箱”的存在,當公共部門決策出現失誤,公權力主體能夠將責任推諉于提供算法的私主體,而私主體又能以“黑箱”作為理由逃避審查、敷衍塞責。如此一來,不斷延伸的卸責鏈條導致問責高高舉起又輕輕放下,好似沒有任何一方權力主體應該為算法導致的公共決策失誤買單。因此,由于“算法黑箱”的客觀存在,當政府治理逐漸依賴算法技術,如何對決策選擇后果進行責任界定以及如何對決策選擇行為追責問責,將成為亟待解決的現實問題。

(二)算法權力削弱政府與民眾自主性

從權力層面而言,作為治理權力的算法存在被私人資本俘獲的風險,突出表現在以下兩個方面。一是在現代算法社會,算法核心技術邏輯仍由商業資本掌握,商業公司以巨額資金投入廣納技術人才,強化數據平臺建設,將算法核心技術牢牢掌握在手中,并能夠以商業秘密為由拒絕技術公開,隱蔽搭建專屬的算法技術生態網絡[2],壟斷對數據等治理資源的支配能力。由于現階段主要通過簽約外包的方式將算法引入政府治理,而私部門憑借技術優勢能夠對公共部門的部分監督、審查加以規避,因而隨著算法嵌入政府治理的程度不斷加深,掌握算法核心技術的逐利性商業機構還會想方設法進一步擴大自主權限,最終使公權力淪為為私人牟利的機器。二是算法所具備的優越的算力優勢和自主預測能力使其在多數服務場景下做出的決策都要優于人腦,在治理環境日趨復雜的今天,公共部門為減少決策失誤越來越依賴和信任算法給出的自動化決策結果,這也為逐利的商業資本介入公權力運行場域提供了契機。一旦公權力被私部門俘獲,政府權力行使的正當性和合法性將被質疑,政府不得不面對信任危機,社會公共利益也存在被商業利益蠶食的風險。此外,倘若公權力被私部門俘獲,商業資本將更為狂熱地發展算法核心技術優勢,以便更進一步延展在社會治理領域內的權力,謀求壟斷地位,將有可能造成政府和公眾在社會治理中的主體地位逐步被削弱:在算法社會,為實現與社會公眾間的持續高效溝通,除傳統溝通協商渠道外,公共部門往往也會借助算法應用程序廣泛收集并回應民意,在這一過程中公民的普遍意志被轉化為數字化的社會要素以一行代碼、幾串數字的形式直接輸入算法模型之中;而算法模型本身在信息獲取、數據轉化、結果輸出任一環節都有可能沉淀著設計者自覺或不自覺的主觀意識,這就使得經算法程序投射出的民意數據易出現損耗、膨脹或是收縮,呈現出的結果也可能傾向于對私部門有利的一面,誘使商業資本更進一步利用技術優勢延展對社會治理的影響,一定程度上削弱了政府和民眾自主性。綜上,從算法技術的潛力來看,掌握核心算法的私部門與政府部門分享公權力的可能性客觀存在,要在發揮技術潛能的同時對算法權力進行限制和約束,以此確保公共利益切實實現。

(三)算法規則偏好導致治理正義性減損

在理想狀態下,作為規則的算法能夠對公權力進行約束,將權力關進“代碼”的籠子,保障權力公允有序運行,實現政府治理的公平正義。但同樣不可忽視的是,雖然依照算法邏輯得出的決策結果能夠實現相對公平,但算法規則本身不具備天生的中立性,隱藏著對社會正義性的挑戰:在政府決策過程中,算法實質上充當了“信息守門員”的角色,政府依靠智能算法識別抓取公共問題信息流中的關鍵要素,基于算法程序繪制公共議題版圖,以此輔助政府決定問題解決的優先次序。換而言之,大多數公共問題都是經由算法程序分析篩選后以“清單”形式呈現在決策者眼前的,算法在遞送相關信息時能夠決定哪些利益訴求會得到決策者的優先處理,哪些公共問題只能被放在次要位置解決。在這一過程中,數據選取的指標、數據賦值的原則以及數據清洗的方法等都是人為設定的,如果算法程序被設計者的潛在偏好所裹挾,那么算法決策得出的結果必然帶有偏見性、非代表性,輔助形成的公共決策也將帶有系統性的歧視。不僅如此,如果算法設計者想要將某種偏好選擇不斷進行復制,算法在不斷學習優化的過程中也已經具備了成熟的技術手段能夠對相關政策法律進行規制,這勢必會造成對相應數據主體的歧視和傷害,導致治理正義性的減損。比如,美國Northpointe公司基于算法技術設計的犯罪風險評估系統對黑人二次犯罪的風險評分是白人的兩倍。然而,在對典型案例進行不斷追蹤調查后發現,白人群體二次犯罪的概率與黑人幾乎不存在差別,算法對公共決策公正性的影響可見一斑。更為嚴重的是,算法憑借極強的技術理性使得社會逐步衍生出“算法崇拜”[16],人們在進行行動選擇時往往傾向于自動化、程序化的算法決策,缺少對算法決策結果的反思意識,導致算法程序內部可能潛藏的偏見很難被發掘,即使在實踐中因算法偏見造成了不公正的決策,人們也會為尋求所謂“科學客觀”努力為算法“開脫”,而不會向算法溯源。因此,算法技術不具備必然的中立性,設計測算過程中容易夾雜設計者主觀偏見,政府在將算法技術納入治理視域時也要警惕其對社會正義造成的沖擊。

四、算法嵌入政府治理的實踐進路

(一)推進技術適度透明化,明晰責任關系鏈條

要解決“算法技術黑箱”導致公私部門形成卸責鏈條、各方權力主體推諉塞責、決策失誤無人買單的現實困境,就要著力打開算法“黑箱”,推進算法技術適度透明化,明晰責任關系鏈條,使相關主體切實負起責任。

第一,政府部門制定完善相關法律法規,明確要求商業資本向社會公開算法設計理念、數據信息來源、數據篩選機制等內容,同時要求提供算法技術的平臺對公眾提出的質疑進行及時解釋和回應,打破“算法黑箱”,保障算法機制公平正義。在此基礎上,為促進商業資本與政府治理更有效協同,政府部門也有義務在要求算法公開的同時保守技術公司商業機密,允許其在豁免公開算法范圍內的有限例外。

第二,在算法公開的基礎上,建立統一的算法監管機制也十分必要。為進一步規范算法技術在政府治理中的作用路徑,公共部門應當設置專業化監管機構負責動態監管商業資本提供的算法設計準則、算法運作模型、算法價值規范等內容,并且在算法形成的結果運用于公共政策之前,積極利用風險監測等技術手段審查其決策正當性、論證充分性和價值適當性。當前,國際上通用的價值敏感設計方法(VSD)能夠通過數據代碼監測目標算法所遵照的價值準則,并計算對不同價值觀念賦值的權重優先級,如若發現目標算法存在價值偏離,能夠自動修正或停止不符合基本倫理規范的程序,保障算法決策最大程度符合社會公共價值,從源頭預防算法“黑箱”的產生。

第三,要實現對算法技術的有效約束、把控算法運行邏輯,社會組織的力量也應得到重視。社會組織作為第三方機構,超脫于政府部門和商業資本之外,能夠對算法運行全流程進行更客觀、更細致的監督,對算法的社會影響進行更多維度的審視,打破算法治理中的信息不對稱,協助破除算法“黑箱”。

第四,在此基礎上更重要的是對算法技術背后所涉及各相關權力主體的責任范圍做出明確劃定,培育治理主體的責任意識,依法向相關商業算法平臺開展追責,倒逼私權力主體明確責任承擔內容,切實對算法結果負起責任。具體而言,在算法平臺內部要保證責任到人,可設置專崗對數據維護、平臺建設、模型運作等各方面的情況進行監測,對算法程序形成的決策樣態予以審核,當算法出現異常操作時即刻采取人工干預,強制修改或者暫停相關服務,保障決策權限始終掌握在高素質人才手中;對于商業資本惡意篡改數據信息、恣意套取用戶個人信息以及隨意更改模型邏輯等行為更要嚴格追責,以硬性制度手段規范商業資本,保障公共權力正義性的發揮。

第五,就社會心理層面而言,社會各界要進一步強化對算法的正確認識。一方面,應擯棄對算法的盲目欣賞,理性看待算法推送的決策結果,避免過分信任算法而產生的自動化偏見。社會對算法自動化決策的信任度極高,這種信任從本質上說是由于社會對算法技術的“無知”而形成的盲目信任,缺乏對其決策結果的反思意識,導致算法程序內部可能潛藏的風險很難被發掘,影響社會治理效能發揮。另一方面,也不應抱有算法厭惡情緒,而要理性接納算法,更好地發揮智能技術為政府治理帶來的有利影響。算法厭惡一定程度上源于算法技術的不透明性,由于社會大眾與算法的接觸歷史很短,加之算法技術的不完全公開、不完全透明,使得某些情況下即使算法推薦決策優于人類,但人們仍然不愿意接納算法系統。

因此,在政府治理實踐中,迫切需要對算法技術“祛魅”,可以集合科學技術專家、高?？蒲性核戎菐炝α?客觀討論算法的價值目標與技術局限,科學評議其可能帶來的積極效益與風險后果,以此作為公共部門參考決策的依據,最大程度發揮算法技術對政府治理的積極價值。

(二)規范算法權力運作,堅持人本主義治理理念

在算法嵌入政府治理的實踐中,“算法依賴”容易導致政府權力被商業機構俘獲,這不僅對政府權力行使的正當性和合法性產生了挑戰,也使得公共利益面臨被商業利益蠶食的風險。隨著新興技術手段融入社會治理的程度不斷深化,對智能技術顛覆“人機關系”的討論越發引起關注,作為權力的算法在一定程度上已經能夠實現對多元社會治理情境的“全景敞視”式監管[8],可能會使得人類在社會治理中的主導地位逐漸弱化,導致技術理性對人類價值的僭越,因此智能化時代如何保證政府和社會公眾在社會治理中的主體地位,規范算法權力運作成為需要引起關注的問題。

一是要進一步完善算法權力治理機制,由政府主導建立總體治理框架,明確政府對算法治理的主體責任,從促進算法數據公開透明、算法運作邏輯公正客觀、算法作用主體一視同仁等方面建立全流程風險防控機制;同時,綜合運用多元化規制工具,比如算法影響評估、算法審計等[11],對算法自動化決策的全流程進行二次分析檢視,及時識別和糾正自動化決策產生的漏洞,規避算法技術可能為政府治理帶來的風險挑戰。此外,縱觀中國算法治理實踐,公共服務智能化轉型所必需的絕大部分核心技術研發主要由商業資本主導,算法模型即使在運行過程中也需要企業提供技術支持以維持治理系統的正常運轉,這為商業資本權力恣意擴張提供了空間,更為政府治理的技術安全性帶來了隱患。為進一步發揮算法技術在政府治理中的核心優勢,保障政府治理的絕對安全,相關部門也要加大對新興技術的重視程度,統籌調動國內科研院所和各大高校的力量,打造政府內部核心技術智庫,打通各部門、各層級之間的數據壁壘,將算法核心技術更多掌握在公權力手中,減少對商業資本的依賴,確保政府數字化、智能化治理的技術安全。

二是從價值理念層面而言,要在算法技術嵌入政府治理的整體性過程中時刻堅持“人類中心主義”的價值準繩,堅持人本主義治理理念。一方面,始終堅持公共管理者在政府治理中的主導地位,不斷強化政府治理場域中“人機協同發展”理念。算法價值與人類理性、算法技術與政府治理并不是截然對立的,而是互補的、統一的、協同發展的,算法技術能夠推動政府治理提質增效,因而在政府治理中更要發揮技術優勢,把機器擅長的交由機器,并適時對其加以約束和規制,在防止技術僭越的同時促進技術自身不斷發展完善,這樣一來,算法技術與政府治理間也就形成了雙向互動,以人類價值理性驅動算法技術理性發展。另一方面,在運用算法技術發展政府治理實踐中打造“人機協同、線上線下”的服務模式,避免“一刀切”的數字化轉型,針對老年人、殘疾人等技術弱勢群體也要保留人工服務窗口,以滿足不同社會群體多元化的公共服務需求,切實增進人民群眾的幸福感和獲得感。同時,持續創新數字化公共服務供給模式,充分發揮算法技術對信息聚集的優勢,引導社會公眾通過自下而上的參與機制充分表達自身需求,并與自上而下的數字技術供給有效結合,及時、主動地公開涉及群眾切身利益的服務信息,保障群眾知情權并自覺接受群眾的監督,增進政府與人民間的信任,促進“數字紅利”更充分涌流?？傊?公共部門需秉持“以人民為中心”的服務理念規范算法權力運作,提升政府治理的質量與水平。

(三)明確算法規則決策限度,強化治理正義性

由于算法規則本身不具備天生的中立性,在嵌入政府治理的過程中可能隱藏著對社會正義的挑戰。為解決這一問題,需要進一步明確算法規則決策限度,細化技術介入政府治理場域的范圍和邊界,完善算法應用清單制度,明晰在哪些政府服務場域內可以借助算法進行決策、哪些治理場域絕對禁止算法涉足,為保障公權力有序運行構建安全過濾屏障。

一是要明確算法技術應用的相關法律依據,完善政府治理過程中使用大數據、云計算、智能算法等技術的制度和標準體系,明確規定被運用于政府治理的算法技術必須具備清晰的計算邏輯、合理的裁量區間、明確的價值指向以及可預見的決策結果等,以完善的法律法規對技術進行規制。

二是要劃定算法規則決策的權限,明確算法技術在政府治理場域的決策限度?？梢砸罁h境的復雜性和不確定性程度對各項治理事務加以區分:當面臨高復雜性、高不確定性的公共問題時,可借助智能算法技術輔助公共決策,此時需要在工作人員的全程監督和參與之下,由機器算法自主地對數據進行收集、歸納并建構相應決策模型,通過精準測算產出政策結果。這一過程中算法應用者能夠主動監測算法規則運作方向,對算法決策和預設結果加以比對和控制,保證復雜應用場景下既能發揮算法技術決策優勢,又能使決策結果不偏離公共價值準則;而當政府面對低復雜性、低不確定性公共事務,比如要對海量數據信息進行清洗、歸類和整合時,則由算法自動化決策充分發揮工具價值,提高公共部門整合處理信息的能力,將公務人員從瑣碎的簡單工作中解脫出來,提升公共行政的效率。

三是要對算法清單進行及時更新和調整,以更好發揮新興技術手段對政府治理的積極價值。隨著智能技術不斷更新迭代,智能算法的便捷性、效率性以及安全性都不斷得到提升,算法嵌入社會治理也已是大勢所趨,當多元化的算法技術模型隨著實踐發展變得更具理性,算法清單也應隨之調整完善,使得更多安全可靠的技術應用方案能夠為政府治理賦能,推動公共行政智能化、智慧化發展,同時促進政府、市場和社會協同增效。

五、結語

智能算法作為當下的技術熱點正成為國家治理現代化過程中的重要驅動力,推動政府治理朝著智慧化樣態不斷邁進。作為技術的算法、作為權力的算法以及作為規則的算法統一作用于數字空間,在理想狀態下能夠實現政府治理的理性、包容性和公平性。然而在實踐中,政府在運用算法提升治理效能的同時,也存有公共責任難以劃定、政府與民眾自主性被削弱、治理正義性減損等風險。要清醒地認識到算法嵌入政府治理既是人工智能技術的擴展,亦是社會治理效能的延伸,不能因為未來可能出現技術負外部性就摒棄算法,而要在智能技術和政府治理的雙向互動間尋求平衡,最大程度發揮算法技術優勢以期更好地賦能政府治理。因此,需要始終堅持把增進公共福祉作為治理的終極價值,從推進算法技術適度透明化、規范算法權力運作、明確算法規則決策限度等方面尋求推進算法更有效地嵌入治理的實踐進路。當然,對算法嵌入政府治理進路的探索不能一勞永逸,隨著治理實踐的進一步發展,也要提出更具動態性、精細化和系統化的方案,為進一步推動政府治理現代化助力。