算法的權力和權力的算法

陳 鵬

(安徽師范大學 法學院,安徽 蕪湖241002； 華東政法大學 政治學與公共管理學院,上海201620)

國家是人類社會發展到一定歷史階段的產物,實現國家和社會的有序治理是政治權力配置和運行的基本目標。長期以來,政府一直居于國家治理體系的中心地位。伴隨移動互聯技術的快速發展、大數據的興起和人工智能技術的日漸成熟,人類的交往方式和生存形式發生著劇烈變革,我們正步入算法時代[1]214。算法時代的到來,使得深度學習算法在國家治理和社會治理中的應用場景不斷拓展,正在對延續千年之久的由政府權力主導的國家治理格局產生重大影響,一種與政府權力并行的權力形式——算法權力正迅速崛起。算法的應用在很大程度上推動著國家治理體系的漸趨完善和治理能力的不斷提升,但也給政府在國家治理體系中的中心地位帶來強烈的沖擊,擁有算法和數據優勢的巨型企業有成為“超級政府”的可能[2]。如何利用好權力的算法來規制算法的權力,已經成為算法時代國家治理必須要面對的現實問題。

1 算法權力：一種新型的權力形態

有關權力問題的探究,通常會與政治聯系起來,政治權力、國家權力、政府權力等都屬于權力的范疇。伴隨經濟全球化浪潮的不斷演進,資本權力作為一種新的權力形式開始在全球空間范圍內不斷地進行資源和要素的配置,完成了對全球空間的生產和再生產,民族國家的主權受到資本很大的沖擊,全球治理秩序發生著深刻變革。在資本權力與民族國家主權的博弈過程中,資本權力雖日漸強盛,但仍面臨民族國家法律和現有以聯合國為中心的國際組織和國際法等構成的國際治理秩序的規制,尚不能構成對民族國家主權的顛覆性沖擊。但是,伴隨深度學習算法的突破、大數據時代的來臨和計算機算力的飛躍,人類社會逐漸步入到以數據和算法為兩大基石的人工智能時代。人工智能簡稱AI,是英文Artificial Intelligence 的縮寫,具有類似于人類的獨立思考與深度學習的能力是人工智能與其他科技最大的差異[3]。當前,作為人工智能兩大基石之一的算法正日漸成為新的權力形式,算法的權力推動著傳統政府治理模式發生著積極的變革,政府權力與資本權力博弈的格局也開始出現微妙的變化。

算法是一個計算機學科領域的概念,用來指代人類設計出的用于完成某項特定任務的計算機指令,是“一種有限、確定、有效并適合用計算機程序來實現的解決問題的方法,是計算機科學的基礎”[4]6。在人工智能時代,數據成為重要的蘊藏著巨大價值的戰略資源,算法決定了人工智能技術平臺應用的深度和功效,政府權力的運行已經在很大程度上依賴于算法的研發和運用,部分掌握了人工智能核心算法和海量數據的資本開始擁有了相對于政府的明顯的技術優勢,算法權力開始逐漸成型并在國家治理中發揮著愈發重要的功效。算法權力是一種人工智能技術平臺的控制者,憑借自身擁有的算法技術優勢而在人工智能應用過程中產生的對政府、社會組織和公民個人等對象的技術權力。通過此項權力,算法權力的擁有者可以以較為隱蔽的技術手段來比較輕易地實現其想要達到的目標。算法權力在實際應用過程中的具體表象是政府、社會組織和公民個人在決策和行為等方面對算法的深度依賴。目前,算法權力作為一種新型的權力形式,尚未完全被學界接納,但這不妨礙我們對其內涵和特征進行探討。

第一,算法權力是一種技術權力。權力與權利是相對應的,面對行政國家的興起,如何規制政府日益擴張的權力,保障公民的權利成為國家治理的重要任務。政府權力之所以具有強制性,除了具備一定程度的合法性外,警察、法院、軍隊等對不服從政府權力的群體和個人構成了強大的威懾力。算法權力與政府權力不同,它本身不一定具備法律、法規等法律規范賦予的合法性,也缺乏警察、法院、軍隊等暴力機關作為后盾,不具備政府權力擁有的天然強制性。從權力屬性來說,算法權力作為權力的新形態,是一種技術權力,這種權力雖不具備天然的強制性,但是隨著政府、社會組織、企業和公民個體等對其應用的依賴程度不斷加深,算法逐漸擁有了對政府、社會組織、企業和公民個體等對象的某種技術上的強制力,算法權力的擁有者可以憑借這種技術權力來完成對特定對象的控制。同時,隨著人工智能技術應用領域的拓展和深化,算法擁有的這種技術上的強制力不但不會減弱,反而會不斷增強,并且會呈現出權力向少數主體集聚的態勢。如果核心算法技術僅僅被少數幾家企業掌握,那么就可能會出現部分學者擔心的算法獨裁的問題[5]。

第二,算法權力包含算法本身的權力和數據的權力。其中算法是主權力,數據屬于附屬權力。算法、數據和算力是人工智能的基本構成要素。進入21 世紀后,深度學習算法的突破、大數據時代的到來和具備強大計算能力的計算機系統的出現,使得人工智能技術在經濟社會發展和政府治理的各個領域的應用前景被打開,“人類正在進入一切皆可計算的時代”[6]323,算法權力隨之日漸凸顯。但是,離開了大數據和具備強大計算功能的計算機,算法權力也將難以體現。因此,算法權力從內容上來說應該包括兩個部分：算法本身的權力和數據的權力?！按髷祿侵复罅?、多元、高速、復雜、多變的數據,需要用先進的計算方法和技術實現信息的采集、存儲、分析和應用”[7]。大數據時代的到來改變著人類的交往方式,“在廣大浩瀚的宇宙中,數字化生存能使每個人變得更容易接近,讓弱小孤寂者也能發出他們的心聲”[8]55。在現實生活中,我們每時每刻都在生產著數據,例如我們隨身攜帶的穿戴設備會將我們身體的心跳、行動軌跡等數據實時地傳遞到各類應用平臺,并存儲在云端。在大數據時代,“大數據掌控者們借助越來越智能化的算法分析和利用著我們的數據,開發著靠數據化的人類經驗喂養的人工智能產品,在為我們的生活提供越來越多便利的同時影響著我們的選擇和決策,并在此過程中積累起日益膨脹的財富、技術和人力資源”[9]。但是,孤立的數據是雜亂的,本身并沒有什么價值,只有經過算法的深度挖掘,數據的價值才會顯現。因此,數據的權力是附屬于算法權力的,掌握了大量數據的主體如果沒有掌握核心算法,也是難以獲得和利用算法權力的。

第三,算法權力的表面行使者和算法權力的真正擁有者大多是分離的。算法權力作為一種技術權力,它主要是通過對大數據的分析和整理來利用數據的價值進而實現特定的目的。但是算法權力的表面行使者和真正的擁有者之間并非完全重合,二者在絕大多數場合下是分離的,算法的使用者通常并非是算法的研制者。表面來看,算法權力是屬于使用以特定算法作為技術支撐的人工智能技術平臺的主體,通過使用該算法可以幫助主體完成特定的任務和實現既定的目標。但實際上,算法的設計過程是封閉的,算法設計的原理也是不可解釋的。算法權力在幫助使用主體完成任務和實現目標的同時,算法的設計者和研發者已經漸漸完成了對使用者的技術占領,并且在不經意間幫助算法的設計者和研發者完成了其最初設計算法的目的和意圖。因此,算法權力的真正擁有者通常不是算法的使用者,而是算法的研發者。如果算法的使用者和算法的研發者能合二為一,對使用者來說不存在安全風險,但是如果算法的使用者并不掌握算法的設計技術,那將會對使用者的隱私、數據安全甚至是人身、財產安全構成巨大隱患,而這正是我們需要認真設計政府權力算法的必要性和緊迫性所在,要用權力的算法來規制算法的算力。同時,我們需要的不僅僅是規制算法,而且還需要規制算法的設計者,要公開算法的設計目的、設計原理和設計過程,做到算法的編制及其運行過程是透明的。

第四,算法設計者的意圖在很大程度上決定了算法權力運行的結果。算法權力運行的過程是人工智能技術平臺在接入一定的數據平臺后自動運行的過程,表面來看,其是在獨立運行的,不受任何人為的干預和影響,比政府權力的運行過程更加客觀公正,且不易受人的情感波動和價值取向的干擾。但這只是表象,“算法及其決策程序是由它們的研發者塑造的,在細節上滲透著研發者的主觀特質”[10]。一個算法在投入到人工智能技術平臺中應用之前,設計者已經完成了編制工作,設計者的利益意圖、價值取向甚至是意識形態導向等已經被植入到算法之中,算法的運行過程不僅僅是智能技術運用的過程,在其技術的背后體現的是設計者的意志,在其工具的外表下暗藏的是權力的歸屬。因此,算法在經濟和社會發展中運用的結果如何,主要取決于算法設計者的意圖。一方面可以利用算法來為政府治理和法律執行提供很好的便利。比如,人工智能的深度學習算法可以通過對法院公布的失信人在網上的消費記錄進行跟蹤,來判定其所在的地理位置及相關賬戶交易信息,據此法院可以隨時凍結失信人的銀行賬戶并限制其在部分平臺的交易行為,從而達到強制執行的目的。另一方面可以利用智能算法來從事一些不太正當或者不道德的營利行為,例如,現在社會中已經出現的“大數據殺熟”問題,實際上數據是沒有生命力的,不會對熟客有什么不當行為,殺熟的正是操控算法的設計者或使用者,他們通過算法對特定消費群體消費數據的分析結果,可以準確地判定其消費偏好,然后對其進行有針對性的消費欺詐。

2 算法的權力：算法權力在政府治理中的擴張

隨著算法研發技術的不斷演進,算法在生產、生活中的應用空間不斷拓展,算法已經成為人工智能機器的核心技術,人工智能機器自身具備的算法的先進程度決定了其功能發揮的程度。機器學習算法的過程被稱為機器學習,按照其發展的階段可以分為監督學習、半監督學習和深度學習等類型。其中,深度學習算法是一種基于多層神經網絡技術的高級機器學習算法。深度學習算法的出現,推動了機器學習算法的巨大變革,加速了弱人工智能向強人工智能時代轉變的進程。深度學習不同于一般的監督學習和半監督學習,機器可以依據一定的數據,通過多層神經網絡技術來不斷地嘗試各種可以達到特定目標的參數設置,直到實現目標為止。同時,算法權力的發揮需要數據的支撐。雖然“人不是數據,更不是電子痕跡的匯總,但技術正在使數據得到處理和整合,形成各種各樣的自動化區分、評分、排序和決策,這些活動反過來使我們的‘真實自我’在社會層面變得無關緊要。我們進入所謂‘微粒社會’,我們都成為數據,并最終成為被算法所定義的人。算法權力(algorithmic power)這種新興的權力并不把我們當成‘主體’來對待,而是作為可計算、可預測、可控制的客體”[9]。目前,人類社會數據化的存在狀態正給算法的權力以充分的發揮空間。

2.1 算法營造公眾輿論的權力

由于新聞輿論在監督政府運行、塑造公共政策議程、推動政府行為變革和利益團體之間的利益博弈等方面的重要影響力,被習慣性稱為“第四權力”。鑒于新聞輿論的重要性,各政黨和利益團體都非常重視對新聞媒體發揮積極影響并希望對其施以有效控制,利用新聞輿論營造對自身有利的公眾輿論已經成為政黨贏得競選和利益團體期望政府出臺對其有利的公共政策的重要手段。在傳統媒體時代,要掌握輿論的主動,要營造對自身有利的公共輿論,掌握必要的媒體資源是基本的前提。進入移動互聯網時代后,自媒體愈加發達,每個人都成為信息發布的平臺,QQ、微信、微博、客戶端等媒介隨時可以向外界推送信息,一個政黨或利益團體越來越難以通過控制媒體來達到有利于自身的公共輿論營造的目的。但是,一些擁有人工智能技術優勢的企業可以通過自身設計的算法來完成特定輿論的營造任務。為了達到營造公眾輿論的目的,擁有先進深度學習算法的人工智能技術平臺,可以從海量的大數據中有效提取特定的目標群體,然后將編制好的信息和帶有鮮明導向的評論向這些目標群體進行定點定時的推送,這樣就可以在較短時間內激發社會公眾對于某個新聞事件的關注,進而達到營造公共輿論的目的。

同時,進入到移動互聯網時代后,人類的閱讀習慣已經發生了徹底的變化,各種微信公眾號和新聞客戶端等推送的文章、新聞成為人們閱讀的主要內容。長期閱讀相似的信息內容,會對一個人的價值觀和思維認知產生很大影響。當前,人類在閱讀內容的選擇上看似是自由的,實際上只是在微信公眾號和新聞客戶端推送的信息中做出有限的選擇而已。而向誰推送、何時推送、推送什么信息內容的背后都潛藏著算法的軌跡,算法已經在很大程度上擁有了改變和固化人們思維、營造新聞輿論的權力,“憑借垂直領域開放平臺的接口或平臺授權,算法在龐大的數據支持下精確迅捷地抓取、生成、發布和推送資訊,最終實現對新聞內容生產環節和分發環節的再造和變革”[11]。

2.2 算法主導政策議程的權力

制定公共政策是政府的權力和職責,也是政府管理和控制經濟、社會等領域的重要手段。在傳統的公共政策議程中,政府作為政策主體在社會問題的感知、社會問題向政策問題的轉化和政策問題的界定等環節上具有完全的主導地位,政策方案通常也是由行政首長依據一定的價值判斷和基于一定的利益考量做出選擇的結果。隨著移動互聯時代的到來以及云存儲和云計算技術的突破,人類的存在和交往形式正逐漸數據化,我們日常的行為和交往記錄被以各種各樣的圖片、運行軌跡、數字、文字、音頻、視頻等數據形式存儲下來,社會每天產生的數據量以驚人的速度增長,為深度學習算法的不斷演進提供了強大的學習素材。通過“對這些數據進行系統地加工并且正確地闡釋,使得人們可以通過這些數據對個人或者群體及其行為進行深入的推斷”[12]9,算法主導公共政策議程的權力也隨之不斷增強,公共政策的制定權正逐漸“從人手中轉移到算法手中”[13]197。

政策問題是公共政策議程的起點,“決定哪些問題成為政策問題,甚至比決定這些問題的解決辦法更為重要”[14]28。政策制定以政策問題的有效識別和準確界定為前提,而與政策問題相關的數據和信息的獲取程度對政策問題的界定非常關鍵。具備深度學習功能的人工智能技術平臺,可以通過對數據的智能提取和分析,給政策主體提供其想要獲取的信息,作為對社會問題感知和將哪些社會問題轉變為政策問題的依據。在政策方案的設計和選擇環節,人工智能技術平臺提供了各種政策備選方案以及對各種方案的成本、收益的估算分析,給政策制定主體選擇方案提供了重要的參考,人工智能算法在政策制定中的功能正愈發強大。目前,“不少國外企業已經搭建完成了人工智能底層模塊,這個模塊類似于智能手機的操作系統,任何應用和計算都基于底層模塊而產生。這些企業會伴隨使用底層模塊應用的增多而獲取大量數據,這些數據不僅限于一個國家或一個區域,而可能是全球性的,企業完全可以利用這些數據做利于企業自身甚至本國政府的事情,從而成為跨越國界的超級‘政府’”[2]。

隨著人工智能算法在政策制定中的功效的日漸凸顯,政策制定主體對人工智能的認知也由傳統的運用人工智能輔助決策轉變為依賴人工智能決策,決策主體與人工智能算法在公共政策議程中的角色正發生著深刻的變革。政策制定主體對人工智能技術的依賴程度越深,人工智能算法主導公共政策議程的權力就愈發凸顯,只是算法權力在公共政策議程中的強勢支配地位比較隱蔽罷了。表面上看,政策制定主體的領導和工作人員控制著公共政策制定的全過程,實際上他們的決策大多是依據人工智能算法的運行結果來作為依據的,而那些設計和掌握人工智能核心算法的企業正成為算法權力的擁有者和支配者,特別是那些算法優勢明顯的超級企業。因此,與傳統權力不一樣,算法權力的運行過程看似公開透明,但由于算法設計過程是封閉的且充分體現了算法設計者的利益意圖和價值判定標準,因而人類對算法權力的規制和監管要比對政府權力的監督更加復雜而艱難。在算法時代,可以說誰“掌握了數據就意味著掌握了資本和財富,掌握了算法就意味著掌握了話語權和規制權”[15]。

2.3 算法控制政策執行的權力

由于受到政府行政編制、行政運行經費和工作時間有限以及政策執行環節較多等多種因素的限制,政策執行者在目標群體的篩選和精準識別、不同群體的具體特征和特殊情況的掌握等方面存在信息不完全的困境,政策執行效果隨之受到很大影響。大數據時代的到來和深度學習算法的不斷成熟,為人工智能在政策執行領域中的深度應用提供了可能。在政府治理實踐中,各級政府可以“通過人工智能,可以有效識別行政流程中的冗余環節,并以遠超人力的形式形成公文流轉過程,從而提高整個政府內部的行政流程效率”[16]。

人工智能技術在政策執行環節中的深度應用,在有效提升政策執行績效的同時也引發了政府部門及其工作人員對人工智能技術的依賴問題,很多政策執行環節已經部分或者完全交由人工智能技術平臺來完成,越來越多的政策執行主體及其工作人員已經將人工智能技術平臺作為政策執行的主要依靠工具。目前,越來越多的地方政府已經或正在聯合人工智能技術供應商開發各種類型的智能政務平臺,這些平臺的核心技術就是算法,而支撐這些平臺有效運行的算法絕大多數是由少數大企業掌握的。同時,在平臺運行過程中大企業也獲得了許多單位價值密度較高的政務數據,數據優勢和算法優勢的疊加更加強化了企業的技術優勢,政府對算法的依賴程度更深。例如,浙江省杭州市聯合阿里巴巴公司發布的城市大腦系統。該系統通過阿里云開發的視頻識別算法,使城市大腦能夠感知復雜道路下車輛的運行軌跡,準確率達99%以上,在此基礎上城市大腦可在一個虛擬的數字城市中構建算法模型,通過機器學習不斷迭代優化,計算出更“聰明”的方案[17]。

與傳統的技術手段在政府治理中扮演的輔助決策和輔助執行角色不同,人工智能技術在政府治理中的深度應用已經使人與技術手段的關系發生反轉,人是技術的主體變成了人成為技術指令的接受者,技術開始成為人類的主宰。算法是人工智能技術的基石之一,向人類下達指令的人工智能算法是由特定的技術主體研發的,因此,人工智能技術平臺的研發者也是真正意義上的指令下達者,他們已經在一定程度上成為政府權力的實際擁有者。例如,城市大腦系統在投入使用后,實現了城市交通管理的智能化,但是交警也成為阿里云視頻識別算法的指揮對象,政策執行主體變成了算法權力的執行者。

2.4 算法影響政策績效評估的權力

政策績效評估是公共政策議程的關鍵環節之一,是政策績效評估主體依據一定的公共政策績效評估標準和評估指標,運用一定的評估方法和手段,對特定的公共政策執行后的業績和效果進行評估的過程和結果。政策績效評估是衡量政策制定質量和政策執行水平的重要指標,執行績效相關數據的收集和客觀公正的評價是做好政策績效評估的關鍵。傳統的政策績效評估,由于依據的是有限的數據和主觀選擇的樣本,加之政策績效評估主體的認知局限,使得評估主體難以做到對政策績效進行精準的評估。而進入大數據和人工智能時代后,政策制定和政策執行的過程及其結果以數據化的狀態呈現出來,深度學習算法可以有效地識別與績效評估指標相關的數據,并據此作出較為準確的評估結果。人工智能技術在政策績效評估環節的應用,大幅提高了政策績效評估的效率和評估結果的準確性。目前,我國很多地方政府已經開始依靠人工智能技術平臺來監控和評價政府部門及其工作人員的行為績效。

算法作為計算機程序之一,也存在隱蔽性的特征?！岸囗椦芯烤@示,軟件產品具有隱蔽性的特征,特定的權力結構、價值觀和意識形態已經事先被嵌入其中?！盵11]在人工智能介入政策績效評估的過程中,存在一定程度的黑箱操作的可能。由于算法的編制基本上是由企業在封閉的環境下獨立完成的,大多數算法是不可解釋的,政府及其相關部門無法掌握算法設計者的意圖和設計原理,因此依據人工智能系統來進行政策績效評估也就存在黑箱操作的可能性,看似公正的政策績效評估結果的背后可能隱藏著特定的利益訴求和價值偏好。如果政府部門將政策績效評估的工作完全交由人工智能系統來完成的話,研發算法的企業無疑將成為政策績效評估權力的真正擁有者。

作為一種新型的權力形態,算法權力的出現及其發展,對于現代國家治理來說既是機遇也是挑戰。從國家與社會的關系來看,算法權力給傳統上由政府主導的國家治理秩序帶來了沖擊,使得人類找到了一種利用技術來防止國家權力被濫用、抑制國家公職人員利用權力進行腐敗并控制國家機器的有效路徑,有利于提升公權力運行的透明度。但同時,算法權力的背后也潛藏著資本的力量,資本對算法技術的壟斷及其在數據處理和應用上的優勢,正在助推資本對國家權力優勢的形成,這也正是我們對于算法權力要保持高度警惕的原因所在。

3 權力的算法：用權力的算法來規制算法的權力

先進的技術是一把雙刃劍,“技術上最偉大的勝利與最大的災難幾乎并列”[18]16。人工智能技術應用場景的不斷拓展,“徹底改變了人際交往機制,社會政治力量之間的關系潛藏在數據、算法之后,新型關系模式沖擊著權力結構邊界、權利行動的范圍以及原有的社會規范”[19]。算法權力作為一種新型的權力形態,其技術性的表象隱藏了權力的強制性特征,導致算法權力在國家政治生活和經濟社會發展中的擴張不易被人察覺。而正是在這種背景下,算法權力正在逐步建構起技術權力對政治權力的優勢,使得傳統的由政府權力建構的治理秩序面臨深刻的變革?！凹夹g在政治的、軍事的領域中與技術在經濟生產領域中具有明顯的相似之處,它像經濟上的工具和機器一樣具體和物質”[20]45,技術的擁有者和使用者有利用技術對既有的政治秩序發起沖擊的能力和可能。目前,擁有算法和數據優勢的人工智能企業“是否對國家治理構成挑戰,關鍵不在于一個組織是否有意愿成為超國家組織,而在于其是否有能力成為超國家組織。如‘劍橋分析’等一些大型互聯網企業,由于掌握了海量數據,對民眾的影響力甚至比普通國家機器還要大。公司、社會組織、非營利組織等非政府玩家,掌握過多數據,將會形成不對稱權力,或將對國家和社會治理構成挑戰”[2]。面對算法的權力,一方面我們不能因其導致的現實和潛藏的風險就束縛其發展,另一方面也不能放松對算法權力給國家治理秩序可能帶來的沖擊的警惕,用權力的算法來規制算法的權力,是主權國家和政府面對算法權力不斷擴張的必由之路。

權力的算法是指在算法時代決定權力運行方式和主導權力運行過程的算法。權力的算法包括權力算法的設計和權力算法的運行兩個方面。伴隨人工智能技術的日漸成熟和算法時代的到來,政府治理模式正發生著深刻的變革,智能治理作為一種新型的治理形態正日漸成熟[21]。在智能治理時代,政府權力運行的算法化趨勢不斷強化,政府治理實際上就是政府通過算法來實施治理。政府權力的算法不同于一般企業研發的商業用途的算法,政府權力算法的設計不僅要著眼于提高行政效率,也要注重多元價值的平衡,體現出公平公正性。因此,在權力算法的設計方面,面對由少數超級企業主導的算法權力及其可能給主權國家治理秩序帶來的隱憂,政府要主導權力算法的設計標準和設計過程。同時,在權力算法的運行方面,針對政府治理日益由人工智能算法主導的趨勢,政府要通過構建由其主導的智能政務系統、大數據系統、透明化的算法運行機制和人工智能自我終結機制等來確保其在智能治理時代國家治理體系中的主導地位,以有效地防范、控制和化解算法權力給政府權力運行帶來的各種現實的和潛在的風險。

3.1 政府主導智能政務系統核心算法的標準制定和研發過程

人工智能時代的到來,權力技術化特征日漸明顯,數據和算法成為不同主體之間競爭和博弈的核心籌碼,誰掌握了海量精準并實時更新的數據、誰擁有強大的算法研發能力,誰就能在權力的角逐中贏得優勢并取得勝利。從目前人工智能技術發展的現狀來看,政府在數據和算法上都不占優勢。相形之下,少數互聯網巨頭企業憑借其開發的用戶量巨大的社交、消費、工作和學習等應用平臺,可以很輕松且免費地獲取海量的數據信息,然后再通過其自身研發的深度學習算法完成對數據價值的深度挖掘和最大程度的利用,進而樹立起對政府權力的技術優勢。目前,我國各級政府正在大力推動利用智能政務平臺來處理政務,不見面審批等已成為現實。智能政務平臺的利用在方便民眾辦事、降低行政運行成本和提高行政效率的同時,也使得政府與民眾的面對面交流越來越少,政府對設計算法的企業的技術依賴程度越來越深。我國現有的智能政務平臺基本上都是由少數幾家大企業提供的,政府獨立研發的很少。為此,我們需要抓緊推動政府信息主管部門與國有控股的信息技術企業等主體之間的技術合作,建立起由政府掌握的算法設計和研發機構,確保核心智能政務系統的算法由政府自身掌握,打破政府對少數企業的算法依賴,保證智能政務平臺運行的安全。同時,“政府需加快發展包括算法和數據分析在內的多項技術,增強自身使用人工智能進行分析和決策的能力,使政府在人工智能領域處于領導地位”[2]。

3.2 建立由政府主導的國家大數據系統

算法權力作為技術性權力形態,其作用的發揮需要一定的數據作為支撐。在人工智能時代,“隨著大數據技術的不斷演進和應用持續深化,以數據為核心的大數據產業生態正在加速構建”[22]。近些年來,我國各級政府非常重視大數據的應用,并積極推動大數據產業的發展。為此,國務院于2015年8月專門出臺了《國務院關于印發促進大數據發展行動綱要的通知》(國發〔2015〕50 號),為今后很長一段時期內我國大數據產業的發展指明了方向。與此同時,我國的很多地方政府也成立了專門的大數據管理機構,截至2018年1月底,全國至少已有10 多個省份成立了超20 家地市級以上的大數據管理機構[23]。數據權力是算法權力的附屬權力,也是算法權力的重要支撐,離開了大數據的供給,再先進的人工智能算法也因沒有訓練素材而導致機器功能難以有效提升,算法的權力將無法表現出來。目前,從全社會數據的分配格局來看,政府雖然掌握了主要的數據,但是由于政府“不同部門的數據儲存在不同地方,格式也不一樣,這就使得數據整合起來出現困難”[24],政府掌握的數據的價值并沒有充分發揮出來。在人工智能時代,面對已經擁有一定數據存儲和處理技術優勢的大企業,在大數據存儲和處理技術上處于弱勢地位的政府應該努力掌握大數據的主導權,以實現有效防范算法獨裁風險和引導人工智能技術積極發展的目的。目前,“我們正走進包含著大數據的時代,大數據已經開始影響我們社會生產和生活的各個方面,然而,與這個時代相適應的真正的大數據思維尚未建立”[25]。為此,我們需要抓緊建立由政府統計部門和大數據管理機構共同主導的國家大數據系統,統一大數據的統計口徑、傳遞方式和提取使用標準,各智能應用平臺運行過程中產生的數據要與國家大數據系統進行有效對接,確保全社會數據的互聯和共享。當前,“面對大數據對個人隱私潛在的威脅,我們必須重視智能革命時代隱私權的保護”[26],而國家大數據系統的建立,一方面可以有效推動數據價值得到最大程度的發揮,另一方面使得政府也可以有效監控各平臺企業對數據的提取和利用情況,防止數據霸權的出現,從而實現有效抑制算法權力的目的。

3.3 建立透明化的算法運行機制來破除算法黑箱

算法權力與傳統政府權力不同,政府權力從法理上來源于人民的賦權,人民的同意和認可是政府權力獲得并使合法性得以維系的前提,其自身的運行存在內部自律和外部監督機制的規制,對權力運行有效性的考量以及官員連任和晉升的壓力構成了政府權力運行的內在約束機制。政府權力的行使者必須要積極回應社會公眾的關切,推動透明政府、回應性政府建設。而算法權力作為一種技術權力,是一種事實性的存在,本身不存在權力的合法性和有效性的問題。由于算法的設計過程是不透明的,算法設計充分體現了算法設計者的意圖和目的,算法的研發過程中存在黑箱操作的空間和可能,人們在很大程度上只能被動接受算法運行的結果。例如,美國學者的研究結果表明,在對特定群體犯罪風險的評估上,算法傾向于認定黑人犯罪的風險要高于白人[27]。正是因為算法設計存在黑箱運作的風險,國家需要加強對算法研制方面的立法,加大有關推動算法可解釋性的政策供給力度,增加算法的可解釋性,確保算法設計回應社會的關切和民眾的需求,建立透明化的算法運行機制,讓“那些對結果抱有懷疑的人可以掀開‘引擎蓋子’看個究竟”[28]262。同時,國家也需要大力推動擁有核心算法優勢的算法研制企業開源自己的人工智能算法平臺,盡可能降低算法領域的技術壁壘,推動算法技術的共享,有效抑制算法獨裁的空間,讓更多的主體可以分享到人工智能技術應用帶來的福利。

3.4 建立人工智能自我終結機制來防范由算法運行帶來的公共安全風險

伴隨算法時代的到來,算法等“新技術重塑著‘國家—社會’關系,在新技術環境下,巨大的‘利維坦’與更多新人群、新組織、新社會力量的關系,將變得陌生起來,社會權力的無序運行對國家政治安全施加了嚴峻考驗”[29]。特別是深度學習算法的出現和不斷成熟,在推動人工智能應用場景不斷擴大和應用程度不斷加深的同時,也給公共安全帶來很多不確定性的風險,甚至危及到整個人類的安全。部分學者認為算法的應用,有可能會在不久的將來引發“算法戰爭”[30]。雖然這種預測未必會成真,但是由于算法設計都具備一定的意圖和目的,算法運行的風險不能忽視。為此,我們需要從法律規制、倫理教育和技術規范等方面來建立和完善算法監管機制。在法律規制上,要將不危害人類生命、公共安全和不侵害公共利益作為算法設計的準則。在倫理教育上,要將不侵犯個人隱私、不違反公序良俗等作為算法設計和運行的倫理規范。在技術規范上,要引入人工智能自我終結機制,一旦人工智能算法脫離了人類掌控,將啟動人工智能自我終結程序,以確保算法運行始終處于人類可控范圍之內,將維系人類生命安全作為人工智能算法研發和應用的底線,防范算法權力對人類生存構成的威脅。

4 推動算法權力與政府權力從博弈走向融合：迎接智能治理時代的到來

算法和數據是人工智能的兩大基石。人工智能深度學習算法的突破,使得人工智能技術的發展取得了巨大變革,推動了人工智能技術從單純執行人類設計指令的弱人工智能時代向具備自主行為能力的強人工智能時代的轉變。同時,大數據時代的來臨,進一步加速了弱人工智能向強人工智能轉變的進程,使得人類社會的生產方式、生活方式和國家治理方式等發生了深刻的變革,引發了算法權力與政府權力之間的博弈。但是,我們也要看到,技術變革既可以帶給政府治理手段的創新,也可能推動治理機制的創新,最終變革政府治理范式[31]?！皣抑卫硎侨祟愑惺芬詠碜顬閺碗s的社會活動。這不僅因為國家是人類所形成的最大的正式組織結構,還因為國家治理覆蓋了國家范圍內幾乎所有的社會行為?！盵32]我們在利用權力的算法來規制算法的權力、防范和化解算法權力對政府權力帶來的沖擊的同時,也要積極適應人工智能算法發展的趨勢,積極利用算法來為國家治理服務,推動算法權力與政府權力從博弈走向融合,做好技術理性和價值理性的平衡,迎接智能治理時代的到來。

第一,積極發揮算法在政府治理中的作用,推動政府治理從傳統治理范式向智能治理范式轉變。智能治理作為一種新型的治理模式,是以擁有先進算法和強大計算能力的人工智能技術平臺為支撐,通過對大數據的提取和分析,由人工智能技術平臺來自主完成特定治理任務的治理模式[21]。其中,數據是智能治理的依據,算法是智能治理的核心,算法權力是智能治理的支撐。算法權力是一種技術形態的權力,算法權力如何行使及其引發的后果如何,取決于設計算法和實際掌握算法的主體。在政府自主研發和保障智能政務平臺算法安全的前提下,作為技術的算法本身并不會對政府權力構成沖擊,反而會對政府治理體系的完善和治理能力的提升起到很大的推動作用。目前,處于復雜社會中的現代政府,面臨的治理任務日漸增多,治理難度不斷增大,治理風險高度集聚,必須要借助于擁有深度學習算法的人工智能等技術手段來實現政府治理成本降低和政府治理能力提升的目標。因此,政府需要在保障政府權力運行安全的前提下,積極發揮算法在政府治理中的作用,推動算法權力與政府權力從博弈走向融合,推動政府治理從傳統治理范式向智能治理范式的轉變。

第二,注重技術理性和價值理性的平衡,確立政府主導和算法輔助的政府治理格局。智能治理作為一種新型的治理形態,已經在很多地方政府的治理實踐中初露端倪,智能治理時代的到來可能就在不久的未來。政府借助于先進的智能技術平臺可以大大地減輕治理的負擔,提高治理的精準性,實現精細化治理的目標。但是,伴隨具有深度學習算法的人工智能技術平臺在政府治理中應用場景的不斷拓展,政府治理對于人工智能技術的依賴性越來越大,政府的工作人員逐漸喪失了在政府治理中的主動性,治理的主體在人工智能算法面前逐漸變成了聽命于智能機器下達指令的執行者。對此,我們需要進行深刻的反思。政府治理面臨的問題不僅繁雜,而且充滿了不同主體之間價值的分歧和利益的分化,既需要先進的算法等技術手段的驅動,但更需要價值理性的指引,充分發揮政府工作人員在政府治理中的主動性和積極性。由于隱藏在算法權力的技術表象之下的是算法設計者和算法擁有者的特定的價值取向和利益訴求,將政府治理任務完全交由人工智能算法來完成不僅不現實,可能還會帶來巨大的價值分歧和利益沖突。而且,“在實踐過程中,技術治理存在著與科學技術有關的社會風險”[33]。因此,在可能會出現的智能治理時代,政府要充分發揮在智能治理中的主導權,擁有先進算法的智能機器只能是輔助政府及其工作人員進行有效治理的手段。同時,在注重技術理性的同時,也要做好價值理性的培育,做到技術理性和價值理性的平衡,確立政府主導和算法輔助的政府治理格局。

5 結語

國家治理技術的變革和創新,是國家治理能力不斷提升和治理績效持續改進的強大動力。算法時代的到來,推動著算法技術在國家治理中應用場景的不斷拓展和應用程度的不斷加深,為國家治理難度和治理成本的降低以及國家治理能力和治理水平的提升帶來了難得的契機。同時,伴隨算法技術在國家治理中嵌入程度的不斷加深,政府權力運行的技術化趨勢和治理技術運行的權力化特征相互強化,算法技術的權力特性開始凸顯。作為一種新型的權力形態,算法權力是一把雙刃劍。算法權力的出現,使得政府權力的運行更加透明,政府運行流程也更加優化,為社會提供了一個有效規制國家權力運行過程和防止國家公職人員濫用權力的技術路徑,推動著國家與社會關系發生著積極的變化。但是,我們也要清醒地看到,算法權力的背后潛藏著控制算法設計目的和主導算法運行過程的資本的影子。伴隨國家治理對算法技術依賴的日漸加深,擁有數據和算法技術優勢的資本對國家和社會的影響力和控制力不斷增強,推動著算法時代的資本與國家、資本與社會的關系發生著深刻地變革。面對日漸強勢的由資本主導的算法權力,各主權國家在積極推動利用算法技術為國家治理的能力提升和績效改進服務的同時,也要注意設計好權力的算法,從法律、技術、倫理等層面強化對算法權力及其背后的資本的規制,以確保算法嵌入下的國家治理秩序的穩定和全球治理格局的有序。