人與算法的關系：從規訓、控制到自主性

舒暢

摘要：在關于算法治理的討論中，人與算法的關系常被忽視。在強調算法對數字社會發展的強大力量時，需要將算法對個體的規訓塑造以及控制監控納入分析視野，揭示算法對社會個體進行支配的宏觀機制。還需要在培養人們的算法素養和提升算法意識的過程中，激活自主性、重新定位人在算法系統的自主權，并在實踐過程利用好算法的工具性、拓展親密關系，通過對算法的抵抗性策略來推進人與算法關系的平衡。

關鍵詞：算法系統 規訓與控制 自主性

進入數字社會，算法無處不在，基于數據庫、大數據和云計算等技術的普遍應用，人們日常生活中的工作、學習、消費、交往、游戲、娛樂與健康等都被算法軟件構成的數字設備和數字平臺所中介、增強、生產和監管。由算法技術所構成的算法機器和算法文化力量，正通過社會和個體的毛細血管以一種隱蔽和強大的力量，影響著個體的思維與觀念，支配和塑造個體與生活相關的決策。在人與算法的關系上，一方面基于技術和算法基礎設施的作用，個體成為被算法規訓和控制的對象，但這也容易忽略個體能動性。在重新定位人與算法的關系時，需要納入自主性維度，關注個體在算法社會的自我改變和算法游戲中的平衡和駕馭。

一、算法系統對個體的規訓塑造

被稱為第四次工業革命的人工智能技術，給社會經濟生活帶來革命性變化。算法作為一種嵌入的、通常是不可見的技術基礎設施，不僅改造著整個生產、分配、交換與消費環節，而且在微觀領域對個體的社會生活有著較為明顯的規訓。

1.重組社會個體生活。在批判性地思考人與算法關系時，一個不容忽視的問題就是數據驅動的算法系統已經滲透到了經濟、政府和文化部門，并將各類社會個體內化吸納到算法平臺的生態之中，并逐漸轉變為混合形式的平臺社會。作為技術可供性，算法加速了數字社會的鏈接性、可編程性、交互性和協作性，進一步整合了網絡結構，加劇了社會組織模式向網絡化轉型的進程。在社會結構層面，由于社會圍繞信息進行組織，數字平臺中算法成為組織社會的方式之一。

對于個體來說，在政治方面人的權力得到極大的解放。算法平臺的個性化推薦與內容生產，賦予了“無名者”自由表達的權力。這種改變打破了傳統信息媒體基礎設施和技術的監管控制，從而旨在建立一個支持、普惠、安全、知情、公民參與和更加包容的平臺社區。在經濟方面，算法系統讓人們越來越多地處于一個“無處不在的商業”環境?；跀祿涗?、存儲、交換、處理、分類和解釋，個體的流量域、位置域和關系域構成了算法對消費者日常信息和決策的自動化處理。智能手機、平板電腦都可以即時性地生成購物清單、被推薦相關興趣產品，并充當移動支付錢包。銷售平臺則依靠數據庫和算法技術，記錄消費者的檢索、偏好、消費記錄，從而將其概念化為“永遠在線”的主體，將其置于不受時空限制的隱藏的市場之中。在個體的日常生活中，算法扮演著核心角色。個體不但被算法中介，還由算法來決策，更重要的是算法所呈現的高度個性化的內容，正在以中介形式將人們呈現給自己。

2.量化指標體系的規范。在?？驴磥?，規訓是一種把個人既視為操練對象又視為操練工具的權力的特殊技術。這種權力謙恭而多疑，是一種精心計算、持久運作的機制。算法技術，包含對數據的組織、控制、計算等一系列操作，其中每一個環節都離不開量化的指標體系。在這些碎片化和具體的實踐、技術和機制中可以總結出一套完整的權力機制——規訓權力。理解算法規訓權力的關鍵就在于，這一套量化指標體系形成和積累了個體實踐的運作工具、觀察方法、動作程序、思維認知。也就是說，通過這套量化指標體系的運作，它生產了平臺算法系統的規范、知識和微妙的權力。

這表明，從人與算法的關系上來說，量化的指標體系是平臺各行動者獲得可見性、拓展關系以及通過勞動獲得資本的指南；但同時量化指標體系是對個體的約束、引導和懲罰的機制，還是將平臺參與者組織為有效生產力的重要力量。例如，內容平臺中“10萬+”的閱讀、轉發和點贊，文章和視頻的原創度、活躍度、互動頻率、停留時間、展現數量等一系列量化指標，都是基于算法的運作。上述可見性指標在數據上越顯著，就會獲得更多流量，也就會被推薦給更多的用戶。在這種量化的流量指標下，平臺創作者在參與“趕流量游戲”中被反復操練，成為平臺的算法勞動大軍。

3.算法培養了個體的慣習和依賴。伊尼斯通過對加拿大太平洋鐵路的經濟和文化歷史的研究，認識到了交通技術和基礎設施對于空間管理和經濟與文化發展的重要意義。通過工業產能擴張的推動，鐵路塑造了當時人們的商業思維、行為慣習和依賴。而在平臺中，人們的慣習與算法技術也存在著相互規訓的關系。一方面，主體的慣習既在客觀結構化的環境中生產，是對個體或集體的生活史身體化和內在化；同時也會在既有的客觀實踐中主動形成具體的創意性的慣習行動，并在行動中將慣習外在化。這意味著主體的慣習與特定的生活環境、教育程度、所在階層、社會經驗，以及成長環境密切相關，同時也會將這些歷史化的內容外化在日常的行動之中，表現為品味、喜好、消費需求及生活風格。當進入算法社會，既有的慣習會影響著個體在算法平臺的興趣偏好、群體認同、消費傾向等行為實踐。因慣習的差異，導致人們在算法社會形成不同的區隔和文化分層。其中，趣緣群體和粉絲圈層就是其中的外在表征之一。另一方面，人的慣習具有能動性和生產性，它可以被新的客觀環境即場域所重新塑造。個體的既有慣習所產生的行為實踐，如點擊、分享、閱讀、搜索、購買等均被采集為數據，并建立數據庫。通過動態的數據庫與靜態的個體人口學統計數據，算法在對個體進行畫像的過程中，依靠算法自動分析并預測和推薦新的內容和消費產品。

二、算法系統中的監視與中介協調

在人與算法的關系中，算法的規訓將個體塑造為馴順而有用的、符合平臺生產力需要的勞動者；人則在規訓過程中適應算法的環境，并利用自身人力資本同時實現再技能化。然而，在對個體進行規訓之外，算法系統還通過超視距監視、技術調節和時間控制等戰略來實現對人的治理。

1.算法系統的全景監視與治理。數字社會因將個人從時間和地點的限制中解放出來而被稱贊，但也被批評為將人重新引入了一種數據提取的監控資本主義。身處其中的人們，工作時間和休閑時間、工作空間和休閑空間的邊界日益模糊，其生活、工作、消費、娛樂，甚至是內心世界，已經變得數字化和算法化。算法系統，實施監控的目標是將現實總體化為數據顯示，始終可訪問、始終可知且可變，并通過大數據預測和影響人類行為以產生收入和市場的控制。今天的算法監控資本主義的本質是平臺企業與用戶之間商業關系的個性化調整。當平臺被視為個人的、行為有機體的集合，那么算法就可以通過自動化計算來大規模治理個性化的用戶，例如在營銷上可以快速調整產品格式、定價、內容、渠道等。

算法社會，許多技術都可以遠距離運行，大多數人甚至不知道平臺和資本行為者進行的大規模監控。在這種監視活動中，人類所有的經驗都可以被稱為免費的原材料，可以轉化為行為數據。隨著平臺公司尋求將人們生活的方方面面轉化為最具預測性的行為數據，這些監控活動的范圍和領域呈指數級增長。監視資本主義的原則和實踐體現了算法治理的光譜邏輯，它從生活中抽象出來并將人們引導到經濟循環中。

2.算法系統的中介協調。在算法系統中個體從登陸平臺那一刻開始就被數字化和代碼化，表現為分體和虛體。人們在算法平臺中活動都需要由算法來中介協調，無論是需求、偏好、興趣，還是消費檢索，都離不開算法的運算。尤其在零工經濟平臺中，通過算法中介方式管理和控制工作關系，包括分配任務和監控各方之間的交流、任務的執行等。

需要指出的是，在平臺中人與算法之間存在著信息和權力的不對稱。算法作為控制的中介系統，它的“黑匣子”特征決定了用戶無法了解算法控制運作的關鍵信息和基本邏輯。用戶在使用的過程中，同樣無法訪問系統算法的核心架構，更無從參與到算法程序之中。正是基于越來越不受控制的算法權力，國家互聯網信息辦公室聯合有關部門發布了《互聯網信息服務算法推薦管理規定》，該規定要求算法推薦服務提供者要促進算法應用向上向善，充分體現了以人民為中心的發展思想，構建負責任的平臺算法。

三、算法系統中人的自主性維度

在人與算法的關系中，人們應該享有自主權，即人們在算法平臺中有對其各方面活動或工作進行自主控制的自由。然而算法的“黑匣子”式自動計算以及無處不在的監控，降低了人們的自主性。對此，研究者提出了“算法主動主義”來抵消算法的控制，其中學者薩沃萊寧和魯肯斯坦提出了人與算法關系中的自主維度，即工具性和親密性。但在這兩個維度中缺乏了一個關鍵的部分，那就是參與算法系統中的行動者的自我調適與抵抗。

1.充分利用算法的工具性。在抖音、美團、快手等平臺中，它們均前所未有地以算法驅動的體驗為中心。在面對人與算法關系時，由于控制和支配的存在，選擇逃避或者拒絕使用平臺，那將會導致人們的學習、工作、生活和交往無法高質量進行，而且容易與數字化社會脫嵌和斷連?；诖?，人們需要思考應該如何與算法系統一起生活，以及利用算法系統人們能做什么等。

回答這一系列問題，需要基于算法的可供性充分利用平臺的算法，發揮其工具性特征。對于算法設計者來說，需要走向以人為本的設計理念，發揮算法在社會各領域的積極作用。對于平臺使用者尤其是內容平臺的創作者來說，算法是一個賦能工具。創作者可以利用這一工具屬性，實現在內容平臺中工作的再技能化，發展出新的經濟資本、文化資本和象征資本。例如，一批批返鄉青年利用短視頻平臺，以智能手機為新農具，實現了在自我創業過程中帶動當地鄉村致富。從工具性的維度上來說，自主性就體現為對平臺算法情境的掌握，鼓勵算法參與者合理設計與利用算法。尤其對于邊緣群體來說，算法的賦權和普惠機制，可以幫助他們在平臺重新獲得可見性，解決自身問題并充分激活創新能力，從而積累人力資本。

2.培養親密感擴展社交關系。工具性突出了在算法實踐中的審慎、理想和目標導向，進而以符合人的需要的方式構建個人自主與算法發展的框架。自主性的親密維度則強調了在算法實踐中個人的人格、情感和社會關系等層面，即通過平臺的算法與其他參與行動者建立親密關系、獲得情感支持、尋求歸屬感以及拓展社交關系等。自主性的親密感維度，打破了日常生活中算法作為冷冰冰的技術程序和控制機器的認知，解釋了算法也會產生和增強親密關系，為個體創造“傾聽”的“安全空間”。

抖音、快手等平臺短視頻和直播業務的發展，可以培養人的歸屬感和親密感，還可以促進人們在媒介使用過程中獲得自我呈現的愉悅。此外，平臺提供的內容貨幣化和產品營銷等功能，可以推動用戶或創作者在獲得親密關系的過程中實現經濟收益上的增加。從這個意義上來說，盡管平臺的算法監控給用戶和創作者帶來權力的不平等，但在處理與算法的關系上更多是與用戶使用平臺的個人目的有關。對于一個普通用戶來說，對平臺算法應該做什么或不應該做什么的期望，構建了他們如何與平臺算法交互的基本感知。

3.通過自我調適和抵抗獲得自主性。在算法勞動過程中，勞動者采取“游戲”“灌水”“刷流量”“利用漏洞”等方式，進化出“勞動算法”等能動性算法行動主義尋求在控制中重新獲得自主權。例如，網約車司機在日常工作中用策略與系統進行博弈，包括停用GPS抵制算法系統、用手投票切換到其他平臺、取消訂單以避免負面乘客的評分。這些研究發現表明，在算法加強對平臺使用者的算法控制過程中，人們也逐漸開始覺醒。

一方面，平臺使用者的評判性算法素養在提升，能夠從價值、監視、話語修辭等角度了解算法功能以及這些功能對日常生活的影響；另一方面，平臺使用者算法意識不斷提高，逐漸認識到算法系統現在作為數字基礎設施的一部分在社會各領域發揮著普遍的作用，深入了解其運作流程及算法決策強制執行的潛在破壞性；此外，平臺用戶在使用過程中并不總是算法被動的觀察者和控制對象，他們越來越認識到自己在塑造算法運作中所扮演的角色，即算法提升或降級的價值是由算法與用戶之間復雜的相互作用形成的。平臺用戶在算法規訓和控制過程中的覺醒，促使他們開始以政治、商業或娛樂的方式對算法進行調試、干預和抵制。

四、結語

通常來說，算法構成了支撐社會生活結構“技術無意識”的一部分，其運作的邏輯仍然是黑箱的和難以追蹤和質疑的。這就導致在嵌入權力的算法系統中，人們難以通過傳統手段來對抗算法霸權，人們處于算法的規訓和控制之下。對此，應該重新檢查人與算法的關系，即明確一個觀念：與算法研究用戶行為以促進商業利益一樣，用戶研究算法行為是為了促進自己的利益。人們需要在算法治理中重新獲得自主性，要關注到抵制、顛覆和違反算法工作的實踐，鼓勵人們在了解算法、提升算法意識的基礎上，在實踐中利用算法基礎設施并塑造算法邏輯。

作者單位 華中科技大學

參考文獻

[1]藍江.從規訓社會，到控制社會，再到算法社會——數字時代對德勒茲的《控制社會后記》的超-解讀[J].文化藝術研究，2021（04）.

[2]張萌.從規訓到控制：算法社會的技術幽靈與底層戰術[J].國際新聞界，2022（01）.

[3]Mcguigan， L.， Manzerolle， V. “all the worlds a shopping cart”： theorizing the political economy of ubiquitous media and markets[J].New Media & Society，2015（17）.

[4]Savolainen，L.，Ruckenstein， M. Dimensions of autonomy in human-algorithm relations[J].New Media & Society，2022（06）.

【編輯：朱垚穎】