數字內容消費與科技倫理反思

■ 劉欣雨

一、數字內容消費的興起及其科技倫理困境

在推進文化產業高質量發展方面，數字文化產業建設是重要一環?！吨腥A人民共和國國民經濟和社會發展第十四個五年規劃和2035年遠景目標綱要》中提出，要實施文化產業數字化戰略，加快發展新型文化企業、文化業態、文化消費模式，壯大數字創意、網絡視聽、數字出版、數字娛樂、線上演播等產業。文化產業數字化是以數字技術為支撐，將數據作為關鍵要素，實現組織系統要素數字化升級、轉型和再造，進而重構文化產業生態的過程，其拓展了文化產業的內容形式、生產方式、傳播渠道和消費方式，豐富了受眾的體驗感和消費選擇。①參見張振鵬：《文化產業數字化的理論框架、現實邏輯與實現路徑》，《社會科學戰線》2022年第9期。其中，數字內容產品作為文化產業內容生產與服務的重要組成部分，主要指利用技術手段將文化內容進行信息化、數據化處理，覆蓋網絡游戲、動漫、軟件開發等領域，包括數字閱讀、網絡視頻、直播、數字音樂等文化新業態。

當前，數字內容消費對我國文化及相關產業增加值的貢獻率不斷提升，數字內容產品與服務幾乎涵蓋生活的方方面面，以網絡游戲、網絡視頻、網絡音樂為主的數字內容市場呈現一片繁榮景象，但隨之而來的隱私泄露、網絡暴力、數據濫用、信息安全等各種亂象也揭示了其中隱含的科技倫理困境，引發了社會的質疑。近年來，以大數據、算法為支撐的短視頻內容平臺“抖音”，就曾出現平臺主播利用AI 換臉技術招搖撞騙的情況，致使一批中老年用戶陷入騙局。除此之外，抖音通過算法而實現的精準推送也容易使用戶產生文化產品成癮問題，甚至會在用戶心理、生理、個體社會功能方面產生負面影響。①參見蘭玉坤等人：《手機成癮研究發展現狀》，《中華疾病控制雜志》2019年第11期。在此情況下，2022年3月中共中央辦公廳、國務院辦公廳印發的《關于加強科技倫理治理的意見》（以下簡稱《意見》）中明確提出：在科技高速發展的背景下，我國在科技倫理治理領域仍存在著一系列問題，難以適應科技創新高質量發展的現實需要。學界也針對人工智能、大數據、虛擬現實等技術對數字文化產業展開深入討論與分析。隨著各界開始深度探討數字內容消費中隱含的科技倫理困境，我們也需要正視數字內容消費中所面臨的科技倫理問題，更好地推動文化產業與數字經濟深度融合發展。

二、數字內容消費面臨的三種科技倫理問題

（一）算法倫理：算法偏見與信息繭房

隨著數字文化產業的發展，算法已然常見于信息匹配、人臉識別、智能推薦等數字內容服務與產品功能之中，其公平性、公正性不容忽視。而數字內容消費中的算法倫理問題主要指因算法自身因素或算法操縱而造成的算法偏見，以及智能推送帶來的“大數據殺熟”和“信息繭房”現象。

一方面，算法在生產和應用過程中不是完全客觀、中立的，它在自我學習、自我成長的過程中會不可避免地因學習對象及內容自帶偏見或因突發性錯誤造成算法偏見、歧視等問題，并且算法本身也在一定程度上受到算法工程師、設計者等生產方個人主觀經驗結論與價值觀的影響，而這種影響往往是難以察覺與定責的。在我國數字內容產品與服務消費過程中，最為常見而隱蔽的算法歧視現象之一即“大數據殺熟”，即算法利用大數據收集用戶的市場行為、瀏覽頻次、消費習慣等信息，由此對其身份進行“生客”和“熟客”的劃分，從而進行不公平的價格設置和利益宰割，損害消費者的正當權益?！按髷祿⑹臁爆F象在文化電商平臺屢禁不止，正如近年來隨著在線旅游行業蓬勃發展，線上文旅企業不斷增多，它們既是服務的提供者，同時也是電商平臺的經營者。在經濟利益的驅使下，部分文旅企業違規收集與使用用戶信息，利用商家和消費者之間的信息不對稱，針對同樣的商品和服務，對老客戶設置比新客戶更高的價格。

另一方面，在信息空前爆炸的當下，信息傳播與過濾的權利部分已經讓渡給了算法。②參見喻國明等人：《算法即權力：算法范式在新聞傳播中的權力革命》，《編輯之友》2018年第5期。種種“猜你喜歡”“智能推薦”雖然帶來了信息瀏覽的便捷化、信息傳遞的精準化以及信息收集的效率化，但同時也造成了“信息繭房”問題。在算法主導的內容分發模式下，由于渴望博取“眼球經濟”以及缺乏監管的雙重因素，網絡平臺極易為用戶推薦低俗、虛假、膚淺的劣質信息，一味地追求“流量”，迎合用戶的感官愉悅。這不僅在無形中造成了“信息繭房”，并且當過多缺乏深度的內容成為“熱點”時，還將引發整個網絡平臺的媚俗化，甚至削弱整個社會的創新創造能力。也就是說，當算法技術被低俗、獵奇、過度娛樂化的消費傾向所主導時，用戶將更容易被缺乏內涵與正確價值導向的信息所包圍，如博人眼球的標題、情緒化的文章、夸大其詞的廣告等，這同時也會導致主流信息、異質化信息以及新興原創內容的傳播質量與效率變得難以保證。2018年，“快手”和“火山小視頻”就曾因大量推送、傳播低俗不良信息而被國家互聯網信息辦公室責令進行全面整改，要求其暫停算法推薦功能。

（二）數據倫理：大數據與個人隱私

互聯網的廣泛運用使得數據日益成為企業提高自身競爭力、占據市場份額的重要資源，各類信息不斷被數據化、智能化儲存與使用，數據庫應運而生，而個人數據的隱私問題也引起了社會的廣泛關注。數據庫中的個人數據主要有以下三種來源：一是用戶自愿提供的數據，如注冊信息、用戶主動發布的數據等；二是被觀測到的數據，即用戶在使用軟件或信息設備時被記錄和觀測的數據；三是被推斷的數據，即根據用戶的各種信息所推測出的個人數據。①參見金元浦：《大數據時代個人隱私數據泄露的調研與分析報告》，《清華大學學報（哲學社會科學版）》2021年第1期。由于數據收集與儲存成本低廉，所帶來的商業價值卻十分可觀，大部分文化企業或機構都會海量收集和利用用戶個人數據，其中就包括個人的隱私信息，即使有些數據表面上并不包含敏感內容，但經過大量累積和處理之后，也將涉及個人隱私與安全問題。在數字內容消費領域，個人隱私的泄露常見于各大社交媒體與線上交易平臺。

首先，社交媒體上的個人信息愈發呈現出“公共化”的特征，即能夠對較為陌生、廣泛的對象公開，如學校信息、就業信息、家庭地址等。然而，在了解隱私安全問題的前提下，人們依舊熱衷于在小紅書、朋友圈、微博等各類平臺上分享更多的個人信息，“隱私悖論”由此產生。除了有意識的信息分享外，用戶在社交媒體與交易平臺上的每一次搜索與每一句發言都無意識地在互聯網上留下了“數字足跡”，如社交媒體上的發問、在線購物記錄、瀏覽記錄等，從而加劇了個人隱私被侵害的風險。

其次，文化企業與機構收集用戶個人數據的“知情同意”機制也在大數據時代面臨沖擊。游戲、閱讀、社交等方面的各類軟件雖然在用戶正式使用之前，都會給予相應的“隱私聲明”，但這類聲明不僅過于冗長復雜，大多數用戶并不會完全閱讀甚至理解其中的內容，往往采取直接跳過的方式。甚至在大多數軟件的使用過程中，不同意這類聲明則無法使用該軟件，用戶本身并不享有個人隱私的實際控制權。②參見范為：《大數據時代個人信息保護的路徑重構》，《環球法律評論》2016年第5期。在此情況下，個人數據安全并不能得到及時、有效的保護。2018年，社交媒體平臺Facebook 受到黑客攻擊，其間至少5000萬用戶的個人數據遭到泄露，涉及用戶位置、電話、電子郵箱等。這類數據泄露事件不僅會造成用戶個人安全隱患，更會造成社會治安隱患，如網絡詐騙、電信詐騙等。

（三）人文倫理：人工智能與“虛擬世界”

科技支持下，各類文化新業態的誕生和數字文化內容市場的繁榮也引發了人們對相關人文倫理的思考。從數字內容消費的對象來看，當下人工智能技術全方位進入數字文化內容生產領域，為文化產品數字化、智能化提供了新的動力與方向，誕生出智能向導、虛擬主播、數字偶像等新消費形式與產品服務類型。

人工智能的介入主要可以分為協同模式和獨立模式。協同模式指人工智能作為一種工具與人類一同參與到數字文化內容生產過程，以其強大的能力提高文化產品的生產效率，如影視行業的場景合成、新聞行業的AI 智能編寫、視頻平臺的智能剪輯等。而獨立模式則指人工智能通過算法和程序獨立生成藝術作品，甚至在部分領域成為數字文化內容產品的創作主體。例如，微軟公司制造的人工智能“小冰”出版了第一本真正意義上的人工智能原創詩集《陽光失了玻璃窗》，虛擬人“VIVI 子涵”學習創作水墨畫，以及牛津大學與利茲大學的科學家聯合畫廊老板艾丹.梅勒共同開發了首位機器人畫家Ai-Da。在人工智能深度介入精神文化產品生產領域的當下，我們也需要對此進行持續性反思。當其作為生產工具時，如何確保其傳播主流價值觀、如何監督企業利用AI 技術進行優質內容生產而非單純為了牟利已成為社會難題。當其作為文化產品生產主體時，人類的藝術創作主體身份也不斷遭到各界質疑。雖然在弱人工智能時代下，人工智能本身仍不具有創造力，其創作主要來自創作者的編程以及對人類以往藝術成果的參照與學習，但我們仍需把控人工智能介入藝術創作的廣度與深度，重視創意主體“人”的參與度與原創水平的提升。

從數字內容消費的主體來看。數字內容消費的升級使得消費者身份“虛擬化”成為可能。正如“元宇宙”，虛擬身份作為元宇宙的核心要素之一，使用戶可以借用互聯網中的“虛擬形象”與他人進行交互，而虛擬身份的隱匿性、匿名性以及目前仍然存在于網絡空間中的“倫理監督漏洞”將會使用戶在虛擬空間中的行動較少受到現實社會關系和規范倫理的制約，從而放大人性中的“惡”，最終對真實世界產生負面影響。近年來，網絡的匿名環境成為滋生網絡暴力的溫床，因虛擬身份濫用話語權、侵害他人隱私而造成的網絡暴力事件不在少數，為網絡空間規則和倫理治理帶來了不小的挑戰。

三、數字文化產業的科技倫理治理路徑

（一）為科技倫理治理提供制度保障

在數字內容消費治理領域，政府是唯一有能力承擔潛在倫理風險與法律責任的主體。作為整個治理體系的主要掌控者，政府要充分利用實時知識源網絡、大數據和人工智能進行治理信息的收集、整理和數據挖掘，并在此基礎上形成相應的政策規則，既對潛在的安全風險與隱患進行動態監測與精準治理，又要聚焦優質藝術內容生產，為數字內容消費的良性發展提供政策基石。①參見解學芳：《人工智能時代的文化創意產業智能化創新：范式與邊界》，《同濟大學學報（社會科學版）》2019年第1期。

宏觀上看，《意見》的發布完善了科技倫理治理的頂層設計，為我國科技倫理治理制定了基本的倫理原則及治理方向。在數字文化產業微觀層面，也需要盡快針對其中所隱含的科技倫理問題，設計相關政策及規章制度，凝聚數字文化產業科技倫理建設共識。針對大數據、人工智能等技術中存在的隱私泄露、大數據泄露、人工智能智力成果知識產權以及人工智能介入藝術創作邊界等方面的問題，完善相關法律規章制度，如個人信息保護、人工智能倫理法規等等，明確科技倫理治理的底線。正如2020年我國文化和旅游部印發的《在線旅游經營服務管理暫行規定》、2021年國家互聯網信息辦公室審議通過的《互聯網信息服務算法推薦管理規定》等，均對大數據及算法技術的利用提出了相應的治理原則與約束條件。

同時，政府也要繼續完善對數字文化產業科技倫理問題的監督框架，明晰科技倫理審查和監管職責，并通過倫理審查、行業監督、設置“黑名單”等方式，督促數字文化產業中的科技活動以及科技使用受到合理的制度約束，并就相關監管部門以及治理領域制定切實可行的監督及應對措施。

（二）發揮數字文化產業的自律作用

數字文化產業中的科技倫理治理不僅需要來自外部的約束，還需要行業發揮自律能力，引導科技向善。

其一，為科技注入倫理準則?？萍嫉陌l展需要倫理的匡正，《意見》已明確提出了“增進人類福祉、尊重生命權利、堅持公平公正、合理控制風險、保持公開透明”五大科技倫理原則。數字文化產業從業者需自覺遵守科技倫理原則，將其融入科技活動和應用過程中，并通過風險自測與評估等提升產品安全度，同時尊重用戶意愿，通過加強數據保護、善用數據等方式保護其隱私安全等，提高其對科技的信任。

其二，加快形成行業共識，發揮數字文化產業對科技產品的算法程序以及運行機制的專業知識，建設或及時更新行業中科技倫理自律組織，通過制定行業公約、進行業內審查以及宣傳最佳實踐案例等方式促進行業自律，明晰數字文化產業中技術的應用邊界和倫理責任主體，以減少潛在的倫理風險。

其三，規范技術進入藝術領域的深度和廣度。在數字內容產品的生產與消費過程中，數字文化企業需要利用科技進行數據的收集與處理、信息的識別，甚至參與藝術內容的生產與傳播過程，但同時也需要實時監測自身數據利用情況，遵從已有的科技治理原則與社會道德倫理規范。通過培養技術與素養兼備的綜合性人才，發揮技術的最大利用價值，既能生產出符合社會主流價值觀的優質數字文化內容產品，又能擴寬產品的傳播和分發渠道，從而提高自身內容產品生產與傳播的效率與水平。

（三）強調科技倫理教育與研究

網絡空間作為一個開放、自由的空間，相較于技術本身的不可控性以及網絡治理等法律法規的外在控制力，科技倫理的治理歸根結底離不開科技倫理的廣泛教育與普及。

首先，加強對于科技倫理在大眾范圍內的客觀宣傳。鼓勵數字文化行業組織、從業人員與社會公眾以及新聞媒體搭建溝通的橋梁，加強對科技倫理原則的科普工作和正確的價值引導，正確、客觀地傳播科技倫理知識，報道科技倫理問題及倫理常識，縮減社會大眾對于科技倫理問題的知識盲區以及知識誤區，提升大眾的媒介素養及消費數字內容產品過程中的信息控制能力、安全防范意識。

其次，支持將科技倫理問題引入高校。展開高校對于科技倫理問題的研究和教育，針對數字文化產業中新技術、新業態、新趨勢等展開跨學科研究與探討。同時，鼓勵高校根據自身基礎與特點開設科技倫理課程，為數字文化產業培育科技倫理領域的專業人才隊伍。

最后，加強對數字文化產業從業人員的科技倫理培訓。各大企業可以聯合高校、研究院、學術研討會等對從業人員進行專業培訓，將科技倫理原則納入企業培訓規章以及日常培訓過程，使科技倫理知識成為數字內容行業專業人員的基礎性知識，進而引導全民正視科技問題，引導科技向善。

結語

科技與文化的融合以及文化產業的數字化轉型已是不可避免的趨勢，數字技術不斷激發文化產業的創新活力，豐富文化消費的內容與形式，成為我國文化強國建設的重要推動力。然而，我們也需要客觀看待趨勢中隱含的算法、數據、人文等種種問題，遵循科技倫理原則與法律法規，堅守科技對文化以及人們日常生活介入的底線，從而激發科技的“向善”潛力，如此才能使科技真正為文化產業賦能，推動數字文化產業的可持續性發展。