ChatGPT 類生成式人工智能對數字內容產業的影響研究

韋蕭霞 章亦菲 付新陽 錢涵沁 賈明艷

摘要：【目的/意義】ChatGPT 是新時代的生成式人工智能，對我國的經濟生活產生深遠影響?！痉椒?過程】基于知識管理內涵，依據部分ChatGPT 類生成式人工智能以及數字內容產業的深入調查，采用文獻調研法對其在數字內容產業方面進行探索分析?！窘Y果/結論】加快推進AI 背景下我國數據安全監督、探索多技能路線、建立新型風險監測機制，成為新形勢下在數字內容平臺上合理有效地運用生成式人工智能的必然選擇。

關鍵詞：數字內容；生成式人工智能；ChatGPT

中圖分類號：TP37 文獻標識碼：A

文章編號：1009-3044（2024）06-0014-04

0引言

ChatGPT類生成式人工智能是能夠自動生成內容的智能模型，它是人工智能1.0時代進入2.0時代的重要標志，對多個領域產生了深遠影響，包括傳媒、藝術、設計等。學者們對于生成式人工智能的界定與分類，因研究視角和研究目標的不同而有所差異，借鑒已有文獻并結合發展實踐，本文認為研究ChatGPT類生成式人工智能可以深入了解技術發展趨勢，促進產業創新以及探討人工智能與人類創造力的關系等。通過文獻梳理分析發現，當前生成式人工智能在數字內容平臺上應用上面臨著數據泄露、生成內容濫用等突出問題。因此加快推進AI背景下我國數據安全監督、加大對數據質量評估的關注成為新形勢下在數字內容平臺上合理有效運用ChatGPT類生成式人工智能的必然選擇。

1 文獻綜述

1.1 生成式人工智能相關研究

2023年8月31日，“生成式人工智能”一詞首次在第52次《中國互聯網絡發展狀況統計報告》[1]出現，定義為“指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術?！本C合《中國互聯網發展狀況報告》《新媒體發展研究報告》對生成式人工智能的定義及對其研究現狀的分析可知，生成式人工智能采取“大數據預訓練+小數據微調”的訓練模式[2]，基于海量數據語料，以實現深層挖掘與價值模仿。其次，多模態加工技術是生成式AI創建廣泛內容的基礎[3]，使人工智能在不同類型的信息模態之間進行轉換、映射和生成，包括圖像、視頻、音頻、文本、合成數據乃至元宇宙[4]。目前，生成式人工智能在多個領域都展現出了巨大潛力，其基于深度學習技術創造性和多樣性生成能力為人工智能的發展開辟了新的方向。然而，生成式人工智能也面臨著一些挑戰，如生成內容的真實性、多樣性和控制性等問題，這些問題也將是未來的重要方向。

1.2 數字內容產業相關研究

我國臺灣地區在《2004臺灣數位內容產業白皮書》中將數字內容產業定義為：“將圖像、文字、影像、語音等內容，運用信息技術進行數字化并加以整合運用的產品或服務?！睌底謨热莓a業變革了傳播業態，實現內容傳播的數字化轉型，增添市場動能，增強用戶體驗。周志平[5]認為我國數字內容產業起步雖晚，但發展勢頭很猛。數字內容產業在發展中遇到資金短缺、人才匱乏等問題，并提出加強管理理念創新、牢固樹立“內容為王”的創新理念等對策。張立、吳素平[6]認為數字內容產業發展趨勢為市場規模持續增長，提升現有用戶價值或新的增長動力等方面。熊澄宇、孔少華[7]認為數字內容產業的發展動力包含：技術創新、傳播擴散、資金流轉和政策推動等4個方面。未來產業競爭重點將集中在國際化、版權保護以及高端數字內容企業扶持等方面。

1.3 生成式人工智能與數字內容產業應用的現狀研究

在數字內容產業中，生成式人工智能的應用已經非常廣泛。曼紐爾[8]認為NLP和AI的發展，為傳媒產業帶來了新的機遇和挑戰。目前全球擁有生成式人工智能初創技術的大型公司有6家，共持有23項生成式人工智能模型。郭小平、段琳杉[9]認為生成式人工智能將提升新聞生產效率、生成全新寫作風格、重構媒介形態、助力內容篩查和審核，同時也存在著著作權制度框架遭遇沖擊等風險。王渝博、李泰然[10]闡述了生成式人工智能技術工具的特點：Midjourney可應用于影視作品創作前期，Dramatron能幫助創作者構建初步劇本框架，Gen-2能通過AI技術來驅動整個視頻創作流程，同時還具有在復雜場景中摳像等多元功能。趙瑜、張亦弛[11]提出生成式人工智能運用在影視行業存在缺乏連貫性、需要人機互補、觸犯法律風險等突出問題。

2 生成式人工智能與數字內容產業的發展現狀

2.1 生成式人工智能的發展現狀

1）應用市場廣泛。隨著自然語言處理等方面性能的提升和，生成式人工智能的應用逐漸落地，推動AI技術迎來加速發展的新時代。目前生成式人工智能已經在學術研究和技術應用上取得了突破性進展。在自然語言處理領域，生成式人工智能已能覆蓋較多領域，包括生成質量較高的自然語言文本，以及在對話系統、機器翻譯、文本摘要等領域得到應用。例如OpenAI 公司于2020 年提出的第3 代文本生成模型（Generative Pre-trained Transformer， GPT-3）。憑借其非凡的模型能力、多任務的泛化表現以及小樣本學習能力，入選了2021年MIT Technology Review的“全球十大突破性技術”。其發布的ChatGPT自然語言處理模型自公開發布以來，在5天內就吸引了超過百萬用戶，在一個月內擁有了超5 000萬活躍用戶，引發了生成式人工智能的研究熱潮。

2）市場規模與經濟價值提升。生成式AI重塑了人機交互實踐與協同發展的路徑，依靠大模型、大訓練數據模型的進步與突破，降低人力成本，提高生產效率，帶來不可估量的經濟價值。2022年中國生成式人工智能市場規模約為660億元人民幣，2020—2025 年的復合增速將近84%，中國的生成式人工智能正處于高速增長期，預計2025年中國人工智能市場將占全球市場規模的13%。

2.2 數字內容產業發展的發展現狀

1）市場規模保持快速穩定增長?！秷蟾妗凤@示，截至2023年6月，我國網民規模達10.79億人，較2022年12月增長1 109萬人，互聯網普及率達76.4%。數字內容產業是隨著信息技術和數字經濟發展催生出的一個快速發展中的產業。全球數字內容市場規?？焖僭鲩L，根據市場研究公司（Research and Markets）的預測，2020—2024 年，全球數字內容市場將增長5198.3 億美元，其間年復合增長率為15%。而近10 年，中國數字內容產業市場規模不斷增長，且持續保持在10%以上的水平。據中國信息通信研究院（簡稱“中國信通院”）發布的《中國數字經濟發展白皮書（2023）》報告數據顯示：中國數字經濟增加值規模已由2005年的2.6161萬億元，擴張到2022年的50.2萬億元，同比增長10.3%，已連續11年顯著高于同期GDP 名義增速，數字經濟占GDP比重達41.5%。

2）內在結構與業態模式不斷發展完善。中國數字內容產業正不斷優化完善內在結構。網絡新聞媒體和網絡游戲作為當前中國數字內容產業核心業態，市場規模占比較大，近年來保持穩定發展。同時，新生細分業態的增長也呈現出強勁態勢。我國以網絡購物、網絡直播、網絡短視頻、在線教育、在線醫療等為代表的新型業態模式正迅猛發展。

2.3 生成式人工智能應用于數字內容產業的發展現狀

1）生成式人工智能應用層多模態。數字內容產業是生成式人工智能融入的典型行業和場景之一，如圖1所示。生成式人工智能通過自然語言處理和機器學習技術，自動化、智能化地編輯數字內容，檢查文本錯誤、自動排版、識別圖片等，提高內容生產的效率和質量，降低數字內容生產的門檻，使更多的人能夠快速、高效地創造數字內容。在傳媒和影視方面，生成式人工智能帶來的人機協同生產實現智能新聞寫作、海量數據分析歸納、快速生成劇本，賦能智能視頻剪輯、場景創作空間等。在娛樂方面，通過生成式人工智能技術擴展輻射邊界，實現趣味性圖像或音視頻生成?；蛞訟I換臉為代表的生成式人工智能應用在很大程度上滿足了用戶的好奇心和獵奇心理，成為行業中的破圈利器?；虼蛟焯摂M偶像，釋放IP價值。除此還有開發C端用戶數字化身，布局消費元宇宙。百度在2020年世界互聯網大會上展示了基于AI技術設計的動態虛擬人物能力，包括3D虛擬形象生成和虛擬形象驅動等。

2）生成式人工智能或將成為數字內容生產新引擎。隨著數字經濟的快速發展，其與實體經濟的深度融合提升了網民對數字內容總量和質量的要求。面對持續快速增長的國內數字內容的消費需求端，PGC、UGC數字內容生產模式逐漸無法滿足。而生成式人工智能的注入，作為供給端的有效工具，賦能數字內容生產的各類場景和內容創作者，輔助用戶執行信息采集、復刻編輯等任務，同時推動數字內容與其他產業的多維度交互、融合，對數字內容生產產生積極影響。

2.4 挑戰

2.4.1 對生成式人工智能的認知偏差侵犯人的自主性權利

生成式人工智能需要大量訓練數據，如果數據不足或偏差，輸出結果可能偏移，甚至會對某些群體產生歧視。只是從海量數據中訓練生成的文本只是數據組合，不應被視為知識產生者?？赡芤l不當認知，將其視為知識道德權威的風險。因為生成式人工智能不能真正認識到其生成的文本內容的含義，也不能對是非對錯進行判斷，所以有時會出現荒唐的文本組成的錯誤。導致錯誤的引導。人類在使用生成式人工智能時若未意識到其是建立人與人之間智能生態系統，全球智慧社會體系之上，便無法看到人類智慧自動產生的根本和先決條件。這不僅涉及知識與智慧的再界定，還涉及生態環境、社會與個體重建。若缺乏反思，可能陷入圖靈陷阱，無條件采用自動化生成知識，過度取代人類智能，導致生態環境不堪重負。圖靈陷阱源于智能與自動化系統未將人放在第一位，而是強迫人接受它，剝奪人的自主性。

2.4.2 行政監管風險對國家及公民帶來的不利影響

1）數據合規風險。我國的數據合規體系由網絡安全法、數據安全法和個人信息保護法共同構建。生成式人工智能數據合規風險包括數據來源不穩定、個人權益受影響、數據爬取涉及侵權行為、泄露商業信息、構成不正當競爭。

2）生成內容濫用風險。生成式人工智能可以通過運用本身強大的算力，制造虛假的文章、新聞等造成與事實違背的錯誤。例如2023年4月，澳大利亞一市長因ChatGPT在聊天過程中誹謗其在一樁賄賂丑聞中有罪，侵犯了個人權益，擾亂網絡傳播秩序和社會秩序，給當前的網絡治理工作帶來了極大的困難。

3）人格權侵權風險。根據過去的案例，GPT二代曾因換臉換聲的欺詐、人格權侵權、隱私泄露等案件引發了廣泛的安全挑戰。在以ChatGPT為代表的生成合成類應用中，用戶在進行對話的過程中，個人信息如身份信息、地理位置、偏好等也會被收集。尤其是當用戶與機器進行交互時，個人隱私的風險會更大。這些個人信息可能被用于創建用戶畫像并訓練模型，因此，在收集、使用和傳輸個人信息的過程中，安全問題必須得到充分重視。

4）著作權侵權風險。生成式人工智能是一種重組式創新，它還不具備真實的創造性，所以它并不是著作權的主體，同時對于那些擁有獨創性的人工智能產品也不能忽略，可以參考關于職務作品或雇傭作品的規則，在創作過程中，對那些確實進行了人工干預、人為編排或創造出這個算法的人，都被認為是作者。就生成式人工智能而言，要視有沒有人利用人工智能進行創作，以及他們在創造過程中是否投入了智力勞動或創造勞動。

2.4.3 關鍵技術及企業核心能力有待發展

1）關鍵技術不夠完全成熟，大規模推廣落地尚存痛點。AI算法仍存在缺陷。在透明度方面，黑箱運作機制的存在使得人工智能算法的生成機理不易被人類理解，算法出現錯誤時，將阻礙外部觀察者進行糾偏錯誤。而在魯棒性方面，其容易受到數據、模型以及其他因素干擾，出現非魯棒性特征。生成式人工智能內容編輯與創作技術不夠完善。文本生成方面，模板式生成導致文本結構雷同。語音合成方面，語音表達不夠流暢、聲音機械。視覺生成方面，精準度、還原度、仿真度不周全，需后期人工標注。

2）企業核心能力不齊，威脅網絡生態健康發展。1）內容審核急需提高，基本審核方式為“機審+人審”，但機審準確率受黑灰產對抗影響，誤報率偏高。2）企業技術管理建設不足，企業傾向于滿足利益，對技術安全和制度保障投入不足。3）風險治理能力待完善。

3 生成式人工智能在數字內容產業上運用的特征

1）自動化與智能化。通過自然語言處理、機器學習等技術，根據用戶需求和行業特點，生成式人工智能可以自動分析并處理大量的數據和信息，自動化地生成各種類型的數字內容。

2）個性化與定制化。生成式人工智能依托于大語言模型和自然語言處理技術，可根據與用戶之間上下文互動問答形式，提煉出用戶需求，并融合情景問答、個人興趣、歷史對話內容，由此刻畫用戶畫像，將個人的喜好、行為風格等信息應用到不同的語言闡述場景中，實現個性化場景轉移。

3）創新性與多樣性。生成式人工智能還可以根據用戶反饋和行業變化，不斷優化和改進內容生產模型和方法，推出更加新穎、有創意的內容產品和服務。

4）融合性與生態性。生成式人工智能可以與其他數字技術如大數據、云計算、物聯網等相互融合，實現更廣泛的應用和創新。同時，生成式人工智能也可以與產業鏈上下游的企業和機構合作，構建生態合作體系，共同推動數字內容產業的發展。

4 生成式人工智能對數字內容產業的影響

4.1 生成式人工智能將極大釋放數字內容產業社會生產力

基于Transformer架構的生成式人工智能，通過融合計算機視覺、自然語言處理等技術，可實現自動產生內容，拓展實現數字內容孿生、編輯及創作能力。通過智能增強、智能轉譯等活動，生成式人工智能能夠進行代碼生成、文本問答以及部分模式的復合形式等數字內容，并有效剔除干擾信息，提高信息獲取效率；高效處理原創問題，提升信息處理質量；快速搭建智能框架，提高內容創作效率如圖2所示。人工智能技術融入生產力要素中，作用于生產勞動的全過程。它既能夠實現傳統生成式人工智能中的分析、判斷與決策功能，又擁有了創造性功能，這是傳統生成式人工智能所沒有的，為各個領域帶來了生產力的巨大飛躍。這些技術的出現，不僅變革了人類獲取信息的方式，提升了人們與機器交互的方式，還引發了數字內容生產方式的革新。生成式人工智能成了科技飛躍式發展、生產力整體提升的重要驅動力。

4.2 促進數字內容產業轉型升級

生成式人工智能作為一種創新技術，正在深刻地改變數字內容產業的生產、傳播和消費方式，并從以下方面促進數字內容產業的轉型升級：1）豐富創意類型，使其實現創意的延伸和拓展。例如，在圖像領域，可以通過風格遷移等技術，將一張圖片轉換成另一種風格，為設計師提供更多創作靈感。在音頻領域，AI 可以實現音樂的自動生成，結合不同風格和元素，創作出獨一無二的音樂作品。2）拓寬內容渠道。生成式人工智能可以應用于多個場景，為數字內容產業開拓新的市場。例如，在廣告營銷領域可以根據用戶行為和興趣，實時生成個性化的廣告內容，提高廣告效果。在教育領域可以根據學生的學習進度和能力，生成定制化的教學內容，提高教學質量。3）培養創新型人才。生成式人工智能的發展帶動了相關產業鏈的人才需求，為數字內容產業創造了更多的就業機會。此外，生成式人工智能普及促進了跨學科的交流與合作，激發了創新思維，有助于培養具備創新能力的人才。

4.3 促使商業化發展，推動商業模式迭代創新

生成式人工智能技術的迭代和突破為商業模式的創新機制提供戰略方式。它是生產力工具，可以直接提供價格，從免費到收費，這是從無到有的巨大區別，也能從中看到此類應用在商業化中的價值。目前，已經落地的商業模式的突出表現在于其訂閱模式。顧客在頁面搜索框上提出問題和需求，生成式人工智能便可運用AI交互模型自動生成相關文本答案并呈現給顧客，實現更優質的客戶服務和交互體驗。企業通過運用生成式人工智能針對不同受眾創建不同的營銷內容，一致有效地解決顧客的不同需求，審核和編輯生成內容，確保輸出信息與品牌定位的保持，同時迎合其興趣和偏好，提高客戶參與度和顧客被內容所吸引的概率。將生成式人工智能整合運用到平臺中，有可能改變銷售和營銷團隊對標受眾客戶并與其建立聯系的方式，從而縮短勘探時間，為企業的營銷計劃帶來更滿意的結果。

5 發展建議

5.1 明確創新與安全并重的規制目標，提高人工智能的透明化程度

在使用生成式人工智能技術時，需要重視用戶隱私和數據安全，制定嚴格的數據保護措施，加強技術研發和管理，加大對生成式人工智能技術的研發和投入，鼓勵和支持相關企業和研究機構的發展，推動技術的創新和進步，確保技術的安全和穩定，防止技術風險和漏洞對數字內容產業造成不良影響。在推動生成式人工智能技術在數字內容產業的應用時，需要建立透明化的規制框架，明確技術研發、數據使用、隱私保護等方面的規范和要求，確保技術的安全和穩定，保障用戶的合法權益。其維護措施至少應包含以下幾個方面：1）反饋結果的透明化，提高生成內容的可讀性，便于風險評估和監管。2）算法的透明化，幫助生成式人工智能部署者和下游使用者提高評估的效率和穩健性，了解算法的原理和邏輯。3）公開數據來源和使用方式，讓用戶了解數據是如何被收集、處理和使用的，增強用戶對技術的信任和認可。

5.2 健全生成式人工智能反饋渠道，建立人工智能的風險評估機制

隨著人工智能的普及，單一主體很難掌握有關其社會影響的全貌。因此，需建立全面的風險評估指標體系，涵蓋技術風險、數據風險等，確保對生成式人工智能技術的應用進行全面、系統的風險評估，及時發現并解決潛在的風險問題。同時，加強風險評估結果運用，將其作為生成式人工智能技術在數字內容產業應用的重要參考依據，并根據評估結果制定相應的管理措施和規范，確保技術的安全和穩定，保障用戶的合法權益。此外，建立覆蓋性高的對生成式人工智能使用影響的社會影響信息反饋與收集渠道，幫助監管者在政策以及規則制定過程中，能夠充分了解社會公眾的價值取向和看法，提升政策制定的民主性與科學性。

5.3 優化道德標準和行為規范的治理機制，加強人工智能的倫理建設

為促進生成式人工智能與大眾價值融合，并預防彼此在價值觀和道德觀上產生負面影響，需確立人工智能倫理原則，明確技術的道德標準和行為規范，確保技術的合理使用和健康發展?，F有的技術條件下，需通過程序強化訓練與測試，促進倫理教育，提高研發及應用人員素養，設立實體倫理標準，強化倫理審查機制，提倡信息的共享與流通，避免觀點的單向強化，防止“信息繭房”導致信息異化與極端化。制定倫理標準需秉持開放與共同參與的理念，為人工智能各方提供穩定的信息溝通與協商渠道。

參考文獻：

[1] 中國互聯網絡信息中心（CNNIC）.第52次中國互聯網發展狀況統計報告[EB/OL]. （2023-09-12）[2023-12-05].http：//www.100ec.cn/index/detail--6631924.html.

[2] 王忠軍，于偉，唐星龍.智能技術的發展稟賦——記第60次情報科學讀書會[J].情報理論與實踐，2023，46（3）：209-211.

[3] 胡泳，劉純懿.UGC未竟，AIGC已來“： 內容”的重溯、重思與重構[J].當代傳播，2023（5）：4-14.

[4] Development of metaverse for intelligent healthcare. Wang Ge;Badal Andreu;Jia Xun;Maltz Jonathan S.;Mueller Klaus;Myers Kyle J.;Niu Chuang;Vannier Michael;Yan Pingkun;Yu Zhou;Zeng Rongping.Nature Machine Intelligence，2022.

[5] 周志平.我國數字內容產業存在的問題及發展對策[J].改革與戰略，2014，30（3）：101-103.

[6] 張立，吳素平.我國數字內容產業投資價值與發展趨勢研究[J].出版發行研究，2019（7）：12-22.

[7] 熊澄宇，孔少華.數字內容產業的發展趨勢與動力分析[J].全球傳媒學刊，2015，2（2）：39-53.

[8] 曼紐爾·卡斯特.認同的力量[M].曹榮湘，譯.北京： 社會科學文獻出版社，2006：8.

[9] 郭小平，段琳杉.AIGC：引領傳媒業變革與人機關系的重構[J].視聽界，2023（3）：5-10.

[10] 王渝博，李泰然.基于AIGC技術的影視內容生產與創新[J].華東科技，2023（9）：43-45.

[11] 趙瑜，張亦弛.ChatGPT將如何影響影視產業？：生成式人工智能背景下的影視產業發展趨向[J].電影新作，2023（2）：4-13.

【通聯編輯：唐一東】