AI 虛擬主播行業快速擴張的風險及應對

◎李碧珍 徐殿秀 胡良艷

AI虛擬主播是基于人工智能技術的虛擬人物， 背后集成了深度學習、 神經網絡、 生成式對抗網絡、 自然語言處理、 多模態建模、 語音合成、 計算機視覺等綜合技術， 其在社交、 傳播、 營銷等領域的價值正在逐漸顯現。 從用戶生成內容 （UGC） 到專業生成內容 （PGC）， 再到現在的人工智能生成內容 （AIGC）， 內容創作方式正在經歷巨大的變革和進步。 AIGC 技術為AI 虛擬主播賦予了更多的表現力和創造力， 推動AI 虛擬主播市場逐漸向商業、 新聞、 金融、 體育、 文藝、 智慧城市、 生活服務等領域拓展。 AI 虛擬主播能夠通過計算機程序模擬出人類的外貌、 聲音和行為， 實現自動化的主播功能， 可以在虛擬世界中進行主持、 播報新聞、 進行娛樂表演等活動，其形象和互動方式通常是基于虛擬現實和計算機生成的圖像、 動畫或真人演員的合成。 目前關于AI 虛擬主播的研究主要聚焦對信息技術本身的研究和技術發展給人們帶來的福祉與影響的研究。福祉顯而易見， AI 虛擬主播可以不知 “疲倦” 得24 小時不間斷進行工作， 創作效率高、 響應速度快、 創作內容高度個性化且能夠持續更新等。 但在給人類帶來福祉的同時， 也帶來了潛在風險和安全隱患。

一、 AI 虛擬主播行業快速擴張的潛在風險

目前， 國內外對AI 虛擬技術研發力度不斷增大， 應用領域快速擴張。 在AI 技術不斷升級的背景下， AI 虛擬主播的外觀與真人主播越來越像，聲音越來越逼真、 表情越來越細膩， 語音語調也從原來的 “機械語音” 轉為 “智能語音”， 如同真人的原音再現。 從外觀外形到聲音表情， 都與真人主播相差無幾， AI 虛擬主播快速擴張暗含著潛在風險。

1.AI 虛擬主播的身份數據安全與隱私泄露風險

AI 虛擬主播運行的基礎是數據， 而數據產生的主體則是生命個體。 AI 虛擬主播所播放的內容主要依賴于收集和分析數據， 這些數據往往包括個人隱私及受知識產權保護的相關信息內容， 在信息數據的收集、 分析、 處理、 使用的過程中， 加劇了泄露隱私信息的風險。 尤其是若這些數據被未經授權的別有用心的人或組織抓取、 篡改、 濫用， 就可能會造成個人或他人的隱私泄露風險，引發安全問題。 AI 虛擬主播與真人主播不同， 其身份信息是靠數據和算法而獲得和存在的。 而真人主播作為真人， 具有人所具有的情感情緒、 幻想聯想、 覺悟頓悟等， 這些非理性的認識是數據無法實現的。 把復雜的人的身份、 本性和特點數據化賦予給AI 虛擬主播， 而AI 虛擬主播并不具有控制身份數據信息和被輸入的海量播報內容信息的權力。 這些關于AI 虛擬主播自身和他人他事的數據 “輸入” 給AI 虛擬主播的同時， 也意味著可以通過技術將數據進行盜用、 控制和篡改。 甚至一些AI 軟件利用違法手段在未經 “信息主人” 授權的情況下， 擅自 “收集” 他人聲音、 語音、 面部表情以及其他個人隱私信息等，并對信息數據進行整理合成， 通過智能算法等方式， 推測出個人偏好、 行為習慣等隱私信息。 這無疑加劇了AI 虛擬主播身份的不確定性， 也加劇了泄露隱私風險。

2. AI 虛擬主播的偏見性和利益傾向對社會產生的風險

AI 虛擬主播在數據生成過程中會根據操控者自身的利益需要選擇具有價值傾向的傳播信息，進而生成帶有偏見性的傳播內容。 正如 “科技無國界， 但是科技公司有國籍”， 在AI 虛擬主播的設計過程中通常會被或有意或無意地嵌入思想理念、 價值觀念、 利益傾向等。 同時， AI 虛擬主播技術往往被一些資金雄厚、 技術先進、 規模龐大的大型科技公司所掌握。 公司具有營利性和逐利性， 則可能導致相對于社會利益和公共利益而言， 其更 “強化” 自身利益， 更追求自身利益最大化， 進而更易引發分配不公等利益失衡現象。甚至會因技術鴻溝而引發技術黑箱， 出現典型的不易感知和發現的黑箱操縱情況， 進而使不平等不公平等隱患加劇。 總之， 隨著AI 虛擬技術應用的領域越來越多， 如果得不到高度的重視和規范， 可能引發失業率上升、 凸顯社會不平等問題， 具有相當社會風險。

3.AI 虛擬主播技術應用引發的倫理問題與道德挑戰

AI 虛擬主播并非僅僅是技術的呈現， 其內容中可能存在一些價值爭議或規范適用的問題， 有關人工智能倫理道德問題引起了人們的關注。 AI虛擬主播作為人工智能可以通過技術預設的內容， 但無法感知內容本身所具有的真實含義； 可以精準深入分析數據信息， 但無法知曉數據信息的真偽以及數據背后的真實情況。 當AI虛擬主播技術被別有用心之人濫用，傳播仇恨言論、 種族主義言論、 性別歧視言論等有害信息， 就容易引發倫理道德， 甚至法律問題。 所以， 當把存在價值爭議、 觀念沖突或規范適用等問題交由技術來分析和處理時， 就有可能使得問題愈演愈烈、 持續惡化。 因為在現實社會關系中， 在處理存有價值爭端、 觀念沖突或規范適用等問題時， 往往需要人與人之間反復交流溝通、 換位思考、 理解禮讓等， 但AI 虛擬主播只能 “機械” 地被動完成 “被輸入”的 “任務”。 由于AI 虛擬主播技術的應用依賴其背后的強大算法， 然而算法假定與人性選擇有著本質區別， 算法假定代表的是機器人性，而人性選擇多與社會規范、 人脈關系等產生關聯。 AI 虛擬主播經過授權后， 依賴算法假定，按照機器性選擇進行 “任務性” 播報， 而非人性選擇播報。 此外， AI 虛擬主播所模仿的人的外貌、 聲音、 言行、 職業甚至思想等， 本是人類所特有的， 具有私人屬性， 經過AI 虛擬主播“復制” “粘貼”， 使其具有了公共屬性， 這意味著私人領域的公共化， 由此可能帶來人性沖突、 倫理風險。

4.AI 虛擬主播偽造虛假內容信息沖擊意識形態安全

AI 虛擬主播就是通過語言傳播信息或宣傳。AI 虛擬主播打破了 “二次元” “三次元” 的邊界， 改變了 “有圖就有真相” 的認知， “虛擬主播” 與真人主播使人難分難辨。 在AI 技術的支持下， 只要有照片就可以把照片中的人物通過AI技術變成虛擬主播， 可以運用AI 語音、 圖像、聲音和文本生成等技術讓任何人在任何場景下以任何聲音說任何話， 有些 “別有用心” 之人就可能利用AI 虛擬主播技術生成虛假新聞報道、 發表虛假網絡評論， 如發布具有誤導性的社交帖子或者發表具有欺詐性、 虛假性的評價， 誘導網民、 欺騙網民， 對個人或者組織造成傷害。 尤其是個別AI 主播根據自身算法的邏輯 “議程設置”， 報道虛假新聞或片面地報道新聞， 誤導信息受眾的思考方向， 有可能將真實新聞 “解讀”為虛假新聞， 將虛假新聞 “包裝” 為真實事件，進而影響人們的思想認識和價值取向， 加劇影響意識形態安全和社會的安定穩定。

二、 促進AI 虛擬主播行業健康發展的建議

AI 虛擬主播快速擴張是人工智能發展大趨勢， 我們既要看到其進步之處和優勢所在， 也要看到其存在的潛在風險和關鍵問題， 并通過具體舉措發揮優勢、 防范風險， 使AI 虛擬主播更好地人類美好生活所服務。

1.加快AI 虛擬主播平臺搭建， 強化高新技術領域人才培養

一方面， 要加快搭建自主可控的AI 虛擬主播研發平臺。 目前， AI 虛擬主播技術、 平臺、工具等主要由國外研發機構研發， 雖然國內一些科技企業與互聯網企業也在開發類似技術、平臺和工具等， 但與國外技術發展水平仍存在一定差距。 因此， 我國應高度重視AI 虛擬主播技術、 平臺、 工具等的研發， 尤其加快反生成式AI 虛擬主播技術的研發， 努力在開源類技術與模型上實現自主研發、 可管可控。 在AI 虛擬主播技術領域自主可控技術研發與應用方面，要充分利用國家資金、 社會資源等， 鼓勵和引導科研院所、 利用高校人才資源、 團結社會精英等積極投入到AI 虛擬主播相關技術、 平臺等研發中。 另一方面， 要持續推進技術專業領域人才的培養和儲備工作。 要源源不斷培養德才兼備的高新技術人才， 以緩解和解決我國在AI虛擬主播技術領域的高質量專業人才較少的短板， 要積極鼓勵高等院校加大相關技術類專業及課程設置， 提高我國技術領域的高層次人才培養質量。

2.構建AI 虛擬主播監管機制， 推動多元主體協同治理體系

一方面， 要構建監管機制。 加強政府部門對AI 虛擬主播發展相關事務的監管。 既要提升監管者對AI 虛擬主播技術的認知和理解， 又要提升監管者的數智治理能力， 提升監管工作的智能化水平。 另一方面， 要加強頂層設計。 在數據管理工作中仍存在多頭管理、 職責不清、業務重疊交叉等現象。 應當依托2023 年國務院機構改革涉及的組建國家數據局契機， 建立體系完整、 權責明晰的智能數據管理機構。 同時，構建以政府為主導的多元主體參與的協同治理機構。 AI 虛擬主播技術可能引發的風險是多維多層多領域多方面的， 既涉及個人利益， 也涉及社會利益； 既涉及網絡安全， 也涉及政治安全； 既涉及個人信息安全， 也涉及國家意識形態安全， 影響范圍廣、 危害大， 應構建以政府為主導的多元主體參與的協同治理機制與體系。

3.健全法律法規和倫理規范， 促進生成式人工智能健康發展

隨著國內生成式人工智能快速發展， 相關監管政策也逐步落實。 由國家互聯網信息辦公室等七部門聯合發布的 《生成式人工智能服務管理暫行辦法》 于2023 年8 月15 日正式施行，這也是我國首個針對生成式人工智能產業的規范性政策。 法律法規和倫理規范是防范AI 虛擬主播潛在風險隱患的重要保障。 一方面， 我國在AI 虛擬主播技術方面的相關法律規范尚不完善， 缺乏針對新技術、 新平臺、 新應用的配套法律法規。 應結合我國實際情況， 加快人工智能領域立法工作， 并結合新技術的發展成果和趨勢、 面臨的新挑戰和新問題等及時修訂現行法律法規， 進一步優化以AI 虛擬主播為代表的新一代人工智能的數據安全的相關法律規范。另一方面， 完善社會的倫理規范。 在智能化社會中的技術中介作用下， 人類社會將迎來由機械化、 電子化、 信息化向智能化的轉變， 人類肉體與信息技術、 機器機械、 電子軟件等融合將成為常態， 思維意識、 精神思想也將成為可被編輯的對象。 技術無法脫離倫理的態勢獲得發展， 倫理是科學技術發展的底線， 技術的發展始終都要融入倫理反思和價值引導。 人類將可以通過新興技術等克服身體、 生命本身、 時間空間的限制和約束， 實現體力和腦力的雙重變革式發展。 隨著智能技術的不斷發展， 人類可能從自然人發展為 “電子人” “機器人”“虛擬人” 等以不同形式表現的 “未來人”， 身體意義與價值、 感知方式與途徑、 交往實踐與中介、 社會發展與方向都將發生變革式改變。因此， 需要對人類的倫理原則、 道德規范、 行為準則等進一步完善， 以規范 “未來人”。 通過完善倫理道德規范等， 發揮人類能動性， 規范人類在實踐生活中的言行， 幫助人類堅持和把控AI 技術發展的正確導向和方向， 形成健康可持續的商業模式。