“再見一面”輕而易舉：探索數字人的安全底線

木濃

ChatGPT“數字人”版AI助手WeHead

每個人心里可能都有一個希望再見到的人，就像每個人心里可能都有一個想要回到的時刻。

想再見湯曉鷗一面的商湯人，在商湯科技2024年的年會上如愿以償；想再見女兒一面的音樂人包小柏，實現“復活”女兒的心愿，并讓女兒為妻子唱了生日歌。還有許多普通人，有機會通過AI的幫助，再一次見到離世親人的音容笑貌，甚至能與“數字親人”對話、相伴。

生成式人工智能的爆發，視頻大模型Sora的橫空出世，讓電影《流浪地球2》中的“數字生命”似乎不再只是科幻橋段。有人說“不妨再大膽一點想象”：“通過虛擬數字技術，我們或許能夠聆聽孔子的教誨，與愛因斯坦探討物理學的奧秘，甚至可以和李白‘月下共飲?！?/p>

當震古爍今的AI科技為人類帶來更多可能性，“質疑圖恒宇，理解圖恒宇，成為圖恒宇”道出了人們對生命的依戀，對“永生”的覬覦。

然而，人類歷史上每一次技術變革與進步，都會引發人類對技術的深刻反思。AI技術海嘯前進的路上，也許需要科技倫理之光照亮。

“再見一面”，如此容易？

商湯科技2024年的年會，離世不久的創始人湯曉鷗通過數字人技術，再次以脫口秀的形式與大家見面。

“這已經成為了商湯科技年會的保留節目，所以我們讓湯老師以數字人的形象再次用幽默的方式與大家相見，以寄托大家對他的懷念?！鄙虦萍枷颉犊词澜纭吠嘎?，實現這一次“重逢”，是采用了AI數字人視頻生成平臺“如影SenseAvatar”的數字人技術打造，在實現面部、聲音、表情和動作模擬的同時，還隱藏了商湯數字水印解決方案。

此前，市場上對于數字人的主要需求來自直播、視頻制作等娛樂產業，以及醫療、教育、金融保險等行業，原因是不需要真實的演員就能制作短視頻，有可能降低人員成本、溝通成本和時間成本。而目前，“數字親人”的需求隨之增加。

早在2017年，小冰公司就曾申請了一項復生已逝親人的專利技術，隨后提出AI being概念，即通過AI技術“一站式”完成虛擬人的創建、驅動和內容生成，并具備感知、表達等無須人工干預的自動交互能力。不過這項“數字永生”計劃推進緩慢。

2023年4月，24歲的上海小伙吳伍六用Midjourney、ChatGPT和D-ID等最新的AI技術“復活”奶奶的視頻，在網上迅速走紅，引發熱議。大量求助“復活”親人的私信，令他決定啟動“數字關懷服務平臺”，分享AI“復活”技術。

與此同時，“數字永生”開始成為一門“生意”。在網絡平臺上搜索，出現大量“復活親人”的服務，價格最低可至10元，多則數百元；有的可“幾分鐘創建AI虛擬人”，有的需要定制服務，精心制作60天后可“交付”；有的商家正兒八經地提供套餐選擇：三大主題場景任選，包含湖邊、草地、海邊場景，本服務可任選其中一個場景；動作服務預設一套人物動作，伴行散步、喝茶、面對面聊天三選其一……

事實上，幾年前，日本殯葬行業已經開始推廣數字親人的業務，親屬可以通過3D眼鏡、VR眼鏡再見逝者。

而如今，隨著技術的發展，生成“數字親人”的技術成本和時間成本已經大大降低。有視頻博主就介紹了“數字親人”的人人可有：利用逝者生前的照片，使用Midjourney制作一個精細化程度較高的基礎圖像；使用諸如飛槳AI Studio等工具，來把逝者生前的語音資料生成和制作仿真電子合成語音；使用ChatGPT-4來為虛擬數字人生成對話內容；使用D-ID生成虛擬數字人。

湯曉鷗的數字人形象

康德“人是目的”的道德命令，是建構人工智能道德行動者的最佳契機。

想“再見一面”，竟變得如此不費吹灰之力。

撫慰傷痛還是自縛蠶繭？

錯過爺爺最后一面的大學生王同學，卻覺得很難才能“見”上爺爺一面：“有一次好不容易夢見他了，夢里一直哭，哭了很久，一直到接近中午才恍恍惚惚醒來?！彼X得，夢是鏈接逝去親人的方式，因為想念，所以夢見，哭著不醒來是因為戀戀不舍，不愿斷了這個鏈接。

當被建議可以用AI再見爺爺的時候，他卻表示了拒絕：“我想讓他的形象永遠留在我的記憶里，不管是不是未來有一天會變模糊，因為那是我最雋永的回憶。在夢里見到他，那是我在索取我自己大腦中的回憶形成的樣子，我不愿意通過AI的手段來回憶?！?/p>

喪失是關系的終止，是一種“未完成”，而“告別”是一種完結。筆者曾學習藝術治療，在失落與悲傷藝術治療中，對于失去親人的來訪者進行悲傷輔導的目標有4個：增加失落的真實感，其心理和情感接受失落發生的事實；協助其處理已表達或潛在的情緒；協助其克服適應過程中的障礙；最終目的是鼓勵其以健康的方式向逝者告別，并坦然地將情感投注在新的關系里。

電影《流浪地球2》中的數字生命

“數字親人”帶來的，究竟是撫慰傷痛的一劑良藥，還是隔絕世界的自縛蠶繭？

在這個過程中，盡管藝術治療師往往會借助逝者的照片，鼓勵來訪者與親人進行對話，催化出失落的真實感，但最終目的不是繼續留戀，而是告別。

每個人都會經歷喪失的悲傷，并且不可能回到沒有發生之前的狀態，只能進入下一個狀態。在這個過程中，有的人善于“偽裝”，也有的人忽略了自己并未痊愈，故作堅強一如常態。而對于不懂偽裝或無心偽裝的人來說，這個過程就容易暴露無遺。

筆者作為志愿者，長期陪伴心智障礙青年（心青年），不久前，一名心青年的母親突然去世，長期支持他的社工、心理咨詢師聯合家長，先對他隱瞞母親去世的消息，隨即為他進行連續多日的死亡教育后，才告知該消息，并輔助他進行與母親告別的儀式。

在其后很長一段時間里，他接受了母親離世的事實，時常提起母親在天上等待自己團聚，自己必須足夠努力，才能在100歲的時候再見母親一面。支持者認為，正是“再見一面”的渴望，支持這位青年繼續努力生活下去。

有人說，告別是尊重逝者，尊重生命；期待重逢是一種念想，一種慰藉；而執著于“數字親人”，是放不下、未完成。

“有的人能看到能聽到可以緩解思念，撫平一些痛苦，有的人會因為這個而更走不出來?！币幻〖t書博主在一篇《關于把已故的親人做成數字人的提議》的文章中寫道：“如果做成數字人對你來說會加深痛苦，就沒必要?！?/p>

有人發問，“數字親人”帶來的，究竟是撫慰傷痛的一劑良藥，還是隔絕世界的自縛蠶繭？

電影《銀翼殺手2049》劇照

人是目的而不是手段

筆者發現，在網絡平臺上，許多看似營銷帖的“復活”親人故事，往往引發“我也需要”“還接單嗎”的回復，還有不少網友評論“這是科技的溫度”“科技療愈了人類”；也有一些表示質疑的聲音，比如“逝者是否愿意被‘復活”“生命教育還沒有普及，人們尤其是孩子對生命的理解會不會出現偏差”。

“何而為人、人應該如何處理與科技的倫理關系，是人類進入科學選擇階段必須思考的命題?！碑斚?，學界正關注的，不僅是人工智能在技術層面帶來的風險，以及給人工智能倫理從業者帶來日益嚴峻的挑戰，還有在哲學和倫理學層面帶來的風險，即它“可能會逾越人、人性和人類性，而重新定義人或人性”。

“數字永生”并不只是“生意”。

有從業者在回應《看世界》關于科技倫理這個問題時表示，AI數字人復活逝者不只是一個技術問題，更是一個倫理道德問題：“技術是否可以成為人類情感的一種寄托？在數字化時代，我們如何重新定義和塑造人與人之間的聯系？AI數字人能否理解人類的情感、是否會給親人帶來二次創傷？如何避免這項技術被濫用？這些問題沒有標準答案，也令從業者更加深入地思考人類的本質和技術的邊界?！?/p>

不過該從業者認為，至少在數字人技術不被未經授權濫用的方面，他們做了很多工作，比如在推廣和應用數字人技術時，建立嚴格的倫理準則和監管機制，包括使用范圍、保護個人隱私、尊重死者和家屬的意愿等。

據了解，此前，在中國信通院的研究機構牽頭下，商湯科技等多家AI公司共同制定了“可信虛擬人生成內容管理系統技術要求”的標準，制作一個數字人，首先需要得到當事人生前或其家人授權。

商湯科技還透露，商湯科技數字人有相關的鑒定機制：“在商湯科技平臺上制作的數字人里，有一系列看不到的‘編碼藏在其中?！?/p>

中國信通院曾在《人工智能倫理治理研究報告（2023年）》指出，人工智能倫理包含價值目標與行為要求兩個方面：在價值目標上，人工智能倫理要求人工智能各階段活動以增進人類福祉、尊重生命權利、堅持公平公正、尊重隱私等為目標；在行為要求上，人工智能倫理要求人工智能技術做到安全可控、透明可解釋。

吳伍六曾在一篇帖子里寫下“不會過度緬懷過去”，且“希望能激起大家對人工智能、生命、感情、寄托、人性和倫理道德的深度思考，珍惜當下”。

有學者斷言，康德“人是目的”的道德命令，是建構人工智能道德行動者的最佳契機。是的，人是目的而不是手段。

數十年前，用筆構造一個全新世界的科幻作家斯坦尼斯瓦夫·萊姆曾提出，科幻小說是“增加對人類自身的認知，而不是對未知生命的認知”—在人工智能構造了一個全新世界的今天，堅持盧德主義早已不合時宜，倒不如借AI發展大勢，進一步增加對人類自身的認知。

責任編輯吳陽煜 wyy@nfcmag.com