今年春節(jié)期間，羅佩璽瞞著媽媽用AI技術(shù)“復(fù)活”了外婆，她將媽媽現(xiàn)在的模樣和外婆留下的老照片合成在一起。時(shí)隔60多年，媽媽和外婆終于又“見面”了，這是她送給媽媽的生日禮物。收到禮物后，媽媽的表情被羅佩璽用視頻記錄了下來，“她像孩子一樣笑出了聲，笑著笑著就哭了。她一定沒有想到，技術(shù)已經(jīng)發(fā)展到了這種程度。”
其實(shí)，將老照片修復(fù)、合成只是AI“復(fù)活”的初級(jí)形態(tài)。前段時(shí)間，幾段AI“復(fù)活”逝去明星的視頻引發(fā)關(guān)注，很多人才突然意識(shí)到，AI技術(shù)已經(jīng)發(fā)展到能夠讓逝者“開口說話”的階段，也由此引發(fā)了一系列關(guān)于倫理、法律等問題的討論。
事實(shí)上，借助AI技術(shù)表達(dá)對(duì)親人的思念，目前逐漸形成了不同的商業(yè)模式——有的利用AI技術(shù)讓照片“動(dòng)”起來，并模擬逝者的聲音與家人進(jìn)行實(shí)時(shí)對(duì)話；有的則在人活著的時(shí)候就為其生成數(shù)字人，通過反復(fù)訓(xùn)練使其更加“真實(shí)”，以求實(shí)現(xiàn)“數(shù)字永生”……
AI時(shí)代，我們已經(jīng)擁有了面對(duì)死亡的第二種選擇嗎？
AI“復(fù)活”
羅佩璽回憶，前段時(shí)間媽媽的姐姐去世，整個(gè)家庭沉浸在悲傷的氛圍中。追悼會(huì)上她偶然聽到舅舅說起，外婆去世的時(shí)候媽媽只有3歲。那一刻，她決定送媽媽這樣一份特別的生日禮物。后來，這張照片被裝裱起來掛在了家里顯眼的位置，每天都能看到，“填補(bǔ)了媽媽童年記憶的空白”。
羅佩璽之前是一名社交產(chǎn)品經(jīng)理，這項(xiàng)技術(shù)對(duì)她來說并不復(fù)雜。她使用AI工具，先將外婆老照片修復(fù)上色，而后對(duì)外婆人像進(jìn)行了變老處理，最后將媽媽的照片與其合成。羅佩璽說，“未來如果有與之類似但是更完善的技術(shù)，能夠讓逝者家人平緩度過失去親人后的艱難時(shí)期，正確使用(這一技術(shù))或許會(huì)是件好事。”
王濤是AI行業(yè)的從業(yè)者，去年12月份開始，他和好友免費(fèi)幫有需要的人“復(fù)活”逝去的親人。做這件事情源于一則求助信息，當(dāng)時(shí)一位女士想用AI“復(fù)活”逝去的丈夫以彌補(bǔ)自己的遺憾。王濤他們幫到了她。
緊接著，很多人陸陸續(xù)續(xù)找到他們。其中，讓王濤印象深刻的是一個(gè)中年男人，他想“復(fù)活”奶奶作為送給父親的生日禮物。收到“復(fù)活”視頻后，這個(gè)中年男人特地發(fā)來語音感謝：“80多歲的老父親抱著視頻翻來覆去看了一個(gè)晚上，一邊看一邊流淚，嘟囔著‘我有媽媽了’。”這讓王濤和好友感觸很深，就這樣一直堅(jiān)持做了兩個(gè)多月。后來，有個(gè)好友提出希望將這一服務(wù)商業(yè)化，這讓王濤無法接受。在他看來，“使用的算法和數(shù)據(jù)都是免費(fèi)的，不應(yīng)該通過這種形式賺錢”，所以就放棄了這件事情。
同樣也是在去年，辭掉工作的阿亮開始從事AI“復(fù)活”逝去親人的服務(wù)。讓他沒有想到的是，3個(gè)多月后，AI“復(fù)活”逝去明星的做法引發(fā)關(guān)注，阿亮所做的事情也被推到了風(fēng)口浪尖。阿亮覺得，“AI‘復(fù)活’逝去明星的做法，以粗魯?shù)男问讲┑昧肆髁?，但損害了整個(gè)行業(yè)的名聲?！?/p>
之后，很多網(wǎng)絡(luò)平臺(tái)為了規(guī)避風(fēng)險(xiǎn)，對(duì)AI“復(fù)活”相關(guān)內(nèi)容進(jìn)行了限流處理，阿亮也受到了影響，他發(fā)布的視頻的點(diǎn)贊量從之前的三位數(shù)驟降到現(xiàn)在的一位數(shù)，有些視頻甚至直接被屏蔽或刪除，這讓客戶數(shù)量有了明顯的回落。
“虛擬對(duì)話”
在網(wǎng)絡(luò)平臺(tái)相關(guān)話題的評(píng)論區(qū)，網(wǎng)友對(duì)AI“復(fù)活”逝去親人的態(tài)度呈現(xiàn)明顯的兩極分化。有網(wǎng)友覺得，AI“復(fù)活”能夠“給我們機(jī)會(huì)，把想說但沒來得及說的話說出來，幫助我們放下執(zhí)念”。也有網(wǎng)友對(duì)此持反對(duì)意見，“連逝去親人的照片都不愿意面對(duì)，怎么會(huì)選擇這種‘復(fù)活’呢？”
進(jìn)入到這一行之前，阿亮做過市場(chǎng)調(diào)研，他發(fā)現(xiàn)“復(fù)活”逝者的需求確實(shí)存在，“但是當(dāng)前的技術(shù)不一定能充分滿足。”王濤覺得，“現(xiàn)在的效果還有明顯破綻，比如聲音有很多漏洞，對(duì)話也沒那么絲滑”。
AI“復(fù)活”逝者需要提供比較清晰的照片和豐富的聲音等素材，但目前阿亮接待的客戶中，八成沒有原始的聲音文件，剩下的雖然有但是質(zhì)量都不高。結(jié)合最近的爭(zhēng)議，他開始逐漸調(diào)整業(yè)務(wù)思路，重點(diǎn)回歸文字交流，而不把太多注意力放在聲音和圖像上。
前段時(shí)間，他在微信服務(wù)號(hào)上線了文字對(duì)話功能，只需要花幾十秒鐘回答幾個(gè)問題，即可把AI“訓(xùn)練”得具備逝去親人一定的性格特征，可和屏幕前的用戶進(jìn)行文字對(duì)話，并且是免費(fèi)的。這一服務(wù)“目前使用人數(shù)接近2000，已經(jīng)超過了付費(fèi)客戶數(shù)量”。
此前，很多人找到阿亮提出“復(fù)活”逝去親人的需求，但是最終付費(fèi)的人很少。后來他找到了一批低價(jià)的AI大模型資源，在此基礎(chǔ)上搭建了“虛擬對(duì)話”功能。在沒有大量宣傳的情況下，陸陸續(xù)續(xù)有不少人開始使用。在阿亮看來，這個(gè)服務(wù)的設(shè)計(jì)很簡(jiǎn)陋，“也正因?yàn)樽銐蚝?jiǎn)陋，很多人上手容易，又是在微信這樣一個(gè)場(chǎng)景之下，大家會(huì)覺得特別真實(shí)?！?/p>
然而，“虛擬對(duì)話”使用的人數(shù)越來越多，風(fēng)險(xiǎn)也隨之增大。比如目前這不到2000人的對(duì)話數(shù)據(jù)該如何保存、是否存在隱私泄露的風(fēng)險(xiǎn)？阿亮說，這些數(shù)據(jù)實(shí)際是儲(chǔ)存在微信平臺(tái)方，他們只有檢查的權(quán)限，其中的相關(guān)責(zé)任并沒有明確的界定。為了規(guī)避掉這些問題，他的團(tuán)隊(duì)正在研發(fā)App，他希望未來這一服務(wù)更加自主可控，同時(shí)對(duì)話表現(xiàn)和安全措施能做得更好。
目前阿亮的團(tuán)隊(duì)不到10個(gè)人，基本都是AI行業(yè)的技術(shù)人員，大多為兼職。雖然整體處于虧損狀態(tài)，獲客成本高，實(shí)際付費(fèi)人數(shù)也比較少，但他堅(jiān)信，隨著人們觀念的變化以及當(dāng)下很多有需求的年輕人成為主要用戶，“這個(gè)事兒長(zhǎng)期看肯定是賺錢的”。
“數(shù)字永生”
電影《流浪地球2》中，圖恒宇將車禍去世女兒丫丫的意識(shí)存儲(chǔ)并上傳至數(shù)字世界，試圖讓女兒實(shí)現(xiàn)“數(shù)字永生”，這一劇情引發(fā)很大關(guān)注和討論。“數(shù)字永生”其實(shí)是利用AI技術(shù)，通過分析和模擬個(gè)體數(shù)據(jù)，創(chuàng)造出一個(gè)能夠在虛擬世界存在的數(shù)字化身份，從而實(shí)現(xiàn)人的“永生”。但從現(xiàn)實(shí)情況來看，目前AI技術(shù)還遠(yuǎn)未發(fā)展到這種地步，只能模擬人類的生命行為和關(guān)鍵特征。
劉驍奔正在做的創(chuàng)業(yè)項(xiàng)目就與“數(shù)字永生”有關(guān)。他出生于2000年，是這一創(chuàng)業(yè)團(tuán)隊(duì)負(fù)責(zé)人，同時(shí)也是科學(xué)技術(shù)哲學(xué)專業(yè)的在讀研究生。劉驍奔及其團(tuán)隊(duì)認(rèn)為，“數(shù)字永生”未來會(huì)成為傳統(tǒng)殯葬行業(yè)外，人類面對(duì)死亡的第二種選擇。
他認(rèn)為，“數(shù)字永生”分為“數(shù)據(jù)留存”和“數(shù)據(jù)演繹”兩個(gè)過程。最近熱議的“復(fù)活”逝者視頻的生成過程，是典型的“數(shù)據(jù)演繹”。而“數(shù)據(jù)留存”則是收集一個(gè)人的生物數(shù)據(jù)(比如視頻、音頻等)，并將其整理成可供AI加工的數(shù)據(jù)集。劉驍奔及其團(tuán)隊(duì)目前就專注于實(shí)現(xiàn)這兩個(gè)過程，并且主張將“數(shù)據(jù)留存”這一環(huán)節(jié)面向在世者，通過訪談、音頻采集和視頻采集等形式，留存更多真實(shí)的數(shù)據(jù)，以方便開展后續(xù)的“數(shù)據(jù)演繹”工作，最終完成“數(shù)字永生”。
作為創(chuàng)業(yè)項(xiàng)目，劉驍奔團(tuán)隊(duì)目前有5個(gè)人，全部為在校生，項(xiàng)目已經(jīng)孵化落地，學(xué)校給予了場(chǎng)地支持?！皩?shí)現(xiàn)百萬營(yíng)收”是劉驍奔今年的目標(biāo)，他覺得“有30%-50%的成功率”。
同樣已經(jīng)涉足這一領(lǐng)域的還有于浩，此前他在殯葬行業(yè)工作過四五年的時(shí)間，覺得傳統(tǒng)殯葬行業(yè)更多的是提供物理設(shè)施服務(wù)，缺少文化傳承和精神陪伴?！叭缃?，AI技術(shù)為更好滿足人們的精神需求提供了載體?！焙髞硭麑Ｗ?shù)字生命服務(wù)，其中就包括探索“AI＋殯葬服務(wù)”相關(guān)業(yè)務(wù)。
2022年，在“中國(guó)肝臟外科之父”吳孟超院士的追思會(huì)上，借助AI等技術(shù)手段，吳院士的虛擬影像與他生前的同事、學(xué)生們開啟了一場(chǎng)“時(shí)空對(duì)話”，在場(chǎng)很多人紅了眼眶。這一環(huán)節(jié)正是于浩負(fù)責(zé)策劃執(zhí)行的，他希望通過這種方式為吳院士完成“有溫度的告別”。如今，數(shù)字禮葬已經(jīng)成為公司的主要業(yè)務(wù)之一。
數(shù)字人同樣也是于浩公司的主營(yíng)業(yè)務(wù)。和AI“復(fù)活”逝者不同的是，于浩接觸更多的情況是，客戶要求在生前就完成數(shù)字人的生成和訓(xùn)練工作。其中有希望為父母生成數(shù)字人的子女，也有主動(dòng)要求生成數(shù)字人的五六十歲老人。他們希望通過不斷的交互訓(xùn)練，讓數(shù)字人更真實(shí)，從而成為延續(xù)生命的一種方式。
兩三個(gè)月之前，于浩接觸到一個(gè)客戶，醫(yī)生說她爸爸只能再活兩年，她希望給爸爸生成一個(gè)數(shù)字人，“留住”爸爸開始逐漸衰退的記憶。于浩介紹，公司數(shù)字人的生成一般參考六個(gè)維度：形象、聲音、表達(dá)方式、性格、知識(shí)庫(kù)和記憶。其中，最后一步的“記憶復(fù)刻”是最有難度的，因?yàn)橛洃浬蟼魇且粋€(gè)持續(xù)的過程，要通過和數(shù)字人不斷地交流才能實(shí)現(xiàn)。
隱私如何保護(hù)
劉驍奔團(tuán)隊(duì)的“種子客戶”是一位四五十歲的中年人，他被“數(shù)字永生”的理念所觸動(dòng)，準(zhǔn)備為父母打造數(shù)字生命。目前，劉驍奔他們已經(jīng)對(duì)其父母開展了3個(gè)月的口述史訪談工作，未來還將一直持續(xù)下去?！爱?dāng)老人知道這個(gè)東西會(huì)留給下一輩時(shí)，態(tài)度還是很積極的”。但是從設(shè)想到現(xiàn)實(shí)，他們正在經(jīng)歷“數(shù)據(jù)隱私保護(hù)如何規(guī)范化”等各種挑戰(zhàn)，劉驍奔希望有第三方對(duì)他們的工作進(jìn)行監(jiān)管。
在于浩公司的相關(guān)業(yè)務(wù)中，倫理和法律爭(zhēng)議同樣難以避免。于浩說，他們會(huì)嘗試從兩個(gè)方面規(guī)避風(fēng)險(xiǎn)：“首先生成數(shù)字人要經(jīng)過本人授權(quán)，如果是逝者則需要得到直系親屬的授權(quán)；其次對(duì)相關(guān)數(shù)據(jù)進(jìn)行加密保護(hù)，上傳至云端，這一過程會(huì)尋求和相關(guān)政府部門合作?！?/p>
實(shí)際上，不管是AI“復(fù)活”還是“數(shù)字永生”，依托的都不是全新的技術(shù)。王濤長(zhǎng)期關(guān)注AI技術(shù)的發(fā)展，他解釋說，這些應(yīng)用方向在2018年的時(shí)候就被“圈內(nèi)人”反復(fù)提及，只是到了2022年，隨著AI機(jī)器人成功擁有與人類全面對(duì)話的功能，這些應(yīng)用方向才真正得以落地。
他對(duì)近期AI“復(fù)活”引發(fā)爭(zhēng)議并不感到意外，“這方面目前處于灰色地帶”。王濤說，技術(shù)的新應(yīng)用一定會(huì)引發(fā)爭(zhēng)議，爭(zhēng)議越早出現(xiàn)越好，“只有這樣，這一技術(shù)才能慢慢‘長(zhǎng)大’。”
當(dāng)然，所謂“長(zhǎng)大”不能只是盲目的業(yè)務(wù)擴(kuò)張，而是相關(guān)應(yīng)用方向有法可依、有章可循。
北京京師律師事務(wù)所律師王輝表示，根據(jù)2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，“深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意”。因此使用深度合成服務(wù)時(shí)，需要取得被編輯個(gè)人的同意；如果被編輯人是死者，理應(yīng)取得具備有義務(wù)保護(hù)死者肖像權(quán)益的親屬的同意。
此外，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)“數(shù)據(jù)和技術(shù)管理”也作出了明確規(guī)范：深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定。
王輝律師表示，隨著AI技術(shù)的發(fā)展和應(yīng)用，大量個(gè)人數(shù)據(jù)被用于訓(xùn)練AI模型，以提高其準(zhǔn)確性和效能。這些數(shù)據(jù)包括但不限于個(gè)人身份信息、位置數(shù)據(jù)、消費(fèi)習(xí)慣甚至是生物識(shí)別信息。如果這些敏感數(shù)據(jù)被不當(dāng)處理，可能會(huì)導(dǎo)致嚴(yán)重的隱私泄露，進(jìn)而損害個(gè)人權(quán)益，甚至威脅到社會(huì)的公共安全。因此，要持續(xù)完善“數(shù)據(jù)隱私和保護(hù)”等相關(guān)法律。
清華大學(xué)新聞學(xué)院教授、博士生導(dǎo)師沈陽建議：一方面開發(fā)商和使用者都應(yīng)承擔(dān)起責(zé)任，確保AI技術(shù)不會(huì)誤導(dǎo)用戶或影響人類情感；另一方面也要注意隱私保護(hù)和數(shù)據(jù)安全。相關(guān)服務(wù)中，AI需要處理大量個(gè)人敏感數(shù)據(jù)(如面部表情、語音語調(diào)甚至生理數(shù)據(jù))，以此分析用戶的情感狀態(tài)，這些數(shù)據(jù)一旦被濫用或泄露，會(huì)對(duì)用戶的隱私造成嚴(yán)重威脅。
“AI＋情感”可以嗎
除了用戶隱私如何保護(hù)，阿亮還會(huì)關(guān)注“虛擬對(duì)話”服務(wù)使用者的身心狀態(tài)。在他看來，當(dāng)下被廣泛討論的技術(shù)侵權(quán)、詐騙等問題都是有解的，可以依靠法律來實(shí)現(xiàn)約束。但是使用者的身心狀態(tài)是難以把控和處理的，比如有些人因?yàn)樗寄钍湃サ挠H人，會(huì)對(duì)這一功能產(chǎn)生沉迷，或者假如AI說錯(cuò)某句話，也可能會(huì)對(duì)使用者的心理產(chǎn)生影響。
“很多時(shí)候即使你做了規(guī)避措施，比如不能聊‘自殺’，但是用戶可能還是會(huì)因?yàn)锳I的某句話而受到傷害?！卑⒘料Ｍ脱芯繖C(jī)構(gòu)合作，共同關(guān)注這一問題。
魏冉是國(guó)家二級(jí)心理咨詢師、中國(guó)心理學(xué)會(huì)注冊(cè)心理師，在她看來，AI“復(fù)活”逝者等技術(shù)的出現(xiàn)，的確可以在一定程度上緩解喪親之痛，彌補(bǔ)一些未了的遺憾，尤其是沒有機(jī)會(huì)與逝者鄭重告別的遺憾，使用得當(dāng)可以幫助生者更好地接受所愛之人的離世。
與此同時(shí)，魏冉也發(fā)現(xiàn)，相關(guān)技術(shù)有可能會(huì)成為哀傷過程的阻礙。她進(jìn)一步解釋說，有關(guān)人類面對(duì)死亡時(shí)所出現(xiàn)的心理反應(yīng)，心理學(xué)界普遍認(rèn)同“哀傷五階段”，即否認(rèn)、憤怒、討價(jià)還價(jià)、沮喪和接受。其中的“討價(jià)還價(jià)”階段指的是，生者會(huì)因無法接受所愛之人的離去，而試圖施加控制來改變情況。
“這就是生者會(huì)購(gòu)買相關(guān)服務(wù)的階段。當(dāng)生者看到逝者的圖像時(shí)，不僅可以緩解相思之苦，還會(huì)產(chǎn)生與死神對(duì)抗、控制了生死的錯(cuò)覺，這會(huì)讓生者感受到強(qiáng)烈的控制感，并產(chǎn)生積極的情緒體驗(yàn)。但是，如果沉迷于這種控制感，也阻礙了哀傷過程的自然完成。也就是說，生者會(huì)卡在‘過去’，而無法真的向前走?！?/p>
沈陽教授發(fā)現(xiàn)當(dāng)下AI技術(shù)應(yīng)用存在兩個(gè)明顯相反的方向，一種是AI理性化發(fā)展路徑，“拼命強(qiáng)調(diào)只是大語言模型”；另一種是AI情感化發(fā)展路徑，“千方百計(jì)證明能夠成為人的伴侶”。而AI“復(fù)活”和“數(shù)字永生”業(yè)務(wù)正是后者，通過“AI＋情感”這種模式試圖實(shí)現(xiàn)營(yíng)收。
他說，未來要進(jìn)行長(zhǎng)期的社會(huì)學(xué)和心理學(xué)研究，評(píng)估情感AI對(duì)人類行為、社會(huì)結(jié)構(gòu)和心理健康的影響，確保技術(shù)發(fā)展與人類社會(huì)的可持續(xù)發(fā)展相協(xié)調(diào)。同時(shí)要發(fā)展包容性強(qiáng)、適應(yīng)性廣的算法模型，提升AI的情感認(rèn)知準(zhǔn)確性，使其能夠?qū)W習(xí)并理解不同人群的情感表達(dá)方式。
那么，AI時(shí)代，“復(fù)活”或“數(shù)字永生”是否已經(jīng)成為我們面對(duì)死亡的第二種選擇？
百度公司研發(fā)的“文心一言”AI大模型給出的回答是：雖然AI“復(fù)活”或“數(shù)字永生”在技術(shù)上為我們提供了新的面對(duì)死亡的方式，但我們?nèi)孕枰鹬厣淖匀灰?guī)律，同時(shí)深入思考和應(yīng)對(duì)由此產(chǎn)生的倫理、哲學(xué)和社會(huì)挑戰(zhàn)。
(應(yīng)采訪對(duì)象要求，文中王濤、阿亮為化名)
見習(xí)記者 席聰聰 記者 李若一
（責(zé)任編輯：梁艷）
晉公網(wǎng)安備 14090202000008號(hào) 
