“00后”用AI技术“复活”奶奶！生成虚拟数字人是否存在隐患？
近期
人工智能等话题层出不穷
引发网友热议
如果用AI技术复活去世的人
你会得到怎样的回应呢？
有一位网友就做到了
他用AI技术
让去世的奶奶和自己重新对话
……
01
用AI虚拟奶奶
B站UP主吴伍六是一位上海的00后视觉设计师。前段时间他发布了一段视频，视频中，吴伍六用AI工具生成了奶奶的虚拟数字人，并和奶奶进行了对话。
视频里，奶奶讲着湖北的方言，头发花白，像她生前一样唠叨。光看表情，可以说是惟妙惟肖。
因为非常思念奶奶，吴伍六和奶奶聊了很多，比如升职加薪，比如最近的身体状况。
他说的每一句话，奶奶都会仔细聆听，或是点头，或是眨眼，一一给予回应，还不时发出爽朗的笑声。
02
AI是如何做到的
在视频中，吴伍六还原了复活奶奶的整个过程。
首先是头像。吴伍六选择了当下主流的AI绘画软件Midjourney，并上传了奶奶的照片。
之后再用文字细化某些面部特征。比如皱纹、眼眸、发型和神态。
下一步是音频。这一步的素材基本来自于过去的电话录音、录像视频或者微信语音。吴伍六将过去奶奶的电话音频上传给了AI，并用音频编辑软件AU进行调整，将音频切割成若干秒的短句，方便标注。
最后将处理好的音频打包放入语音合成系统中去，利用该系统，吴伍六就可以尝试输入文本转语音了。
接着最关键的一步——生成虚拟数字人。通过D-ID，用户可以生成数字虚拟人，并和他们展开交流。
在左侧选择头像，右侧上传文本或音频即可。
网站上奶奶的形象栩栩如生，音频也完美还原了奶奶的乡音。搭配上右侧拉家常一般的聊天内容，宛如和奶奶面对面视频通话一样。
值得注意的是，奶奶的这些回复是吴伍六借助时下大热的ChatGPT生成的。
他告诉ChatGPT，我很想我的奶奶，你能不能模仿她的口吻来和我交谈？
借助对奶奶的回忆，吴伍六也竭尽全力地让ChatGPT更像他的奶奶。
03
虚拟生命引发网友讨论
有网友看完视频很感动，想起了自己失去的亲人，认为这样能寄托哀思，非常有意义。
想制作这类AI奶奶，必须要有身故者生前的音频才能还原语言，有网友因此后悔没有好好保存亲人的音频数据。
也有网友认为，没必要把已故亲人做成AI，亲人感觉就是被操纵的电子玩偶，你想让它怎么说就怎么说。
还有网友认为，生活应该向前看，不应过度沉浸在悲思中。
更有网友担心，这种技术如果被用在不法用途上……以后有人借钱，视频确认都不好使了。
04
吴伍六发声：只是给自己一个心理安慰
看到网友的讨论，吴伍六发文介绍了自己制作这段视频的初衷：只是希望用AI技术填补与奶奶没有好好告别的遗憾。希望大家珍惜当下，现实的陪伴永远是最重要的。
随后采访到了吴伍六，他说，之所以用AI复活奶奶，是因为自己不能接受奶奶的突然离去。吴伍六从小由奶奶带大，与奶奶的感情很深，以前我遇到事都会和奶奶说，现在我也不知道和谁说了，其实我还是很想和奶奶说。
吴伍六平时从事AI工作，因此他想到了用AI复活奶奶。他导入了奶奶生前的照片，制作出了奶奶的动态头像，又将奶奶生前的通话音频导入AI，训练AI模拟出奶奶的声音和语气。
他告诉，自己知道自己做的这件事情只能给自己一个心理安慰。他明白，呈现出来的始终是一个虚幻的影像，但怎么说呢，只要是能再看一看奶奶，再说几句话也是好的。
吴伍六介绍，以目前AI的技术水平，只要样本足够多，面容、声音、语气这些都可以达到相似度90%以上。但目前AI在思维模式上只能达到50%，它没法像人类一样思考。这件事的本质就是要求AI当演员，去扮演一个人，相貌声音它都能模仿得非常好，但就目前的科学水平来说，它还无法模仿一个人的灵魂。我和‘奶奶’只能简单沟通，说复杂的话，AI就理解不了了。
05
当AI复活逝者：
带来慰藉，也引发争议
目前，已有不同类型的技术可将去世亲人重现在生者面前，但AI技术的进步和使用，也带来了伦理甚至是法律上的争议。
近期，随着CHATGPT的流行，众多AI技术业内人士、哲学家和心理学家也开始反思AI技术的利弊。
意大利都灵大学哲学家及专注于数字文化中死亡问题的作家大卫·西斯托（Davide Sisto）认为，在某些方面，通过AI技术复活的虚拟数字人物只是历史上人们寻求与逝者保持联系或交流方式的一种延伸，虽然照片可以用静态的方式代替死者，但当今的AI技术赋予了逝者数字化的‘永生’能力。
清华大学人工智能国际治理研究院副院长、公共管理学院教授梁正此前接受媒体采访时则表示：有的人希望逝者‘复活’，对他们来说在生活沮丧的时候能听到亲人的声音有一种积极的意义，有利于精神上的振作，情感上的慰藉。但是对于一些不能够辨别真假的未成年人或者老年人来说，长期依靠科技，会产生‘依赖感’，如何控制人工智能带来的风险，还有待考量。
06
用AI技术复活亲人照片
各国是这样应对的
上海政法学院人工智能法学院院长杨华介绍说：‘复活’照片是利用了一种名叫‘深度伪造（Deepfake）’的技术。通过将图片或视频合并叠加到源素材上进行样本学习，将声音、表情及动作进行拼接，经过‘换脸’，老照片也就‘动’了起来。
说到这里，大家是否想到了之前特别火的蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈，蚂蚁呀哈哈？
相信不少人都被这个魔性的音乐配合着夸张扭动的变脸视频刷屏了，而这款利用AI技术的换脸软件在2021年2月底冲上苹果App Store免费榜第一仅几天，就因涉及隐私安全等问题于2021年3月2日凌晨从App Store中国区悄然下架。
对此，杨华表示，这项AI技术在国外是受到限制的，有些国家甚至明令禁止对某些人的面容进行深度伪造。美国是最早提出对深度伪造技术进行立法的国家，与深度伪造技术直接相关的法案最多，而且从联邦到各州政府层面均有部署行动。2018年12月，美国参议院提出《2018年恶意伪造禁令法案》，违反并造成严重后果的，将面临10年监禁。在应对深度伪造技术上，欧盟则主要通过个人信息保护和虚假信息治理等法律法规来从法律层面限制人工智能伪造技术的应用。
而在我国，2021年3月18日，国家网信办和公安部也联合针对涉深度伪造技术的应用，指导部分地方网信部门、公安机关依法约谈了11家企业。
针对深度伪造技术的出现和应用是否存在法律隐患？杨华表示，这项技术其实潜在涉及着当事人的人格权、肖像权与名誉权等相关问题。肖像权作为人格权的一个组成部分，是每一位公民都享有的一项权利，无论当事人是否在世。
杨华还表示：许多人会在不同场合下运用与情景、心境相匹配的表情，倘若通过‘深度伪造’，一些本该严肃的场合却让当事人大笑，可能涉及到对其名誉权的损害，存在更大的风险。
07
法学专家表示
深度伪造易致个人信息泄露
中国刑法学研究会副会长、上海市法学会刑法学研究会会长刘宪权认为，人脸识别技术应用的场景越来越广泛，与此同时，法律隐患也越来越大，十分容易造成个人信息泄露。
上海政法学院人工智能法学院院长杨华表示，无论是逝者家属自愿找到商家要求对逝者照片进行AI修复，还是一些有心人士进行带有其他目的的操作，如果追究起来，都会面临法律问题，只是涉及到法律责任承担的大小比重如何分担。倘若发现自己的照片遭到深度伪造，可以主张追究伪造者的法律责任，若照片中的当事人已经去世，其继承人有权代为行使法律责任。
民法典第九百九十四条规定：死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任；死者没有配偶、子女且父母已经死亡的，其他近亲属有权依法请求行为人承担民事责任。
刘宪权还表示，单纯从目前的情况来看，并未存在侵权问题。如果用AI技术进行换脸或对当事人进行恶搞，但未经过当事人或其家属的同意，或将面临侵犯当事人名誉权等法律风险。甚至，如果将换头术运用到人脸识别中，进行财产处理等，还有可能涉及到刑事犯罪。
有律师表示，上述情况主要涉及死者家属的精神损害问题，无论是支付宝、微信等支付APP，还是小区里广泛应用的人脸识别技术，都可能存在法律隐患。规范人脸识别技术迫在眉睫，应从立法层面对能够采集人脸样本的系统进行管理，规范人脸识别采集的权限，杜绝技术的滥用。
（来源：南方日报、新智元、《扬子晚报》、大河报、极目新闻、南方+客户端、法治日报、网信江门）
