新火种AI|用AI技术“复活”亲人，是全新机遇还是伦理挑战？

原创赞收藏评论

举报 2024-03-13

扫描,分享朋友圈

作者：小岩

编辑：彩云

近日，著名音乐人包小柏用AI技术“复活”了已经去世的女儿，惹得全网热议。因病去世了几年的女儿忽然获得了“数字生命”，鲜活的存在于电脑里，她不仅可以唱歌，还能与家人进行对话。这样的状况与《流浪地球2》中的情景几乎毫无二致。也正因此，这条新闻无论是在技术层面，还是从情感层面，都给了大家极大的触动。

图片7.png

当然，因此而引起的评论也呈现出了两极化的趋势。有人认为，让亲人的音容笑貌得以延续，这恰恰是AI存在的伟大意义。也有人对“数字生命”持保留态度，生老病死是生命的普遍规律，很无奈，但没有人可以阻止。通过技术不断的“复原”逝者，只会是自欺欺人，给在世的亲人带来更大的痛苦。

关于道德与伦理方面的争论还没有一个确定的结果，可科技发展的车轮却如此迅速，全然没有要停下来的意思。

上海00后小伙用AIA技术“复活”奶奶：只是希望用AI技术弥补遗憾。

用AI技术“复活”亲人的，远不止包小柏一个人。

就在最近，上海的00后视觉设计师，B站UP主吴伍六用AI技术生成了去世奶奶的虚拟数字人，并和自己开展了对话。这段视频在B站上引发了网友的广泛关注。

吴伍六在接受媒体采访时表示，之所以用AI“复活”奶奶，是因为自己不能接受奶奶的突然离去。吴伍六平时从事AI工作，就想到了用AI技术“复活”奶奶。他导入了奶奶生前的照片，制作出了奶奶的动态头像，又将奶奶生前的通话音频导入AI，训练AI模拟出奶奶的声音和语气。他这么做的初衷只是希望用AI技术弥补与奶奶没有好好告别的遗憾，并希望大家珍惜当下，现实的陪伴永远是最重要的。

图片8.png

值得一提的是，吴伍六还在视频中分享了整个“AI奶奶”的制作流程，主要就是使用了最近大火的AI绘图网站Midjourney以及AI语言模型ChatGPT等。其中的语音素材，源自吴伍六和奶奶连续两年的手机通话录音，他以此为数据训练AI模拟出奶奶的声音和语气。照片则是从殡仪馆要来的，上传到Midjourney进行优化，制作出了奶奶的动态头像，然后在ChatGPT中输入关于奶奶的信息，从而生成虚拟数字人。

打破真实和虚拟的边界，用AI“复活”亲人极有可能成为未来的热门赛道。

如果说博主吴伍六用AI“复活”奶奶是为了寄托自己对逝去亲人的思念，那么有些人则是因此窥见了商机，纯纯打起了生意经。

电商平台上就存在不少做AI“复活”生意的商家。在某电商平台，AI“复活”的商品标价从几元，几十元，到上百元乃至数千元不等。有的商家甚至挂出了“只需要52.1元，就能还原逝去亲人的容貌并和ta聊天”的噱头。

譬如一位网友认为自己最大的遗憾就是身在异乡，没能见到父亲的最后一面。他在办完父亲的身后事后，还是会止不住的思念父亲，会把自己关在房间里一遍又一遍的翻看自己和父亲的聊天记录。直到某一天，他在短视频平台上刷到有商家提供AI“复活”亲人的服务，他感觉自己好像是抓住了救命稻草，赶紧支付了200多元并提供了父亲生前的录音和照片。随后，网友收到了一段短视频。视频里，父亲微笑着对他说着话，视频只有短短几十秒的时间。

图片9.png

想必大家都能意识到，说是用AI“复活”逝者，其实生成的内容与逝者本身一点关系都没有。商家只是利用AI技术，将逝去亲人的文字描述，图片，视频和声音资料输入AI算法模型，从而模拟生成一个数字形象，这个形象具备了逝者的某些典型特质（性格，声音，容貌等），仅此而已。

就连“AI奶奶”的博主吴伍六都说，“这件事的本质就是要求AI当演员，去扮演一个人，如今的AI可以很好的去模仿一个人的相貌和声音，但就目前的科学水平而言，它无法模仿一个人的灵魂”。很多想AI“复活”亲人的网友，也不过是想谋求一个心理安慰。

全新技术引发争议：缅怀固然重要，保护隐私谨防被骗也是要紧事。

一直以来，针对AI应用，特别是“AI复活” 应用的争论就从未停止。即便现在，“AI复活”的技术已经突飞猛进，形成了井喷式的发展，也依然无法帮助其在伦理，道德以及法律方面找到一个足够有力的支撑点。

一方面，“AI复活”这件事对于社会伦理和社会道德产生了不小的冲击。很多人认为人死不能复生，一味的沉湎于过去，只会让自己更加痛苦。更重要的是，那个克隆出来的，所谓的“亲人”与逝者是毫无关系的。

图片10.png

另一方面，尽管目前还没有明确的法律法规对于“AI复活”的行为进行明确规范，但制作方在利用数字技术行“复活”时，是需要承担一些法律责任的，诸如“制作出来的形象与实际偏差太大”“侵害逝者名誉权，肖像权”等相关权益。

2023年7月，中国颁布了《生成式人工智能服务管理暂行办法》，要求研发方要在生成式AI技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰，具体，可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升守法意识，监督指导标注人员规范开展标注工作。诚然，这个法规可以对当下兴起的“AI复活”技术起到一定的监管和威慑作用，但它毕竟不是专门监管“AI复活”的具体法案，无法做到面面俱到，百分百贴合。毕竟，立法都是略微滞后的，特别是在新技术领域。

不可否认，科技是把双刃剑，AI也不例外。我们可以利用飞速发展的AI技术实现一系列的革新和突破，诸如人脸识别，语音识别，提高安防效果等。而备受关注的“AI复活”，还能够弥补一些人没能“好好和亲人告个别”的遗憾。但是，一旦这些技术被坏人利用，就可能成为滋生诈骗，邪恶，丑陋的温床。

历史的每一次巨大革新和变革，总会伴随着对于社会规则，道德和伦理方面的挑战。在不久的未来，如何去把握科技伦理与社会发展的边界，在加速发展和审慎规范之间找到平衡点，这将会成为全人类关注的焦点。

本文系作者授权数英发表，内容为作者独立观点，不代表数英立场。
未经授权严禁转载，授权事宜请联系作者本人，侵权必究。