AI“复活”已故亲人引发热议：谨防技术被不法分子使用“包养门”事件再升级！56岁的蒋雯丽，不再被世界宽容

前不久，UP主“吴伍六”通过AI技术，“复活”了已经去世的奶奶，引发了各方关注。　　通过这位UP主发布的视频来看，他的“奶奶”基本可以做到日常对话那般随问随答。“吴伍六”也坦言，自己运用了包含ChatGPT在内的最新工具，希望通过AI技术填补自己的小遗憾。　　在ChatGPT大模型的加持下，AI竟然如此神通广大。关于这条视频，网络上出现两派截然不同的声音。　　支持者认为，通过AI技术“复活”逝者可以一定程度上缓解丧亲之痛，这项技术应该迅速普及;担忧者认为，虚拟世界与现实世界的界限应该保持清晰，不可沉迷其中;反对者认为，如果不法分子也掌握了这项技术，就可以实施电信诈骗等危害行为，因此要限制AI的发展。　　日前，我做客 《北京新闻广播·新闻天天谈》节目，就“AI复活已故亲人”“大模型技术发展”“虚实融合”相关话题，谈了一些观点和看法。今天分享出来(有补充)，供大家参考。　　1、我们关注到，在“与奶奶对话的视频”里，博主花了2分50秒的时间来讲述自己合成奶奶形象以及与奶奶对话视频的过程，从这个视频来看，看起来时间不长，但是，所谓“内行人看门道，外行人看热闹”，对于不是从事这个行业的人来说，是不是还是有一定门槛的，还是想请教请教您，他的这番操作是否算是高科技，没有AI技术基本功的人，也能做出这样的虚拟人吗?　　答：我们透过视频可以看到，整个流程没有用到编写代码，也不需要懂指令集。理论上来说，任何人借助这种工具，都可以生成以假乱真的数字人。　　不过，所涉及到的大模型GPT，以及AI内容生成图片产品，有几款是美国的。这就需要使用者掌握一定的翻墙或者间接翻墙技能，以及需要有一定的英文基本功。　　所以，目前UP主的这番操作虽然不需要太高深技术含量，但对于普通网友还是有一定的使用门槛。　　2、此外，我们也看到有报道说，国外与逝者聊天的相关服务，近年来已经形成了一条产业链，有需求的人只需要花费十美元就能创建属于自己的聊天机器人，AI会扮演你最熟悉的那个人，陪在你的身边，而那些收费更高的AI技术则可以记录人们的生活故事，并且打造专属的虚拟形象。国内市场上，现在是否有提供相关服务的公司和业务?　　答：国内大模型发展虽然比国外落后几个月，但也可以实现，也需要打一套组合拳。　　我们可以用百度的文心一言，生成标题、脚本、内容。可以用APUS旗下的简笔成画和墨染生成你想要的图片或者形象，可以用科大讯飞旗下的讯飞配音生成定制语音库。　　至于虚拟人形象，科大讯飞以及即构科技等公司，也可以定制。也可以期待百度，百度的虚拟人很早就实现了语音、唇动、肢体动作的相互配合，期待它能够迅速对公众开放。　　另外，想把这些过程输出为一个完整的视频，可用剪映这样的工具完成最后的剪辑。　　再补充一个信息，现在阿里巴巴正在研发自动生成视频的技术，有17亿个参数。不过这个服务我体验后，效果还很差，将来进步后也有引爆市场的机会。　　3、“AI复活已故亲人”给人带来的温暖和安慰，当然如果深度依赖也会给人带来负面影响。也想请问您的观点，对于“科技是否能够用于逝者追思”这样的问题，您会给出怎样的回答?　　答：这个话题几年前我就思考过。　　我记得在几年前，有部名为《与你相见》的纪录片在韩国引发关注。在这部纪录片中，韩国母亲张智星失去了7岁的女儿，有一支制作团队借用虚拟现实技术，来帮助她在元宇宙世界中与女儿重逢。　　当元宇宙中的女儿喊着“妈妈，妈妈”奔向张智星时，所有人都泪目了。　　我在想，随着技术的高速发展，真与实的界限逐步模糊，将来借助虚拟技术，每一人都可以和已故亲人重逢，该是多么激动人心的事情啊。　　还有电影《美国队长3》我们都看过吧，在这部电影中，钢铁侠耗资6.11亿美元，打造了一个与去世亲人可以相见并且互动的虚拟模型项目，骗过了麻省理工学院所有学生。这个模型，应用了二元扩张倒退框架，通过海马体消除创伤记忆，虽然无法改变真实发生的事情，但在虚拟世界可以改变一切，因此一定程度上治愈了失去双亲的内心创伤。　　至于深度依赖也会给人带来负面影响，这个是心理学话题，我不是很懂。　　4、这条新闻之所以能够引起大家的广泛讨论，甚至是争吵，实际是因为大家担忧科技的边界到底在哪，尤其是CHATGPT带来的这一波生成式AI热潮，在拥抱新世界的热情之余，一些面对未知的恐惧、不安也开始涌现。未来生命研究所此前公布一封公开信，呼吁所有AI实验室至少在未来6个月内暂停训练比GPT-4更强大的AI系统，公开信一出，舆论迅速发酵;意大利个人数据保护局宣布，3月31日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的美国人工智能公司OpenAI处理意大利用户信息。在您看来，大家担心的AI失控背后的本质是什么?　　答：很简单，大家担心的问题就是那个永恒问题–到底是人控制AI，还是AI控制人。一旦AI有了思想和自主意识，它是要造福于人类世界呢，还是会毁灭人类世界呢，没人能给出答案。　　所以，为了谨慎起见，有人呼吁未来6个月内暂停训练比GPT-4更强大的AI系统，欧洲那边更是把最擅长的立法拿出来，意图限制AI的发展。不过，以Gpt4为代表的自然语言生成模型，发展到今天，只能继续往下发展，它不会以任何人的意志而扭转。　　就像宝刀屠龙一样，人人均知它的威力和危害大，但人人对它垂涎三尺。这段时间，国内包括百度、阿里、360等陆续抢先发布大模型，已然证明了一切。　　5、数字虚拟人技术的发展已经成为一个不可逆转的趋势。随着AI技术和计算机图形学的进一步发展，数字虚拟人将会变得越来越逼真和精细。我们需要正视生成式AI可能带来的哪些风险?我们可以做些什么来规避这些风险?　　答：现在AI生成视频还做不到以假乱真，但生成文字和图片，已经可以骗过大多数网友了。我们要警惕不法分子，利用AI技术施行电信诈骗、侵犯用户个人隐私等行为，所以我国也开展了积极立法。　　4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见，内容的真实性、训练数据的安全性等备受关注的话题皆在其中。意见稿提出，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。根据征求意见稿，生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。　　另外，我们的行业也在积极自律。比如我们通过百度文心一言或者阿里通义千问，输如一些敏感和违规词条，它们不会给你输出任何答案。