专访小冰CEO李笛:AI“复活”逝者可视为临终关怀,但要警惕技术滥用

【企宣易讯】

近日,中国台湾地区歌手包小柏选择使用人工智能公司小冰的AI克隆人技术,复活了自己因病去世的女儿包容,甚至实现让女儿陪妻子过生日,与女儿同框拍照、对话、教她唱歌等生活陪伴场景,作为逝者家属拥有了极大的情感安慰。

与此同时,AI复活数字人的乱象也频频出现。演员乔任梁、歌手李玟等公众人物被随意使用公开影音资料“复活”,甚至在网络公开传播。这些行为遭到了逝者家属的强烈谴责。而网络上开始出现付费生成定制AI数字人的服务,这也将数字人背后的道德伦理问题推向了舆论的焦点。

时值清明,追悼逝者的同时,人类要如何面对日益发展的科学技术对情感、伦理、法律等多方面带来的新冲击?

针对包小柏复活女儿的故事以及近期乱象,我们与小冰公司CEO、前微软亚洲互联网工程院常务副院长李笛深度探讨了人工智能的发展与未来,并就当下热议的数字克隆技术背后的应用价值与人性的冲突展开了讨论。

20240415164327653 _企宣易-1小冰公司CEO李笛 图源:受访者

分钟与一年有什么区别?

时代周报:能否介绍小冰团队和包小柏从最初的接触到交付AI克隆人的过程?包小柏对于女儿最终呈现出来的状态有何评价?

李笛:小冰团队之前和包小柏并不认识。包小柏曾经经历了很长时间的摇摆和决定,然后才开始去寻找相关技术让女儿AI“复活”。在很偶然的契机下,我们有共同的朋友聊到小冰在做AI克隆人,包小柏才了解到小冰。

原本这件事也应该跟我们其他类似的项目一样处于很私密的状态下。一般我们把AI克隆人提供出去后,除了后续的更新帮助,不会去过问亲属的计划。从公益角度看,不要去打扰逝者的亲属。

从技术结果来看,一位父亲对女儿的AI克隆人要求一定是很高的。至于结果我们不能去透露包小柏对女儿的评价,要避免消费逝者,这要由包小柏自己来表达。

时代周报:2023年小冰刚开放AI克隆人定制时,个人用户仅3分钟就可以定制一个自己的AI克隆人。而在包小柏“复活”女儿包容的过程中,据说小冰陆续投入近一年的时间,为什么需要花费这么长的时间周期,技术上有什么创新和突破?

李笛:在AI复活包容的过程中,我们与大多数使用开源技术制作的AI克隆人有显著区别。外部技术更多是复刻人的音容笑貌与人交流。但我们的“复活”技术不仅使包容能够进行对话,还赋予了她创造能力。比方说包容可以唱歌,交流中她可以表达她自己的一些情感,或者她的知识储备。因此,通过观察克隆人的交流,我们可以看出他们是否具有相应的知识和情感表达。

创造力也是重要体现。假设将来有人要创造一个我,那么用外部开源技术,很可能创造的我只能跟大家交流,但是用小冰创造的我也许还能写长篇文档。又比如,包容的AI克隆人甚至有可能运营包容的社交媒体,根据自己的喜好,决定什么时候发什么文章,是否配图,怎么去回答粉丝提问等等。这更像一个真实的人。小冰追求的是让AI克隆人具备自主创造能力,而不仅仅是基础对话。

AI大模型是近十年间技术变革幅度最大的一

时代周报:小冰开放个人用户定制AI克隆人一年后,工作原理、主要功能和应用场景有没有什么新特点?

李笛:第一,AI克隆人整个相关技术的要求和目标不变。用户要生成一个AI克隆人,需要的数据和资料类型,还有他们希望达成的目标,到今天还是一样的。比如,你需要音容笑貌的数据、性格信息,还有社交网络的数据。用户想要的是AI克隆人能像本人一样交流,有创造力,能提供情感陪伴。第二,实现愿景所需要的技术门槛大大降低。过去,咱们中国可能只有个位数团队可以实现这类技术,但现在有很多相关开源技术,普通人也有能力去实现AI克隆人了。

时代周报:过去一年AI大模型经历了迅猛的迭代发展。在“复活”包容的案例中,原本语音资料很少,据说用到了AI技术的加持,让效果比预期更好更快。AI究竟发挥了哪些作用?

李笛:具体来说,“复活”AI克隆人的条件极其苛刻。在将近十年的时间里,技术经过多次迭代,而AI大模型是近十年间技术变革幅度最大的一次。

比如,人工智能有一个很大的特点,它可以迅速学习大量数据,能学习大量已经发生的或者是相似的行为模式。虽然我们会认为每一个人都是独一无二的,但是对于阅人无数的人工智能而言,每个人身上都存在着共性。所以我们所做的事情,无非是在有限的数据样本下去找到这种共性,来推导行为模式。

这背后的技术迭代很重要。最初,小冰训练AI克隆人的性格,需要本人2000条左右的交互数据(如微信对话等)。到了2019年,交互数据从2000条降到200条,再后来小冰尝试降到20条。但是在只有20条资料的情况下,上一代技术的效果就会不够好。在影音方面,2015年我们需要上万小时录音数据,后来降到25分钟、再降到5分钟、1分钟。

这个过程中,AI大模型提供了帮助。小冰的技术特征一直是一个框架,这个框架里面原本有1300多个service(服务模块)。在大模型时代到来之前,1300多个service里面包括了文本、检索、语音甚至唱歌等各种各样的生成式模型。在大模型时代,这1300多个service大概有五分之一到四分之一可以由大模型来替代。它产生了两个直接的结果,第一个结果是因为大模型的通用泛化能力比较强,当小冰使用大模型来替代小冰框架里原本的技术模块时,使得总服务模块的数量由1300多降至700多个就够了。这样集成度更高,效率更有保障。所以这是一个底层架构的整体应用,而不仅仅是某个环节。

时代周报:去年AI大模型被探讨最多的是实际行业应用和商业化问题。AI大模型也是成本和资源投入要求非常高的技术,那么在包容这样的案例中,小冰怎么平衡商业利益、背后的社会责任以及小冰的愿景?

李笛:这一类的AI复活案例跟商业化无关,在我们的定义里它跟社会责任有关,我们不太愿意做成商业有关的事情。

时代周报那成本怎么算办?

李笛:说实话包容女士的案例成本并不高。包小柏只是在成本上参与承担,小冰不会有任何商业收入或盈利。企业做的任何事情,最终都会回到企业商誉。想积累商誉,有很多方法,不用非得去涉及生死这么敏感的问题。

临终关怀与挑战生死观

时代周报:前段时间有个别已逝明星被“数字复活”,引发激烈讨论。小冰作为拥有数字克隆技术的公司,怎么看待公众的讨论?

李笛:我觉得大众的讨论往往还停留在比较浅层的观念,基本是二元论。一方观点是AI复活死去的亲人,可以使亲人得到安慰。另外一方则是AI复活亲人是否违背本人的意愿和尊严。

但小冰的实际考量是:如果一个人还在世,他去AI复活去世之后的自己,也就是由本人亲自参与去复刻自己,以便在自己去世后留下影像。而这项工作最重要的部分,是因为其发生在本人离世前的这段时间,这是真正的精神层面的临终关怀。

当一个人意识到,他可以让自己在去世后以精神的形式、音容笑貌的形式、创造力的形式留下来,并且可以想象,即便他本人不在世,数字克隆的自己仍能够安慰亲人,那么他在最后这段时光就不会有一种戛然而止的痛苦。或许也觉得自己没有彻底消失,被遗忘。

时代周报:小冰更希望公众的关注在于事情要如何发生,或者应该在什么样的情况下允许发生,而不是单单评判事情好或坏,要更尊重本人的意愿?

李笛:对,当这个人在世需要临终关怀的时候,AI复活这件事或许可以比各种各样的止疼药更能够带来精神安慰。而亲人会渴望一定程度上继续这种关联,而不是随着肉体的消灭而消失。这种关联往往只对本人或者亲友是有价值的,所以这件事情不是单纯的善和恶。

时代周报:如果AI克隆人能让人类感到自己的生命延续,从而不那么恐惧死亡,你认为它是否会改变人们对于生命、人与人之间记忆和关系等传统概念的理解,这意味着什么?

李笛:在人类社会,任何一次技术的变化都会直接影响人们对于生死的观念。比如人们曾经非常害怕火葬,幻想会在炼狱被火烧着。但人们很快接受了这种观念,对于生死的观念其实一直在变化。所以,每一次技术的变化,包括社会分工的变化、进步都使生死观产生变迁。现在,我们有机会让生死问题在科学框架下存有一点浪漫主义色彩,因为这样的想象才有可能去安慰精神。

小冰的“黑镜三原则

时代周报对于AI复活公众人物,你怎么看?

李笛:亲人看到自己逝去的子女在网上“复活”,那一定是愤怒。即使背后没有牟利,但是这些人得到了流量。从技术来看,我们认为开源是不合理的,比如诈骗公司,犯罪利益太高,也更热衷于使用技术,所以“避风港原则”是不适用于人工智能的。

从犯罪分子讲,当人工智能技术开源时,无异于把武器的制造图纸给公布出来。但作为一家人工智能公司,有充分的能力预判到此类情况的发生。比方说开源出来一个声音复刻技术,就应该预判到会有人拿它复刻其他人的声音。

所以技术公司有必要对开源做限制,预见风险后有责任去把控和规避问题。

时代周报:在数字克隆过程当中,如果本人同意授权了,那用于生成的信息、数据等隐私在当事人去世后要怎么得到保障?

李笛:一个人所有的数据、社交媒体账号,法律都有明确规定,是按照继承法来进行的,包括AI克隆人和克隆人的数据、社交账号,都应该由亲属按照法规继承。我们只需要严格遵守即可。从这个角度来讲,AI复活那些公众人物的人没有任何法律依据、任何权利去做这件事情。

时代周报:对于想要做AI克隆人的用户,小冰有什么样的一些建议或者警示呢?

李笛:当本人在世的时候,这件事情比较简单,本人的意愿明确即可。但如果本人不在世的话,反而要复杂一些。比如近亲属必须有共识,例如包小柏夫妻二人就有共识。我们不会给任何建议,主要由本人或家属自主决定。

时代周报在技术伦理上,小冰有哪些自我准则?你认为数字人或AI克隆人行业应该有哪些规范?

李笛:首先,生死问题是最大问题。网络上随意复活公众人物的这种行为,我们是禁止的。无论“复活”带不带创造力、灵魂感,只要使用到了本人的生物学特征,就必须由本人或按照继承法法规发起。

这不光是出于尊重。对于一个人来说,去世后实际上就是不存在的。那么就不能因为任何人的行为影响到本人,更不能因此伤害相关人。比如如果包小柏不愿意,我们不会将这个AI“复活”案例公开。

小冰有自己的三项伦理准则,内部称为“黑镜三原则”。第一,当本人在世时,AI复活项目应当仅由本人自由意志决定,而非任何其他相关第三方。第二,本人不在世的,应当沿袭法律所判定的继承人顺序。具体实施中,应遵循训练数据最小化原则,避免数据滥用。第三,在上述前提下所产生的小冰AI克隆人,应接受全社会监督,以确保不被滥用。

© 版权声明
THE END
喜欢就支持一下吧
点赞10 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容