万博体育下载

“法式”生活丨AI“复活”业务上架 科技+温度的安全边界在哪里?

2024年03月21日17:33

来源:大河网

大河网讯 “嘿,你们好吗?我是CoCo李玟。”在生成式AI技术发展浪潮下,与已逝故人“再见一面”成为可能。前不久,李玟、乔任梁、高以翔等已故明星就被AI技术“复活”,坐在镜头前与网友“问好”,引发了大量讨论。

网友用AI生成李玟的视频

在购物平台上,还存在着不少AI“复活”亲人的付费服务,价格从几十元到数千元不等,只需要一张照片、一段声音、几十上百个定制文字,逝去的人就可以音容并茂、“开口”说话。然而,用AI“复活”已逝故人,是寄托哀思还是会加重悲伤?这样的服务是否存在法律风险?

3月21日,就AI“复活”背后的争议,大河网记者采访到互联网行业专家、律师和心理咨询师,一起讨论科技+温度的安全边界在哪里。

价格从几十元到数千元不等

照片+音频就能让逝者“复活”

如果在电商平台上搜索,便可以看到多个提供AI“复活”亲人付费服务的店铺,效果从简单修复照片、制作生日祝福或安慰视频到与用户实时交互,标价从几十元到数千元不等。

据平台数据显示,有商家已经售出了超过400单。

在电商平台搜索AI“复活”显示的页面

记者就其中一个标价10元的“AI‘复活’亲人”的链接向店铺客服咨询时,对方表示,“只需要提供一张清晰照片,就能让嘴巴眼睛动起来,并可以让他(她)说出想听的话,但具体收费需要根据买家对定制动态视频的需求而定。如果仅需固定AI配音的视频,一般定价是50元,而需要克隆本人原声的话,则需要90元”。

随后,记者又咨询了另一个店铺,卖家同样表示,只要提供正脸照片、一分钟的音频文件和购买者希望说出的内容,就能复活出专属的“数字亲人”。但如果要实现对话功能的话,需要用到ChatGPT或类似软件,并根据逝者生前习惯训练语言模型,所需的数据和费用要多出很多。

小红书APP同样有从事AI“复活”的相关账户

“其实,所谓的AI‘复活’逝者,主要基于深度学习、计算机视觉、语音合成和大数据分析等技术,对逝者生前的文字、音频、视频资料进行深度学习。”万博体育下载理工大学计算机科学与技术学院教授侯守明解释道,当这些技术协同工作,以视频或者三维的方式模拟并呈现出逝者的面部特征、声音以及行为模式时,就实现了“复活”效果。

过去也不乏使用技术手段“复活”已逝故人的例子。在纪念邓丽君的演唱会上,就曾通过全息投影“重现”邓丽君的身影;“钱学森数字人”将用于教育传播科学文化。但不同的是,过去的技术门槛较高,花费的时间、精力更大,而现在,简单地生成模式化影像的AI“复活”技术门槛有所下降,只要有相关软件就可以操作,这就给了更多普通人接触这项技术的机会。

“虽然现有的一些AI软件产品已经能够在一定程度上实现逝者‘复活’的功能,但它们仍然存在一定的局限性和挑战。”侯守明说,对于面部重建和行为模拟方面,目前的技术还难以完全还原逝者的真实面貌和动作细节。同时,在语音合成方面,虽然可以模拟声音特征,但无法完全复制逝者的语言表达和思维方式。

哀思变“商机”会侵权吗?

律师提醒:行为需征得家属同意

AI“复活”逝者的行为模糊了现实和虚拟的边界,争论自其诞生起就一直存在。

多位已故明星家属并不支持网友“复活”偶像的做法,认为这是在往他们的伤口上撒盐。高以翔家人和乔任梁父亲目前都明确表示,不希望自己已故亲人的肖像被他人任意使用。目前,相关博主账号已删除此前发布的AI“复活”明星视频。

那么,谁有权采用AI技术“复活”逝者?任何人都可以被“数据复活”吗?通过AI技术“复活”产生的数据又属于何种权益?

根据《中华人民共和国民法典》第九百九十四条的规定,死者享有姓名、肖像、名誉、荣誉、隐私、遗体等人格权,在已故明星前述人格权受到侵害时,其近亲属有权依法请求行为人承担相应的民事责任。

“逝者虽然不直接享有民事权利,但其姓名、肖像、隐私等仍受法律保护。”在上海锦天城(郑州)律师事务所专职律师原乐看来,此条规定意味着视频制作者在未经逝者近亲属允许的情况下,使用AI技术模拟逝者可能承担法律责任,但仍需要具体问题具体分析。

“回看此前和近期陆续曝出的多起AI‘复活’服务案例,之所以屡屡引发不小争议,主要问题出在了权益相关者是否知情同意,以及如何规避风险上。”原乐认为,如果商家要从事此类商业活动,需要让购买服务方提供跟逝者相关的亲属关系的基本证明材料,否则有可能构成侵权。

实际上,当AI技术应用门槛越来越低,背后隐藏的风险也逐渐凸显。2023年,国家反诈中心就发文表示,国内已有AI换脸诈骗案:诈骗分子利用AI换脸换声制作冒充领导、熟人的视频,骗取受害者信任,进而实行诈骗。记者也注意到,很多AI复原技术的店铺都在商品页面强调:只帮助缅怀亲人,不做人脸识别,也不做违法的内容。不过,仍有网友担心自己提供的数据资料被不法分子利用假冒进行诈骗及贩卖非法低俗图片或视频。

“根据《中华人民共和国消费者权益保护法》第四十四条规定和《中华人民共和国电子商务法》的相关规定,如果商家明知道某些经营者是利用这种生成的AI人像在做经营活动,或是有可能从事犯罪活动,而不加制止、不采取相应措施的话,那么相关平台需要承担相应的民事连带责任。”原乐提道,《生成式人工智能服务管理暂行办法》明确提出,提供和使用生成式人工智能服务时,应当尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

“此外,AI‘复活’产生的数据作为一种新生事物,属于何种权益尚没有明确的法律规定,但较为一致的观点是属于财产权,至于该财产权的权利主体由谁享有,权益应当如何分配,目前尚无定论,需要实务界和理论界进一步探讨、明确。”原乐认为,任何新事物的发展,都要经历一个规范的过程。随着相关AI“复活”应用的增多,以及由此引发的讨论和关注度不断深入,关于AI“复活”的法律边界会变得越来越清晰,其利与弊的平衡社会也将形成更多共识。

用科技向“善”答题

看见“数字疗愈”背后的生命教育

知名音乐人包小柏用AI“复活”女儿 图源:包小柏社交媒体账号

临近清明节,AI“复活”亲人的讨论也带来了“生死观”的思考。通过技术手段,为逝去的亲人建立数字化身,通过“看见”去治愈疗伤,缓解悲痛弥补遗憾,正是对生命意义的求索。

小红书博主李稚气是AI行业从业者,她通过开源代码做工程化处理,让去世的姥爷重新“开口说话”,不仅用方言叫自己小名、问自己吃没吃饭,还告诉她最近天气冷,多注意身体。她说,“我的目标是开发一个H5,让家人都可以和‘姥爷’聊天。”在李稚气把视频分享到小红书上之后,有很多网友向她咨询如何实现“复活”的效果。以此为契机,李稚气想把部署在本地的工具开发成线上工具,让大家都可以使用。

但也有人担忧所谓的“复活”只是黄粱一梦。网友“乌拉拉闪闪”在咨询过几家AI“复活”的商家后,始终没有勇气迈出这一步,“姥爷去世后,一直很难接受这个事实,有时候看到和他外貌相仿的老人就会难过好久。仅仅是想象和他在屏幕上‘对话’的场景,我就很难控制自己的情绪,很担心这种‘复活’只是饮鸩止渴”。“乌拉拉闪闪”认为,失去的痛苦本就是人生的一部分,与亲人道别还是要有明显的边界。

在国家二级心理咨询师、幸福密码教育心理导师李欣看来,失去亲人是一种深刻的情感创伤,很多人会经历长期的悲痛和怀念。AI“复活”技术的出现提供了一种可能的安慰,让人们能在某种程度上重新与逝去的亲人建立联系,缓解一定程度上的痛苦。

“对于希望通过AI技术与已故亲人建立联系的人,我们应该尊重他们的选择和感受。”李欣说,虽然AI技术提供了情感上的安慰,但过度依赖可能会对身心健康造成不良影响。鼓励人们保持积极健康的生活方式,更好地面对挑战和困难。

有人反对并质疑AI“复活”技术的运用,但也有人真切地用此缅怀逝去的亲人。但,真挚的情感不应被利用来做“非法生意”,而应该打好规则的“补丁”,完善行业相关管理标准和规范。在为技术发展留足空间的同时,也守护好人们物质与精神的安全。

其实,任何技术都是中性的,它们所带来的现实影响,取决于使用者的引导和运用。而关键,是让科技向“善”。(董蕾)


  相关推荐

  ·“法式”生活丨游乐车“开”进商场 谁来为安全买单?

  ·“法式”生活丨妇女节有半天假吗?热搜背后是被看见的“她”力量

  ·“法式”生活丨“扫福”扫出新骗术 民警请你收下这张“反诈福”

  ·“法式”生活丨请注意!这些微信转账可要求返还

  ·“法式”生活丨@消费者 解锁网购维权正确姿势看这里


编辑:祝萍  审核 :范昭

我来说两句 0条评论 0人参与,