您现在的位置是:首页 > 互联网 >正文
AI换脸软件在网上公开售卖,法律边界在哪里?
发布时间:2023-06-02 16:50:52贾利凤来源:
AI换脸软件在网上公开售卖,法律边界在哪里?
近日,因AI换脸技术导致的诈骗案件引发了人们的关注。伴随着AI大模型的发展,“换脸”技术应用范围越来越广,技术的突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能会带来严重危害。记者调查发现,在网上,AI换脸软件的获取非常容易,利用AI换脸软件的法律边界在哪里?如何做好事前监管?
网络上出现付费AI换脸软件
套餐价格从499元到2888元不等
当下,依托于大模型及算法的突破,AI换脸正在实现更大范围的应用,引发更多担忧。在网络上,演示换脸软件使用方法及效果的教程比比皆是。不同于大量给普通人“尝鲜”的免费软件,记者发现,在网络上还有很多高价的付费AI换脸软件,这些付费软件与免费软件有什么样的不同?
记者搜索“AI换脸软件”后联系上了一个开发者,他给记者提供了一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频,右侧则是换脸之后的视频,肉眼来看,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
△卖家展示的素人换脸效果(S为原视频,D为更换之后)
在其销售网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴拼接到一起,生成全新“数字人”的视频。
△卖家展示的局部五官更换
这一付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,499元提供软件界面、视频指导、换脸模型等,如果花2888元,则可以得到全套(LV5)等级的视频换脸模型。
△网络上提供多种不同等级的换脸软件产品
“想换什么脸都可以”
AI大模型可集成多种功能打造“数字人”
打开该网站,底部没有任何文字显示其经过了备案。卖家也十分谨慎,全程仅用文字交流。他表示,与初级(LV1)至超级(LV4)套餐相比,全套(LV5)版本迭代更多,能力更强,也可以理解为换脸效果更为逼真,同时,不仅可以实现视频换脸,还支持直播换脸。
记者进一步询问,能否根据自己的需求换脸?软件开发者表示:“想换什么样的脸拿素材训练就可以”。
△软件开发者在与记者的聊天截图
一位从事AI开发的技术人员表示,这意味着可能会有更多难以控制的风险。“类似于deepfake这样的AI换脸技术是开源的,最近的AI大模型火起来,它的算法又有了更新,就可以集成文生图、文生文,文生音频、文生视频、换脸,这样的功能结合起来,就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’,监管的成本和难度高了好几个数量级。”
△卖家展示的用户反馈
专家:有效的标识监管体系
能提前厘清AI换脸带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示,从事后打击的角度来说,刑法中有关于诈骗罪的规定;民法典明确,公民享有肖像权、姓名权、名誉权等等相应的民事权利。也就是说,如果发生使用他人的肖像进行诈骗的相关案例,不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下,还应探讨如何能够做到有效的事前防范。
例如,在《互联网信息服务深度合成管理规定》中要求,深度合成服务可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法(征求意见稿)》要求,利用生成式人工智能产品向公众提供服务前,应当按照有关规定向国家网信部门申报安全评估;要尊重他人合法利益;产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为,从目前来说,如果能够有效落实标识的要求,形成有效的监管体系,可以在很大程度上提前厘清AI换脸所带来的模糊边界。
盘和林:当前AI换脸的标识监管体系还没有形成,要针对不标注的内容,通过技术的手段来辨别,并且对不标注的个人或者是单位组织要有具体的处罚的措施和标准以及制度。赵占领认为,从长远来看,监管与处罚措施还需要随着技术发展不断“迭代”,才能形成立体有效的治理方案。
标签:
猜你喜欢
最新文章
- AI换脸软件在网上公开售卖,法律边界在哪里?
- 一起备战考研,山财大这对学霸情侣成功“上岸”,携手考上中科院研究生
- 中国网友捧出的“养成系女顶流 ”,靠离谱在韩国炸街
- 财富刚被马斯克超越,前世界首富也要访华!黄仁勋也要来...外企高管扎堆来中国,什么信号?
- 单亲妈妈网恋“富二代”,做了背调仍被骗2000万元
- 波兰表示波方将帮助乌克兰培训F-16战机飞行员
- 福州房地产中介协会凌晨撤销二手房中介费标准指导意见:对政策精神领会不透
- 烂场雨致麦收撞期,一台到河南收割机被安徽村民热情友好留下就地作业
- 1291万人! 今年全国高考报名人数再创新高
- 美联储6月是否继续加息?更多官员支持暂停
- 泪目!博士论文致谢走红:感谢博一与我结婚的妻子
- 如今的综艺届,还需要“宋丹丹”们吗?
- 商务部、外交部发声!涉中美经贸关系、半导体…
- 知名女星遭威胁曝光,只因这件事!网友:希望追查!
- 警惕!美日菲海上执法船首次联演,企图全面介入南海
- 前五月地方“借钱”超3.5万亿元,钱花哪了
- 男子凌晨街头虐猫致其重伤,警方:虐猫者已被行拘
- 波音CEO谈C919:三足鼎立也不是坏事,过度焦虑很愚蠢
- 德国朔尔茨:乌克兰迅速加入北约“希望渺茫”
- 阿里裁员致“大厂房”价格腰斩?知情中介:有买卖双方联手做低价格,或涉偷逃税
- 证监会:今年以来外资保持流入A股态势
- 正经人谁听二手玫瑰?玩家直言直接在火力苏打
- 《红霞岛》开发者曾希望微软取消或重启这款游戏
- 假面骑士极狐:英寿之父是欲望神,和导航员禁断之恋,遭到抹除