生活
本地特色
美食养生
求职招聘
特色小吃
家常菜
保健食品
农产品
饮料
蛋糕甜点
火锅
肉类海鲜
新闻
时光记忆
恋恋爱
母婴
测试
科技
电脑
手机
其他
编程
汽车
文化
读书
历史
心得
艺术
高考
跨境电商
跨境交流
跨境市场
跨境百科
跨境头条
玩
NBA
自驾游
徒步骑行
明星八卦
旅了个游
搞笑
游记攻略
美景分享
随手拍
城市风光
英语
英语家园
英语学习
每日一句
有声读物
汽车
搜索
快捷导航
登录
注册
ဆ
热搜词
活动
交友
discuz
本版
文章
帖子
用户
科技
+关注
+发表新主题
AI换脸软件在网上公开售卖,法律边界在哪里?
[复制链接]
作者:
zhaoyuac09
|
时间: 2023-6-4 09:21:08
|
其他
|
0
25
zhaoyuac09
当前在线
积分
5490
窥视卡
雷达卡
zhaoyuac09
1830
主题
1830
帖子
5490
积分
研究生
研究生, 积分 5490, 距离下一级还需 1510 积分
研究生, 积分 5490, 距离下一级还需 1510 积分
积分
5490
发消息
发表于 2023-6-4 09:21:08
|
显示全部楼层
|
阅读模式
近日,因AI换脸技术导致的诈骗案件引发了人们的关注。伴随着AI大模型的发展,“换脸”技术应用范围越来越广,技术的突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能会带来严重危害。记者调查发现,
在网上,AI换脸软件的获取非常容易
,利用AI换脸软件的法律边界在哪里?如何做好事前监管?
01
网络上出现付费AI换脸软件
套餐价格从499元到2888元不等
当下,依托于大模型及算法的突破,AI换脸正在实现更大范围的应用,引发更多担忧。在网络上,演示换脸软件使用方法及效果的教程比比皆是。不同于大量给普通人“尝鲜”的免费软件,记者发现,
在网络上还有很多高价的付费AI换脸软件,
这些付费软件与免费软件有什么样的不同?
记者搜索“AI换脸软件”后联系上了一个开发者,他给记者提供了一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频,右侧则是换脸之后的视频,肉眼来看,
换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
△卖家展示的素人换脸效果(S为原视频,D为更换之后)
在其销售网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴拼接到一起,生成全新“数字人”的视频。
△卖家展示的局部五官更换
这一付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,499元提供软件界面、视频指导、换脸模型等,如果花2888元,则可以得到全套(LV5)等级的视频换脸模型。
△网络上提供多种不同等级的换脸软件产品
02
“想换什么脸都可以”
AI大模型可集成多种功能打造“数字人”
打开该网站,
底部没有任何文字显示其经过了备案。
卖家也十分谨慎,全程仅用文字交流。他表示,与初级(LV1)至超级(LV4)套餐相比,全套(LV5)版本迭代更多,能力更强,也可以理解为换脸效果更为逼真,同时,
不仅可以实现视频换脸,还支持直播换脸。
记者进一步询问,能否根据自己的需求换脸?软件开发者表示:“想换什么样的脸拿素材训练就可以”。
△软件开发者在与记者的聊天截图
一位从事AI开发的技术人员表示,
这意味着可能会有更多难以控制的风险。
“类似于deepfake这样的AI换脸技术是开源的,最近的AI大模型火起来,它的算法又有了更新,就可以集成文生图、文生文,文生音频、文生视频、换脸,这样的功能结合起来,
就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’,监管的成本和难度高了好几个数量级。”
△卖家展示的用户反馈
03
专家:有效的标识监管体系
能提前厘清AI换脸带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示,从事后打击的角度来说,刑法中有关于诈骗罪的规定;民法典明确,公民享有肖像权、姓名权、名誉权等等相应的民事权利。也就是说,如果发生使用他人的肖像进行诈骗的相关案例,
不法分子能够在事后被法律约束与制裁。
但在人工智能技术飞速发展的当下,
还应探讨如何能够做到有效的事前防范。
例如,在《互联网信息服务深度合成管理规定》中要求,
深度合成服务可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法(征求意见稿)》要求,利用生成式人工智能产品向公众提供服务前,
应当按照有关规定向国家网信部门申报安全评估;
要尊重他人合法利益;产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为,从目前来说,
如果能够有效落实标识的要求,形成有效的监管体系,可以在很大程度上提前厘清AI换脸所带来的模糊边界。
盘和林:
当前AI换脸的标识监管体系还没有形成,要针对不标注的内容,通过技术的手段来辨别,并且
对不标注的个人或者是单位组织要有具体的处罚的措施和标准以及制度。
赵占领认为,
从长远来看,监管与处罚措施还需要随着技术发展不断“迭代”,才能形成立体有效的治理方案。
来源:中国之声微信公号
转自:人民日报客户端
来源:
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜
返回列表
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
回复
楼主新帖
从零开始:如何使用TikTok海外户广告推广你的产品或服务
解决cms播放电影连接超时问题,找到最佳线路
轻松写作,随心所欲!
【重磅】360度全方位掌握论文实证(stata安装包、数据处理、基本回归)
学会“偷懒”才是保险行业活动运营的秘诀丨有料知识学院
24小时热门
更多>
快速回复
返回列表
返回顶部