建“女神群”发小视频赚钱，还可定制“女明星脸”，他栽了 ...

莱阳妞妞

原标题：建“女神群”发小视频赚钱，还可定制“女明星脸”，他栽了
$ X+ [$ Z: a+ {9 m                          近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。
4月7日，浙江杭州萧山区检察院曝光的一个“女神群”，引发关注。名为“女神群”，群成员却都是一群大老爷们。每天都不停地有人入群，但除了群主虞某外，很少有人发言。这个群里究竟有着怎样的秘密？
“女神群”里的秘密
早在2020年，“AI换脸”刚刚在国外兴起的时候，80后安徽小伙虞某就对它产生了兴趣，自学掌握了这门技术。
后来随着“AI换脸”技术的走红，让虞某嗅到了商机。他想到在网上推广该项技术及相关的软件，并从中获利。
但一段时间过去，虞某却始终没有获得什么关注度。偶然的一次机会，虞某看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。
虞某先是将原本建的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。
/ z! _+ [% R; d5 H" J 除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。其中，经警方查实，几位人气女明星成了虞某“AI换脸”淫秽视频的“重灾区”。
" L9 K) [- e) k  a* c 一面通过“吸粉引流”，收取会费；一面又通过出售“换脸软件”，频频获利。虞某短短几个月的时间里就收获了数万元。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。
2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。案件目前正在法院审理中。
律师：无论盈利与否
8 u! t3 i; j; w/ v: W4 X 未经授权即涉嫌侵权
, y$ m+ `: ]/ J2 X; Y “AI换脸技术”频频被一些犯罪分子盯上，除了女明星外，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。
, D+ B. L$ P" {+ p* t 杭州萧山检察官提醒，即便只是用“AI换脸技术”来搞笑或者制作恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。这不是开玩笑！希望大家依法使用该项技术，一旦遇到类似本案中利用AI技术实施犯罪行为的，应第一时间固定证据，并及时向司法机关报案。
; w5 v7 ~2 ~3 c  Z3 g 类似事件近日已出现多起。比如广州一女子在地铁上的照片被他人使用AI技术“一键脱衣”，虚假图片在网络广泛传播。此前，某男网红使用“AI换脸”技术，替换掉电视剧中的男主角头像，制作自己与女明星亲吻的画面，同样引发争议。
9 ~& \; V% |* [( K

此前报道：男网红AI换脸热吻女星引争议
0 t! ?: h  N- r 南方日报记者近日调查发现，互联网上有人售卖人脸合成视频制作教程和明星人脸“万能模型”，一套模型只需10元，购买后可在软件内直接用于生成“换脸”视频。
+ ]. o7 t' x! g7 J& v' ^ 针对“‘换头’亲吻女明星”事件，南方日报报道称，广东立幸律师事务所律师莫圣玮认为，男网红利用技术手段制作自己与女明星“亲吻”的画面，可能侵犯了女明星的肖像权和名誉权。而其在未取得影视作品授权情况下对作品进行二次创作，并发布用于营利，还可能构成对影视作品版权的侵权。
4 l8 C. _# V# H) m 在女子被“一键脱衣”事件中，莫圣玮认为，造谣者除侵犯受害者民事权益，可能还涉嫌诽谤罪、侮辱罪，如果大量传播照片并牟利的，则涉嫌传播淫秽物品罪。
加强对“AI换脸”等深度合成技术的规范，有关部门一直在行动。
今年1月，《互联网信息服务深度合成管理规定》实施，其中明确规定网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。
: y/ {& ^3 ?; V  ]- ?5 |# Z/ m 编辑|卢祥勇 杜恒峰
校对|王月龙
8 |+ \$ r* k  f8 [0 i5 W+ j# b 每日经济新闻综合自萧山检察、杭州日报、南方日报
每日经济新闻