女子照片被“一键脱衣”，谁在拿 AI 作恶？

_不良法师_

眼见为实的时代过去了，
( A% u$ t. t" ^0 LAI 已经学会制造 " 真实 "。
+ b# Z% @7 R( O, }1 O8 P1 f近日，
. J2 Q$ P4 {3 v) V; p# |8 B$ U多起 AI 换脸或 AI 换装的争议事件
引起网友讨论。
+ T' d0 B* A# v7 C4 H
9 W5 v. t: p4 \7 A: B) x
" p; `( o5 c- y, c
近年来，
随着 AI 技术的普及，
"AI 换脸 "、
: O7 \$ |, W2 u, _6 X"AI 合成照片、视频 " 等技术
- z. H1 \, A& F! |逐渐走红。
/ R+ e% w: i9 Y; @) }; D- b: S虽然增添了人们趣味，
: ~  f' o7 r# c: n% T8 j但也出现了不少负面情况，
- _  j! I3 l  d' c9 y) s有些甚至触及法律底线，
引发纠纷。
: ^3 m* \) R4 k# L( U这样的 "AI 换脸 " 会引发哪些问题？
又可能造成哪些危害呢？
! g9 P8 d4 E: g2 f' Y, F$ c

. o" I8 G# C4 A# ?# V& j6 {* b( e
AI " 造假 " 花样多
. H- Z4 U" s; J/ g* |特效师 AI 换脸与女星亲吻
2 X0 q& g2 d) x  \$ ]3 月 25 日，一网红特效合成师洪某在社交平台上表示，自己的脸被迪丽热巴的粉丝抓伤 " 破相 "，起因是其利用电脑后期制作合成与迪丽热巴亲吻的影片。
9 D) f5 x* f  p% l/ _: `

" n0 b1 |( s$ g7 Y3 z5 F# \/ g6 N
洪某在某视频平台拥有 100 多万粉丝，平常会在个人账号上发布一些 " 特效合成 " 的视频，即通过合成技术将自己的脸换到热播电视剧中，比如《小李飞刀》里，他替换了男主角焦恩俊的脸，并对俞飞鸿和贾静雯两名女演员饰演的角色左拥右抱。



更甚的是，他将电视剧中和迪丽热巴有亲密镜头的男主角换成了自己的脸，让不少网友直呼难以接受。目前，这个名为《热巴之恋》的视频已被隐藏。
: Q9 x5 O/ U4 i4 o, G女子照片被 " 一键脱衣 " 传到网上
近日，在广东广州，一张女子在地铁上的照片被 AI 一键脱衣，造谣图随后在网上广泛传播。
$ i+ Z4 ]$ w2 }2 @3 N1 i) Q* S; r8 \
! E, M8 c7 d$ l
) e! _- Z9 P3 h! ^1 ]4 ^
; X/ ]9 U- S2 o该博主原本在平台发布的照片
' T' H, x9 @& X  E+ c4 K- o事实上，照片的女主角是一名博主，所谓的 " 裸照 " 是她去年 7 月在某平台分享的一张照片。
( w5 F8 \" x( u% v原图中她衣着正常，没有任何不妥之处，但被人用 AI 软件一键脱衣，故意全网散播。
: b# L+ F8 e9 ]9 A* w特朗普还没被捕已经越狱
8 Q& {& w2 a5 W7 d+ w6 o美国前总统特朗普也未能幸免，" 特朗普被捕 " 的事情还没有发生，但 " 特朗普被捕 " 的 " 照片 " 已经在一些社交平台流传开来。
6 p& @% [! _) W2 z这些 " 特朗普被捕 " 的图片显示，特朗普或被警察围捕、或穿着囚服、或在劳改、或在越狱。
1 j+ q% _1 c' L( t4 S只不过这些都是 AI 合成图，仅凭肉眼难以辨别真假。
& s6 D3 G. s6 n, y4 Z% }8 [! @; f

9 E' A$ s% `1 x
5 Q$ r! w# j0 H$ h

; L3 b5 m& Q% ]2 f6 Y2 x* u
8 O; z1 c: a8 R) F' b
在无意识中侵权或违法
3 X/ T+ T2 W! t$ n如今，随着技术门槛越来越低，AI 换脸更多时候成了大家一种娱乐和社交的方式，掀起了一场又一场的网络狂欢。
AI 换脸技术虽简单，可背后暗藏了不少法律风险和侵权纠纷。
据中国社科院法学所网络与信息法研究室副主任周辉介绍，滥用 "AI 换脸 " 技术可能会涉及侵犯他人肖像权、名誉权、著作权、个人信息等多项权利。如果随意使用国家领导人或一些公众人物的肖像进行 "AI 换脸 "，不但构成侵权，还可能危害公共秩序。
& U/ D) |9 m- D% Y  o. r3 N首先，《民法典》第一千零一十九条第一款规定，" 任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权 "。因此，未经他人同意，使用其肖像进行 AI 换脸并公开传播，甚至丑化、污损他人肖像的行为都构成侵权。
1 j% E( q4 B6 j1 |而且，如果过程中出现 " 恶意诽谤 "" 恶意剪辑 "" 使用侮辱性词汇 " 等因素，导致他人社会评价受损的，还涉及侵犯名誉权。
无论是 " 换脸 "APP 运营者还是普通用户，未经照片、影视、短视频等作品著作权人授权和许可，擅自使用图片或者视频进行 "AI 换脸 "，还可能侵犯著作权。
7 p! e3 O, \' t此外，AI 换脸技术中涉及的人脸信息，属于个人生物识别信息，对人脸信息的不当使用则存在侵害公民个人信息安全的风险。
因此，虽然人们很多时候觉得 "AI 换脸 " 只是 " 闹着玩儿 "，殊不知，在无意识中，已经涉及侵权，甚至违法犯罪了。

$ m2 X- @' |! ]) U

) k8 w& b3 t6 ~$ s多方责任，一个都不能少
有句话说：" 走太快了，灵魂跟不上。"AI 合成技术同样如此，在给大众提供娱乐的同时，也因为滥用和缺少监管，造成了信息安全隐患和传播侵权的乱象。
( B4 e8 {# Z+ e& U正如北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武所说，要遏制 AI 合成的乱象，还得政府监管部门、平台、网民多方形成合力，多管齐下，一个都不能少。
7 f3 V, |3 l, k: s; V首先，作为服务的提供者，AI 合成平台必须承担主体责任。国家互联网信息办公室于 2022 年 11 月 25 日公布的《互联网信息服务深度合成管理规定》（以下简称 "《规定》"），对 AI 合成的服务提供方做出了多项规定。
比如，AI 合成平台必须要求内容创作者实名认证，监督创作者标明 " 这是由 AI 合成 " 之类的标识，以免误导公众；在提供 " 换脸 " 技术前，应该征得 " 被换脸 " 者的同意；并完善数据管理、保障个人信息安全。

' i. v8 t2 }7 v4 e7 p3 g* p
9 X9 D% m) h" g1 H! }
9 l$ E' }/ f  J/ r+ c《互联网信息服务深度合成管理规定》节选
- k9 ]$ b/ N8 D, G* h+ F0 F同时，《规定》也指出，网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用 AI 合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。
4 l, d! S1 Z3 h; V% L" R- Z赵精武表示，AI 技术确实降低了造谣和作假门槛，尤其是 ChatGPT 问世之后，AI 技术产品能够以最贴近人类思维和表达的方式生成海量虚假信息，而广大用户显然无法有效识别网络虚假信息。
被 "AI 造谣 " 后如何维权？赵精武称，首先可以直接要求侵权人删除相关谣言信息并赔礼道歉；其次，可以留存谣言证据，经由公证机关公证之后作为证据材料，向侵权人提起侵权诉讼。
更重要的是，我们普通人面对视频、图像还得多留个心眼。毕竟，有了 "AI 换脸 " 技术之后，眼见不一定为实了，对猎奇、" 劲爆 " 的内容，还得保持理性和警惕，对它们的真实性 " 打个问号 "，别啥都不想就信了。
只有这些精神和物质的 " 基础设施 " 真正建立并完善起来，技术的进步才能真正造福于人类，而不是沦为伤害他人的犯罪工具。
来源：央视网

hilalchemist

从此网上再没有真实消息了。哪怕是视频，也可能是合成的。再对照一下日本最近窜改教科书的事情，以后估计日本年轻人可以理直气壮地否认历史了，那些珍贵的影片都会被说成是合成的。即使有专家能区分合成影片，但是三人成虎，当教科书的洗脑加上合成影片的乱象，历史可能真的永远蒙尘。高达oo里太空轨道倒塌的悲剧也许很快就会成真

醉蝶翔舞

没有假的哪来真的？

蔠夜

越来越迫切需要网上警察严格执法了！一切都要有迹可查！追踪一切网上犯罪！

yi叶秋枫

终于轮到AI背锅了，游戏可以松一口气