近日
(相关资料图)
江苏首例“人脸解封”
侵犯公民个人信息案公开审理
郑某在被害人不知情的情况下
从他人处购买包含
姓名、身份证号码
照片、视频等个人信息
然后操作图片形成动态视频
来进行人脸核验
解封他人账号
帮助诈骗团伙实施犯罪
法官表示
该行为属于电信网络诈骗的
黑灰产业链中的一环
最终，郑某被判处有期徒刑8个月
缓刑1年，并处罚金4万元
作案工具予以没收
AI一键脱衣、换脸、P图
网友：科技不该用在这上面
近日，在广东广州
一张女子在地铁上的照片被AI“一键脱衣”
造谣图随后在网上广泛传播
相关话题也冲上微博热搜
事实上
照片的女主角是一名网络博主
而所谓的“裸照”则是
她去年7月在平台分享的一张照片
原图中她衣着正常
没有任何不妥之处
但却被有心之人用AI软件“一键脱衣”
故意全网散播
目前博主已在评论区回复各位网友
称会进行相关的维权处理
在这则图文分享的评论区
已经有众多网友评论提醒博主
催促其尽快报警
也有人热心地帮助其辟谣澄清
AI换脸技术一直以来饱受争议
随着技术的发展与普及
“AI换脸”
“AI合成照片、视频”等技术
逐渐走红网络
让更多游走于灰色地带的问题愈发尖锐
有些甚至触及法律底线
另一男博主利用电脑后期制作合成
与女明星亲吻的影片
在网上传播同样引发热议
换脸“接吻”并公之于众
专家、律师：涉嫌性骚扰
据《民法典》规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。上海政法学院教授曹阳认为，换脸技术的应用还有可能给观众造成信息误导，涉嫌侵犯当事人的肖像权。
针对网友热议的“是否构成性骚扰”，曹阳指出，据新版《妇女权益保障法》的规定，禁止违背妇女意愿，以言语、文字、图像、肢体行为等方式对其实施性骚扰。“传统语境中的性骚扰多发于线下场景，随着互联网技术发展，性骚扰的场景也要延伸解释”。他认为，博主的行为涉嫌性骚扰。
《民法典》第1010条也规定，违背他人意愿，以言语、文字、图像、肢体行为等方式对他人实施性骚扰的，受害人有权依法请求行为人承担民事责任。
多方责任，一个都不能少
有句话说：“走太快了，灵魂跟不上。”AI合成技术同样如此，在给大众提供娱乐的同时，也因为滥用和缺少监管，造成了信息安全隐患和传播侵权的乱象。
正如北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武所说，要遏制AI合成的乱象，还得政府监管部门、平台、网民多方形成合力，多管齐下，一个都不能少。
首先，作为服务的提供者，AI合成平台必须承担主体责任。针对信息技术发展所带来的换脸等恶意使用问题，国家网信办、工信部和公安部专门发布了《互联网信息服务深度合成管理规定》（以下简称“《规定》”），在今年1月10日正式施行，对AI合成的服务提供方做出了多项规定。
比如，AI合成平台必须要求内容创作者实名认证，监督创作者标明“这是由AI合成”之类的标识，以免误导公众；在提供“换脸”技术前，应该征得“被换脸”者的同意；并完善数据管理、保障个人信息安全。
《互联网信息服务深度合成管理规定》节选
同时，《规定》也指出，网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。
赵精武表示，AI技术确实降低了造谣和作假门槛，AI技术产品能够以最贴近人类思维和表达的方式生成海量虚假信息，而广大用户显然无法有效识别网络虚假信息。
被“AI造谣”后如何维权？赵精武称，首先可以直接要求侵权人删除相关谣言信息并赔礼道歉；其次，可以留存谣言证据，经由公证机关公证之后作为证据材料，向侵权人提起侵权诉讼。
更重要的是，我们普通人面对视频、图像还得多留个心眼。毕竟，有了“AI换脸”技术之后，眼见不一定为实了，对猎奇、“劲爆”的内容，还得保持理性和警惕，对它们的真实性“打个问号”，别啥都不想就信了。
只有这些精神和物质的“基础设施”真正建立并完善起来，技术的进步才能真正造福于人类，而不是沦为伤害他人的犯罪工具。
来源：微信公众号“共青团中央”（ID：gqtzy2014）综合整理自微信公众号“中国青年报”（ID：zqbcyol）、“央视网”（ID：cctvcomweixin）、“上海法制报”（ID：shfzb34160932）、新闻晨报、荔枝新闻、红星新闻、泾渭视频，微博@中国青年报
原标题：《P图的边界在哪里？》
（来源：共青团中央）
更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。
