ai换脸技术应用边界在哪里找(ai换脸技术应用边界在哪里设置)

本文转载自【法治日报】；

调查动机

浙江省杭州市检察院曝光“女神团”。群里发送的不少淫秽视频是犯罪嫌疑人利用“AI换脸”技术合成的，还可以根据客户需求“私人定制”；河北高阳警方破获一起制作、销售、传播淫秽物品牟利案件，犯罪嫌疑人通过社会团体自学“人工智能换脸”技术，利用名人形象制作淫秽视频，并在网上出售每10分钟300元的价格……近日，不断有“AI换脸”案件报道，消息引起社会关注和关注。

随着人工智能的发展，“AI换脸”的技术门槛逐渐降低，应用场景也越来越多。“AI换脸”在满足人们求新、求美、社交等需求的同时，却引发争议甚至违法犯罪。这样的行为屡见不鲜，其背后隐藏的暗灰色产业链也逐渐显露出来。

“AI换脸”存在哪些乱象？利用明星形象“AI换脸”合法吗？技术应用的边界在哪里？针对这些问题，记者进行了调查采访。

“你能教我怎么拍这个吗？”

“点击视频左下角，进入全套教程。”

“你不是想吻谁就吻谁吗？”

“按照我的教程来就可以了。”

这是一位短视频平台博主与粉丝的对话。这位素有特效师之称的博主，曾发布多部影视剧中亲密场景的短视频，并将男主角“换”成自己，吸引了大量流量。针对粉丝的咨询，博主表示将提供售价99.99元的“影视合拍教程手机版”。

现在有很多兜售“AI换脸”技术的博主，以及提供“AI换脸”技术的APP和小程序。《法治日报》记者近日调查发现，教授“AI换脸”技术、提供视频定制“换脸”服务，甚至出售明星“换脸”色情视频，已经成为网络平台上的一门生意。

受访专家认为，技术发展是不可阻挡的趋势，技术应用往往先于风险应对方法的出现。遏制“AI换脸”等人工智能领域深度合成技术应用乱象，必须监管部门、平台、网民形成合力，多管齐下。此外，技术研究和应用的法律法规和执法效能有待进一步完善。

相关应用下载便捷

提供肖像定制

记者在电商平台上搜索“换脸”、“deepfake”、“专业定制换脸”等关键词，发现不少商家声称提供影视剧、影视剧中的“换脸”等服务。“AI换脸”。售价基本在10元到200元之间。

对于“AI换脸”的使用，电商平台上的一位商家这样表示：“《倚天屠龙记》可以变成张无忌，《陈情令》可以变成蓝忘机，《红楼梦》可以变成林黛玉…………您只需录制一段短视频并发送给客服，同样的视频就会为您合成，为您的青春增添一抹优雅。”此项服务可使用优惠券购买，起价仅23.8元。

在手机应用商城，记者以“AI换脸”为关键词搜索，看到了多款“AI换脸”应用。在某社交平台上，记者搜索“换脸”，看到不少有关“AI换脸”的小程序。

记者下载了一款最受欢迎的应用程序。App有多种“换脸”模板可供选择，包括AI画作、影视剧、优雅美女、男士专属等，上传照片即可一键生成“换脸”视频。

如果你想在这些应用程序和小程序上使用“AI换脸”功能，则需要付费。以记者试用的这款App为例，周费17元，年费398元。记者购买了周费17元的会员。注册手机号码并同意遵守相关合成规定后，他导入了视频素材，按下“点击制作”和“开始制作”按钮，交换了视频素材中的面孔。

一些卖家不仅提供“AI换脸”服务，还提供“换脸”技术教学服务，进一步降低了此类技术的应用门槛。

在某电商平台上，记者联系了一位经营“AI换脸”业务的商家。其“智能换脸”产品的产品细节有这样的描述：“你可以花最低的成本优化你的简历展示……让你刚出道就拥有像大老板一样丰富的资历，并且在您的就业竞争对手中脱颖而出。”

据商家客服介绍，如果想要“换脸”，只需要准备两部分素材，即包含面部信息的人脸素材和提供身体和背景的内容素材。商家操作后，“两者结合起来，就形成了成品”。至于价格，商家会根据工作量和难度来制定最终价格。参考价格1分钟内60元。如果超过1分钟，则按间隔计算，如3分钟以上每秒0.9元，10分钟以上每秒0.7元。

同时，商家还为“有兴趣”学习的顾客提供“AI换脸”教学套餐：自学套餐180元，辅导套餐360元，教学套餐720元。商家根据消费者的需求，提供相应级别和价格的教学服务。

教学内容百元到手

技术传播可能涉及侵权

“AI换脸”技术教学服务具体包括哪些内容？记者花费99.99元从这位被称为特效师的博主处购买了相关套餐。共有7个班级。每节课时长从1分9秒到3分45秒不等。总课时在20分钟以内。核心课程包括“擦除视频中的字符、如何使用蒙版、如何剪切字符进行合成”，这些课程均是在手机屏幕上录制的。

据导师介绍，制作“变脸”视频需要使用多个移动应用程序，但并不复杂。——从影视剧片段中截取角色的一帧，用橡皮笔擦除想要替换的角色。照片保存后，您可以对其进行编辑。不过在正式剪辑之前，还需要准备一份素材，那就是我在绿屏上记录相关片段中人物的动作和台词。

经过这一系列操作，特效师可以在《赌侠》替换周星驰和女主角张敏；成为《狂飙》公路赛车场景中的徐江和高其强；取代周润发，成为《英雄本色》的女主角。在一段19秒的影视片段中，马格甚至代替郭京飞被迪丽热巴强吻。

购买课程后，特效师邀请记者加入课程群。与号称参加课程的上万人不同，群里包括群主在内只有十八个人。群里没有人发言，只有一名普通群员被管理员“禁言30天”。

特效师告诉记者，完成课程后即可开始制作。电脑端可以制作更丰富的“换脸”视频，但价格却比移动端贵四倍。

记者注意到，评论区有用户提出疑问：“换脸”技术教学服务是否涉嫌侵权？博主不置可否。

对此，武汉大学法学院副教授沉晨表示：“如果技术传播者明知该技术很可能被用来制作淫秽物品，就会通过在网络平台上卖课程、在网上授课等方式进行传播。”社交平台等，这种情况下可以判断构成共同侵权。

沉晨进一步分析，《民法典》第1169条规定，教唆、帮助他人实施侵权行为的，应当承担连带侵权责任。与帮助侵权相比，教唆侵权更加主观、恶性。如果有人利用网络平台主动诱导他人学习“人工智能换脸”技术实施侵权行为，即可认定为教唆侵权。

换脸背后暗藏风险

应用边界亟待明确

还有一个问题是：擅自使用他人肖像制作“换脸”视频的背后，隐藏着哪些法律风险和侵权纠纷？

记者就此咨询上述特效师博主，对方回复称“视频‘变脸’不涉及侵权，因为影视剧都是公开的。如果侵权，那么电影而电视剪辑、影视解说都会侵权。”他还表示，自己从事该行业以来，没有遇到过相关纠纷。

然而，受访专家给出的法律分析却恰恰相反。

中国传媒大学文化产业管理学院法律系主任郑宁告诉记者，未经授权使用他人肖像制作“换脸”视频，可能涉嫌侵犯他人肖像权、名誉权。无论是“换脸”App的运营者还是普通网民，任何“换脸”后的影视片段均在未经影视剧著作权人授权和许可的情况下通过互联网向公众提供，让公众可以根据自己的判断做出自己的决定。在特定时间、地点在线播放甚至下载，可能涉嫌侵犯影视剧著作权人的信息网络传播权。同时，如果“变脸”后对原创影视剧片段的目的进行扭曲、篡改，最常见的形式就是恶搞，这也可能侵犯版权人保护作品完整性的权利。

郑宁认为，“AI换脸”技术如果被不法分子利用进行诈骗、色情、盗窃、恶作剧、非法牟利等行为，将会造成极大危害，不仅侵犯了广大群众的合法权益。其他人，但也可能伤害公众。安全。

郑宁表示，目前尚无相关行业标准明确“AI换脸”的具体应用场景，但规定了“AI换脸”行为应遵守的边界。《互联网信息服务深度合成管理规定》（以下简称《规定》）明确任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，并要求深度合成服务提供者建立健全辟谣机制。这为深度合成服务的技术应用划定了“底线”和“红线”。

“《规定》的出台表明，有关部门有意识地规范了包括‘AI换脸’在内的人工智能深度合成技术，但该文件并未限制换脸技术的应用范围和用途。”在陈先生看来，“AI换脸”涉及到人的肖像，比其他个人信息更具体、更敏感。“AI换脸”技术会导致个人身份信息识别混乱，从而导致信息传播混乱。因此，有必要限制这种潜在危险的使用范围。

那么，“AI换脸”技术的应用边界在哪里？

沉晨认为，可以考虑两种应用场景：专业影视制作，在演员授权的情况下可以合法应用这项技术；还有网友的娱乐用途，比如熟人制作一些“换脸”视频供娱乐等等。

“这涉及到如何理解授权问题。根据相关规定，‘AI换脸’需要对方肖像权授权。肖像权授权有两种形式：第一种，只要我这样做不反对你使用我的肖像，知情同意的流程就完成了；其次，肖像必须明确表达意图，才可以授权制作‘AI换脸’视频。”沉晨表示，对于授权书可能有两种理解。一种价值判断。通过主动同意获得“AI换脸”许可，有利于保护肖像权，但并不符合社交理念。但如果采用第一种理解，可能会导致后续的监管。成本，因此“AI换脸”的应用边界需要通过社会实践进一步探索。

建立安全评估系统

完善监督防范体系

针对“AI换脸”乱象，近年来，国家网信办、地方网警、检察机关协调配合，加大整治力度。他们办理了多起民事、刑事案件，出台了一系列加强治理的政策法规。

我国刑法、民法典以及国家相关部门颁布的诸多法律法规和政策，都涉及深度综合应用、侵权责任等规范。

4月11日，国家网信办发布了《网络音视频信息服务管理规定》号文，对生成人工智能产业做出了较为详细的规定，包括定义、准入资格、责任义务、处罚等。

“特别是《网络信息内容生态治理规定》，从零开始，为防范深度合成技术带来的社会危害和法律风险，迈出了非常重要的一步，为深度合成技术的应用提供了专门的监管体系。”沉晨表示，一些具体措施还需要细化，比如《生成式人工智能服务管理办法（征求意见稿）》要求的安全评估制度如何实施、谁来做评估、评估的标准是什么？这些需要根据行业发展、技术背景和专业知识进行细化。

在郑宁看来，我国缺乏人工智能的整体立法和人工智能伦理的行业标准。虽然目前有关“AI换脸”可能侵犯隐私权、名誉权、肖像权、个人信息、著作权，以及网络安全、数据安全危害等方面也有相应规定。国家网信办的相关规定还对算法、深度合成技术、安全评估等方面进行了规范。然而，人工智能产业创新、国家安全和个人权益保护之间如何实现平衡、划清界限？各方权利、义务和责任的界限仍存在一些模糊性。

“‘AI换脸’技术所侵害的权利非常敏感，通过网络传播速度快、范围大、影响广泛，让人防不胜防，很难达到预期目的。”“监管效果只能通过后续问责来实现。因此，技术开发商应该在网络服务提供商和用户三个层面设计独特的监管体系。”沉晨说。

沉晨建议，对“AI换脸”技术开发商及相应科技企业建立严格的备案程序和安全评估制度。目前“AI换脸”技术还比较粗糙，但通过优化迭代，未来肯定会高效、现实，所以传播范围必须合理限制。为了控制技术的源头，未来的监管体系可以尝试要求技术开发商在技术中预留“技术水印”。也就是说，如果用户应用该技术制作视频，视频文件中就会留下痕迹，网络平台可以快速识别。该视频是采用“AI换脸”技术制作的。

对于网络服务平台，沉晨建议，应对使用上传视频服务的用户信息进行审查，即了解AI合成视频制作者的身份，以便在出现法律风险时可以确定责任人。之后。平台还需要利用技术手段对视频内容进行审核，识别是否存在人工合成的元素，并进行标注。同时，平台收到人工合成视频法律风险通报时，必须按照民法典规定的网络服务提供者的义务，建立完善的应对机制。此外，用户在使用网络平台服务时，如发现可能带来法律风险的“AI换脸”视频，一定要注意举报。

“当以上三个环节建立监管机制，结合对违法者法律责任的追究，就会形成更加有效的防范体系，应对‘AI换脸’技术的法律风险。”沉晨说道。

曾参与电子商务法律立法的浙江垦丁律师事务所主任张燕来提出，打击“人工智能换脸”的滥用行为，除了法律手段外，还需要引入社会力量特别是商业力量。”技术，就像计算机病毒需要引入杀毒软件来遏制一样。但我们更应该关注技术本身带来的有益效果。违法行为可以依法予以打击。我们不需要太害怕技术本身，而应该学习并拥抱新技术。

“任何技术都是一把双刃剑，还是要看谁用、怎么用、如果非法使用怎么追责。‘AI换脸’在一些场景下有积极意义，比如影视制作、广告等，不应该完全否定。但我们也必须充分认识其风险。”郑宁总结道。

作者法治日报全媒体记者赵莉实习生胡淼

来源|法治日报