女明星被害毁容，被害明星

我想大家都知道“AI换脸”。仅使用照片和人工智能深度合成技术，任何人都可以成为视频中的主角，甚至他们的面部表情和动作都可以伪造。然而，这项新技术却让一些人产生了不好的想法，来自杭州的于先生利用“AI换脸”软件生成并传播大量淫秽视频，导致不少女性为名人换了脸。以及其他公众人物。还提供换脸定制服务。

女艺人的「AI怪脸」假色情影片

2022年8月，浙江省杭州市萧山公安分局在网络巡查中获悉，辖区内有人利用人工智能技术制作淫秽视频并在网络上传播，警方被迫配合据此，立案侦查。犯罪嫌疑人余先生被及时依法逮捕，案件移送杭州市萧山区人民检察院审查起诉。

杭州萧山区人民检察院检察委员会专职委员张雷：于先生在网上发现了AI换脸技术软件，通过学习软件学会了如何使用，然后用AI盈利。开始使用脸部修饰技术。

检察官调查显示，于2020年开始接触“AI换脸”软件，最初试图通过在网上宣传该技术和相关软件来盈利，随着时间的推移，很少有人关注他，但于也碰巧看到有人在社交群上发布淫秽信息，吸引别人的注意。我有一个主意。

杭州市萧山区人民检察院第七检察院助理检察官陈玉耀：他们可能认为仅仅靠卖软件可能很难引起公众的注意。他看到一些网络群组在网上传播淫秽色情视频，于是他利用换脸软件制作了一段淫秽色情视频，先发布到网络群组上，想着获取流量，引起大家的关注。软件或者换脸视频。

据余先生供述，为了吸引更多关注和流量，他在社交软件上创建了“看客群”和“私人定制群”，而“看客群”主要用于“AI改造”。据说被用来传播淫秽视频。为了吸引``，我们正在招募包含Yuu交换面孔的视频的观众。如果有人要求“换脸定制”，余会将他们推荐给所谓的“私人定制小组”。

据萧山检察院通报

杭州市萧山区人民检察院第七检察院助理检察官陈玉耀：团体入场（参观）费用按每人198元、298元、398元收费。另一件事是，Yu还提供面部视频定制服务。这意味着，如果客户需要定制换脸视频，我们可以根据视频的长度和难度收取相应的费用。

据萧山检察院称，案发时，公安机关已收缴余先生创办的某公益组织的淫秽视频1200余部、照片1600余张。

某某建立聊天群，并在群内传播合成的淫秽视频。

个性化定制“如果你能看到你的脸，你就可以改变它”

据检察官调查，于某通过散布自己伪装的淫秽视频来“聚集追随者”，同时出售“AI改造”软件，并为所谓“AI改造”提供私人定制服务。不到半年的时间，我就能够在短时间内赚取数万日元的利润。 “AI换脸”导致脸部机密信息被侵犯的受害者不仅包括众多知名明星，还包括数量不详的普通民众。

检察机关调查显示，于先生根据“AI改造”视频的长度、清晰度等难度，收取5分钟300元、10分钟500元等定制费用。余断言，“任何人的脸可以被看到，都可以改变。”

杭州市萧山区人民检察院第七检察院助理检察官陈玉瑶：首先，价格是我自己定的，最终视频的面部变化效果有一定的差异。有些人可能会继续付费购买一些高级视频，包括高级教程，如果他们最初购买了基础教程和基础教材和材料，但最终发现没有达到预期的效果，可能是有的。

杭州市萧山区人民检察院检察委员会常委张雷先生：他用的是VIP定制。换句话说，顾客说：“你今天想改变谁的脸？如果你为我定制，我就会付给你相应的钱。”这就是他们赚钱的方式。

为名人和普通人提供“定制”面部移植手术

检方称，要求Yoo“定制”换脸的顾客不仅包括知名名人，也包括日常生活中的普通人，其中一些人想定制自己喜欢的人的换脸视频。还有那里的人。因此，于先生并不拒绝未经他人同意而侵犯他人机密信息的非法行为。

此外，于不仅提供定制换脸服务，还将“AI换脸”软件分为初级、中级、高级三个级别，销售并教授使用教程，并在网上非法销售。他人的材料。

杭州市萧山区人民检察院第七检察院助理检察官陈玉耀表示：“这个软件的入门门槛其实比较低，它的操作涉及到运行几个预先配置的程序和代码，相当于按照步骤并将需要替换的视频放入指定文件夹或按照步骤操作，您要替换的视频或照片的人脸信息会自动替换，信息会自动替换，Extract自动构建学习模型进行训练，下一步就是自动合成。

检方收集的证据显示，于某创立的众多社交团体中，成员人数最少为95人，最多为2053人，该团体涉嫌贩卖变脸色情视频、定制变脸色情内容。视频等活动中，于某持续收到密码红包200余次，总金额6万多元。

除了追究刑事责任外，

检察官还提起民事公益诉讼

检方称，柳某作为“AI换脸”技术的使用者，正在传播侵犯他人个人信息的方法和手段，从而进一步加大侵犯“不特定对象”个人信息的社会风险。它已经扩大了。为此，杭州市萧山区人民检察院不仅依法追究余先生的刑事责任，还提起民事公益诉讼。 2023年7月，杭州互联网法院审理了这起公益诉讼案件，这也是我国首例涉及“AI换脸”侵犯公民个人信息的公益诉讼案件。

2023年4月14日，杭州市萧山区人民检察院决定对余先生以“AI换脸”侵犯他人个人信息罪提起公益诉讼，并于当日公布了审理程序。因诉讼期限已过，不具备起诉资格。 6月9日，检察机关依法对柳某提起民事公益诉讼。 7月28日，该案在杭州互联网法院一审公开开庭审理。

庭审中，检方将利用公安机关对柳某的讯问、讯问笔录、检查记录、检查记录、专家意见、淫秽视频等信息，证明柳某侵犯他人个人信息，侵犯公共利益。1200人提交了详细证据。包括多个部分和1,600 多张照片。

杭州互联网法院互联网第一审判庭庭长肖翔：“过去人们常常认为眼见为实、耳听为实。但是，随着深度合成技术和新技术的应用，眼见为实。新技术的不当应用和滥用会对社会公共行为者之间的信任关系产生真正的影响，特别是在互联网空间中建立的信任关系。Masu。因此，破坏这种信任关系和社会关系，实际上是对社会秩序的一种破坏。

杭州互联网法院经审理认为，余先生利用“AI换脸”技术侵犯他人个人信息的违法事实确凿，因此支持公诉方作为公益诉讼检察官的全部主张。那。被告将删除非法获取的个人信息，公开道歉，消除影响，并赔偿总损失6万元，该资金将用于个人信息保护和不当人脸深度合成。应用程序治理等公共福利问题。

杭州互联网法院执行副主任朱民明先生：对于任何新技术，首先技术永远是中立的，然后我们对技术本身有接受和支持的态度，但我们不接受技术的发展从目的来看，这是造福全人类的公益事业，不能将这项技术用于非法的个人盈利目的，也不能损害其他人民、群体、国家、社会的合法权益。之上。如果逾越了界限，你必须承担相应的责任。本案中，检察官提起公益诉讼，法院随后依法审理此案，充分展现了审判和规范新技术的司法功能。

技术没有好坏之分，但它有其局限性。

必须在法律规定范围内使用

2023年11月，杭州市萧山区人民法院以制作、传播淫秽物品牟利罪，判处于某有期徒刑七年零三个月，并处罚金六万元。

“只要几张照片，任何人都可以成为受害者。”网主给女明星改脸直播推销产品，或者换脸移植到色情视频中。滥用信息实施各种人身违法行为时有发生，甚至可能被滥用于灰色地带、非法犯罪领域。那么“AI换脸”技术的法律边界在哪里，又该如何监管和管理呢？

杭州互联网法院网络一审庭庭长肖翔：对于深度伪造侵犯他人人身权益的行为，我国民法有明确的规定，侵权行为是禁止的。《民法典》的一项规定。随着技术的发展，个人信息保护法中也设立了深度综合的条款。无论是换脸还是换声，这些都适用，因为你实际上需要收集公民的个人信息。根据《个人信息保护法》，高度机密的生物特征信息受到特别保护。

除了《民法典》和《个人信息保护法》外，将于2023年正式实施的日本法律第《互联网信息服务深度合成管理规定》号也明确规定，禁止用户利用深度合成服务从事法律禁止的行为。法律、行政法规、细化要求服务提供者必须履行信息安全主体责任。

消息！

“AI换脸”是为了好玩，但也存在法律风险

法官裁定，即使“AI搞笑脸”技术只是用来制造笑话或恶搞照片，也会导致对肖像权和荣誉权的侵犯，可能造成严重后果，并可能导致侮辱。确定这可能是犯罪或诽谤人格。

滥用“AI搞笑脸”技术，乍一看似乎侵犯了个人的精神权、肖像权、荣誉权、隐私权，但实际上是一种践踏社会秩序和良好风俗的行为是一种侵犯社会权利的行为。挑战稳定的社会环境和畅通的网络空间。

杭州互联网法院执行副主任朱民明：新技术的出现往往滞后于专门针对这种新技术的法律法规，但总体来说，我们国家的法律体系现在整体上已经完全完善了。你能做和不能做的事情都是相对健康的。我认为，普通人可以决定使用这项新技术的目的是造福全人类，提高人们的生活水平和福祉，还是谋取不公平的个人利益。我们希望牢牢把握这些界限，让这些新技术改善我们的生活。

转载来源：央视新闻

来源：fm1007 福建交通广播