Hi 小伙伴们，我是发哥。
在当今科技飞速发展的时代，AI技术已成为推动社会进步的关键力量。然而，随着AI技术的广泛应用，AI换脸技术却引发了新的社会问题和道德争议。
AI换脸技术，通过深度合成，能够将任何人的人脸照片嵌入到视频中，生成的表情与动作生动逼真。
然而， 近年来 这种技术却被不法分子利用，制作色情视频， 成为一种新型的灰色产业， 给受害者带来了极大的伤害。
这类视频的制作不仅针对公众人物，甚至普通人也难以幸免。任何人只要拥有一张照片，都可能成为这类视频的主角。
2017年，知名女星盖尔·加朵因不幸被卷入了一场不雅视频风波。
这场风波的始作俑者是一个网名为Deepfakes的用户，该用户在Reddit上发布了一段合成的加朵不雅视频，引起了广泛争议。
随着这段视频在网络上的迅速传播，多位知名女星也相继成为了所谓的deepfakes技术的受害者。
其中，包括 好莱坞女星斯嘉丽·约翰逊。
可以看出，眉毛拼接处有瑕疵。
【权力的游戏】的麦茜·威廉姆斯。
效果十分逼真。
还有音乐天后泰勒·斯威夫特， 她的AI不雅照在社交媒体上迅速传播，覆盖多平台，浏览量超千万。
这些女星们的形象被不法分子利用AI技术合成到不雅内容中，严重侵犯了她们的肖像权和隐私权。
随着deepfakes技术的普及，AI换脸技术也给国内演艺界的明星们带来了不小的困扰。
国内某交易平台的买家声称，他们能够以75元的价格打包出售包含40多位女明星、上百部AI换脸视频的资源，并提供免费试看服务，通过网盘进行发货。
根据Sensity AI的最新调查数据，高达96%的AI视频涉及女性性影像。
截至2024年一季度，全球已确认的AI伪造色情视频数量激增，已超过27万条，相较于2019年增长了18倍，而这些视频的观看次数更是高达40亿次。
然而，这只是问题的冰山一角。技术的不断进步使得制作AI色情内容变得越来越容易，若不及时采取有效措施进行控制，影响范围将更加广泛。
更令人震惊的是，普通人也可能成为这种技术的受害者。
2023年，广州地铁三号线裸女事件在微信群里迅速传播，引起广泛关注。
事件中，一位美丽的小姐姐被不法分子利用AI技术合成裸照，因此遭受了大量不明真相网友的攻击。
很快，事件的真相逐渐浮出水面。受害女生实际上是一位小红书博主，热衷于在网络上分享自己的日常穿搭。
通过对比可以发现，两张照片中的女孩在动作、饰品、发型以及妆容上均保持高度一致。
微信群中广泛传播的所谓「地铁美女裸照」，实际上只是该女生去年7月发布在社交平台上的一张普通日常照片，被不法分子恶意篡改并传播。
造谣一张嘴，辟谣跑断腿。 在AI技术日益普及和市场下沉的背景下，AI色情产业对每个人的威胁日益加剧，女性群体更是首当其冲。
微博百万粉丝博主赖赖曾爆料，自己的面部形象被盗用，并在外网上被用于非法获利。热心网友直接向她提供了相关视频和截图，她意识到了问题的严重性。
经过深入调查，赖赖发现不仅自己的脸被恶意P图到黄色视频中，甚至连她的身份信息也被盗用。
这些冒充者会盗取她在社交平台上的日常内容，上传到外网，甚至通过AI换脸技术将她的脸换到其他人的身体上，以此吸引观众。
冒充者借此机会设立会员订阅制，通过售卖这些视频来非法获利。尽管观看这些视频需要会员资格，但数据显示，观看人数仍在持续增长。
在发现自己被冒充后，赖赖立即发声呼吁粉丝不要相信这些虚假内容。然而，仍有一些人不肯相信她的解释，甚至误以为她是在为自己洗白。
而且冒充她的账号不止一个，而是有多个账号在从事这种侵权行为。
随着时间的推移，这些人已不再满足于仅仅通过针对特定人物来谋取暴利。他们开始接受普通人的订单，只需一张照片，就能提供专业的换脸服务。
他们还将当红明星的面部图像制作成各种淫秽视频，并肆无忌惮地在国外网站上进行售卖。
这些视频的制作水平相当高，但售价却低得令人咋舌。 即使是大明星的换脸视频，也仅需大约50元便可轻易获取。
他们深谙消费者心理，用一次购买，永久使用的承诺来吸引买家。
在 制作手段上，他们更是花样百出，不仅能换头换衣，甚至能用同一张照片制作出多种风格的视频。
这些人的活动范围极其广泛，想要通过平台彻底封杀他们，难度极大。
杭州市萧山区人民法院审结了一起案件，被告人虞某因滥用AI技术，大量制作并传播淫秽视频，被判处七年三个月的有期徒刑，并处罚款6万元。
经审查，虞某自2020年开始接触并掌握了一款AI换脸软件，原计划推广获利，但反响平淡。后来，他在社交群组中发布淫秽信息以吸引关注。
为了进一步扩大影响，虞某开始利用换脸软件制作淫秽色情视频，并在互联网群组上传播。 虞某在社交软件上创建了浏览群和私人定制群。
在浏览群中，他传播AI换脸的淫秽视频以吸引观众。 当观众提出定制换脸需求时，他会将其引导至私人定制群，并收取不同等级的入群费。
他提供定制化换脸服务，该软件操作简便，使得侵犯他人敏感信息变得轻而易举。 同时，虞某还提供人脸视频定制服务，根据视频时长和难度收费。
据检察机关调查，虞某利用这种方式在半年内获利数万元，受害者包括知名公众人物和普通人。
身处一个可能会被恶意换脸成为色情影片主角的环境中，这种情况是绝不应该被容忍的。
民法典和个人信息保护法都对深度合成技术提出了明确要求，严禁利用此类技术侵犯公民的人身和财产权益，尤其是对敏感的生物识别信息进行了特别保护。
我国还在2023年实施了【互联网信息服务深度合成管理规定】和【生成式人工智能服务管理暂行办法】。这些法规明确要求用户不得利用深度合成技术从事任何违法活动，同时服务提供者有责任确保信息的安全性。
即便AI换脸技术只是用于娱乐或恶作剧，它也可能触犯肖像权和名誉权。在严重的情况下，滥用这项技术甚至可能构成犯罪。
发哥认为，这种不负责任的行为不仅损害了个人的合法权益，更是对社会公共道德和秩序的公然挑战。
新技术的应用应当致力于提升全人类的福祉，而不是沦为追求个人私利的工具。
