几十元就能买到明星、网红AI换脸“色情视频”，还有“去衣”AI……
近日，一名拥有670余万粉丝的网红女主播陈岚（化名）发布视频称，她遭遇了恶意Ps和AI换脸，照片被人做成了色情照片和视频，并在网上公开出售。
陈岚说，她本想搜集相关证据，找出根源，又不想太声张，但随着评论区越来越多人造谣，她打算报警。
换脸的色情视频
被公开叫卖
除女主播陈岚外，拥有400多万粉丝的网红女主播杜悦（化名）也遇到了类似情况。杜悦说，我发现有人在境外社交平台上冒用身份注册了账号，然后‘搬运’到国内视频平台上发布，等到账号有一定粉丝后，就开始售卖换脸后的色情视频。
杜悦提供的一张价格表显示，里面涉及数百名网红，还按照粉丝量级做了区分，从50万粉丝以下到1000万粉丝以上，对应的换脸色情视频售价在30元到50元不等。
按照杜悦提供的线索，添加了一名卖家的QQ好友，对方直接发来一张截图，图片上贴有几十位女明星色情图片。
该卖家称，自己拥有80多位明星、一万五千余张图片。如果全部购买，仅售价60元，还赠送23部视频，此后还能享受一次免费更新。
AI绘图软件仅需16.66元
月销量超200
在多个电商平台上搜索AI换脸关键词，均已无法显示。但是，搜索智能合成、明星、去衣AI等关键词，仍旧可以搜到在售商品。
一款AI绘图软件的产品页明确标注，该软件可实现真人转卡通功能、换头和换衣功能。这款软件售价仅需16.66元，月销量达到200以上。
有人询问是否能生产色情图片，有人回复称，只要购买软件进入买家交流群即可，什么功能都有。
进入买家交流群后，仅两天时间，群成员便从40人迅速增长至150人，大多成员在群内交流该软件如何使用，还不时分享自己的作品。
有成员在群里询问，是否有人愿意接单，制作定制图。这玩意不是犯法吗？有人在群里反问，对方则表示富贵险中求。
除了出售绘图软件，还有商家提供真人模型代训练，有商家说，只需提供20至30张照片，尽量以脸部特写为主，2个多小时便可完成训练，达到换脸效果。
立法机关正建立健全
相关法律制度
北京蓝鹏律师事务所主任张起淮曾代理多起AI换脸相关案件。在他看来，AI换脸本应是帮助广告、电影、艺术等方面进行适当修复，这本是一项很好的技术，但现在很多人开始利用这一技术进行非法牟利。
张起淮表示，利用他人的肖像进行换脸，涉嫌侵犯当事人的肖像权、名誉权、荣誉权和人格权。如果将当事人的脸制作成色情视频并出售，这种情况下可能构成刑事犯罪。
为遏制AI换脸乱象，2022年11月25日，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》第十七条要求，深度合成服务提供者提供智能对话、合成人声、人脸生成、人脸替换等深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
面对不法侵害，受害者应当摒弃耻感和自我怀疑，立即截屏存证，向警方提供自己留存的证据和线索。除了受害者的直面硬刚，法律和制度更要为AI换脸乱象套上缰绳，严惩那些心存侥幸的作恶者。
编辑：李彦豪
严萍
