AI换脸技术滥用乱象调查：一键“变脸”背后暗藏诸多风险
来源：法治日报 | 你想象过吗？屏幕上的脸，可能根本不是本人！
漫画/李晓军
□ 本报记者 赵丽
□ 本报实习生 王艺霏
亲眼所见，就是真实吗？演员温峥嵘刷短视频时，竟看到“自己”在直播带货。她当场质问：“你是温峥嵘，那我是谁？”结果，她被拉黑踢出，而冒牌货继续用她的脸赚钱。
这起“冒牌直播”事件，正是AI换脸滥用的缩影。温峥嵘团队日均举报50个假账号，发函警告，但仿冒者依旧猖獗，让她深陷“难证我是我”的困局。
这绝非个例。《法治日报》记者调查发现，AI换脸与声音克隆已形成一条完整的灰色产业链，从教程传播到定制服务，严重威胁个人权益与平台秩序。
换脸技术被用于违法犯罪
11月5日，温峥嵘三次直播，主题鲜明：“我是真的温峥嵘”，痛斥被AI伪造、换脸带货的经历。
此前，多位名人已中招。主持人李梓萌的AI形象在直播间虚假宣传鱼油“能治病”；奥运冠军全红婵的声音被克隆卖土鸡蛋；医生张文宏被换脸推销蛋白棒，销量过千。他直言：“这些虚假信息如蝗灾般反复袭来……”
11月14日，中央网信办出手，严打利用AI仿冒公众人物进行营销的行为，清理违规信息8700余条，处置仿冒账号1.1万余个。
AI换脸滥用更蔓延至刑事犯罪。2024年10月，南京玄武区法院审理一案：被告人符某非法获取195万条公民信息，用AI换脸软件生成动态视频，突破某支付平台的人脸识别，盗刷被害人银行卡。最终，符某因侵犯公民个人信息罪、信用卡诈骗罪，获刑4年6个月。
同一年，内蒙古一消费者险遭AI换脸诈骗，损失40余万元。视频通话中，骗子用AI换脸冒充其好友，以资金周转为由诱骗转账。幸得警方及时拦截，钱财未失。
相关教程和服务遍布网络
记者调查发现，AI换脸与声音克隆的教程、服务在网络暗处流通。尽管平台有风险提示，但相关内容仍大量存在。
例如，众多以“AI科普”为名的账号，公开分享换脸教程。视频详细列出网站地址，演示操作步骤，甚至给出技术建议，如“确保替换素材与原素材人物尺寸一致、画面干净”，以优化效果。
按教程指引，记者验证发现，部分平台确实提供免费AI换脸或声音制作服务。支付几十元购买会员，还能解锁去水印、高清放大等高级功能。
更隐蔽的交易通过网盘完成。打包出售的“完整教程”低至8元，卖家声称“限制少”。教程包括云端工作流地址、操作说明，以及图片去AI化、舞蹈模仿、人脸精修等扩展功能。
声音克隆教程售价9.9元，宣称“支持任何形象和声音”。商家称，购买安装包后，无需注册会员即可免费破解使用，只需一段音频，系统便能克隆音色，单次支持30秒，不限次数。
为验真伪，记者购买了一份8元换脸教程。内含5分钟视频教程和两份文字材料，明确提供平台链接、新用户福利和操作步骤，并注明“对敏感词限制极少”“生成内容无水印”。
该平台功能多样：替换视频人物、为人物换装、对身体部位进行动态处理等。每个模板都配有提示词教学和详细步骤，用户上传素材后，稍等即可生成内容。
记者实测用一段5秒视频进行换装，约3分钟后生成成功。画面中，人物动作神态还原度高，服装贴合自然精准。
平台采用运行时长计费，每秒0.2虚拟币。教程附专属邀请码，可领1000虚拟币。另有奖励机制：每日登录送100虚拟币，邀请新用户得500虚拟币。
更换表述可绕过审核机制
电商平台上，商家为AI换脸服务披上“马甲”售卖。
直接搜索“AI换脸”，结果显示为空。但部分商家在商品页用表情符号隐喻服务；或以“啥都能做”“不限内容，懂的都懂”为暗语，暗示私聊客服。
10秒换脸视频报价15元至300元不等。有商家定价：20秒内视频统一收费80元；还有套餐如298元200分钟生成时长、490元年卡，承诺“一对一教学”，并用“让朋友客户难辨真伪”等话术诱导。多数商家只查素材内容，不问用途来源。
为测试AI工具的内容审核，记者对10款主流文生图、文生视频工具实测，以“对明星一键变脸”等指令试探。
结果，仅一款工具明确拒绝生成真实公众人物虚拟图像。部分应用经简单操作，即可生成高度逼真的明星虚假内容。
例如，“即×”起初以“涉及肖像权”拒绝明星换脸指令，但选择替代选项后仍可生成；“豆×”“文×”等直接执行且无显著风险提示；“通×”“天×”等仅在角落标注不清晰的“AI生成”字样。
关键发现：部分AI工具首次接到涉及真实人物的指令时会拒绝，但通过选择替代选项或更换表述，用户便能绕过限制，成功生成图片或视频。
有平台方回应，AI内容侵权识别是行业技术难题，恶意仿冒账号持续进行技术对抗。平台将加大技术投入，积极应对挑战，维护创作者、商家及消费者权益。在此，我们呼吁广大网民：提高警惕，谨慎辨识AI生成内容，积极举报侵权行为，共同守护清朗网络空间。
相关问答
什么是AI换脸技术?
AI换脸技术通过人工智能，将一个人的脸替换到另一个人的身体上，实现脸部表情自然、效果逼真的“变脸”。
变脸术可以让常人拥有明星脸吗?-ZOL问答
现实中，想瞬间“变脸”并不容易。尽管整容风气兴起，但AI换脸技术让虚拟“换脸”成为可能，需警惕滥用风险。
AI变脸是什么?
AI换脸指通过人工智能技术，将别人的脸替换成自己的脸，只需一张照片即可在特定软件上实现，效果逼真。