记者调查：AI换脸与声音克隆技术已形成完整灰色产业链，如何治理？

央广网北京11月25日消息（总台记者管昕 钱成）据中央广播电视总台中国之声《新闻纵横》报道，近日，有演员被多个直播间“AI换脸”冒用形象直播带货引发关注。此前，已有多位名人深受AI换脸困扰。实际上，AI换脸与声音克隆技术形成的灰色产业链已对个人权益、平台监管都构成了严重威胁。如何治理AI换脸技术滥用乱象？

前不久，有网友发现一位演员同时现身三个不同的直播间，身着不同服装推广着不同的产品，动作神态与本人高度相似。后经了解，这三个直播间或是录屏抠图，或是商家盗用该演员过往的直播素材，经过深度合成，重塑形象与语音嵌入直播间进行模拟。

该演员公开表示：“这种AI手段混淆大家视听，我的肖像受到侵权，这对我是莫大的伤害，还包括信任我的观众朋友们，他们下单如果买到（假货），我心里会难过。”

这位演员的团队工作人员发现虚假视频在网络传播后便持续进行举报，一天内曾集中举报50个假冒账号，有的造假账号被平台下架处理，有的则刚下架就换个形式重新出现。据介绍，部分商家只需截取一段影像，用简易工具就能生成虚假内容，而取证申诉的过程却要花费很大的精力。

演员团队工作人员介绍：“他们喜欢在凌晨三四点，大家都在休息的时候打时间差，去发这个东西。（我们）送达了律师函，包括他们的侵权行为、产品，所对应的公司主体，这其实只是一部分。早前我们已经陆陆续续处理很多了。”

AI换脸乱象，不仅让名人深受其扰，普通人遭遇AI换脸侵犯权益的现象也时有发生。上个月，山东济南的陈先生在某社交平台网购了两条裤子，却只收到了一袋小苏打，商家表示货发错了，由此双方起了争执。没承想，商家竟用AI换脸，冒用陈先生妻子的形象在社交媒体发布不雅视频。

陈先生说：“我们起了争执，我说了他一句，他就给我打电话辱骂我，长达十来分钟，挂了之后，我就向平台举报了，因为我是有录音的。但是后期他发布了AI换脸视频，换的是我爱人的脸。”

陈先生称，商家通过购物记录找到他在社交平台上的账号，起初在陈先生已发布的视频下方恶意评论，而后注册账号盗用陈先生妻子的形象发布不雅视频。陈先生随后向平台方投诉，并向警方报警，最终侵权账号被封。

陈先生表示：“打了好多遍电话，来回拉扯。每次打电话的客服都不是一个人，最后他跟我说这边商家保证金还是够给你赔付的，不用担心这方面的精神损失。”

滥用AI换脸技术，不仅出现在侵犯肖像权的民事案件中，甚至已触及刑事犯罪。此前，江苏省南京市玄武区人民法院审理了一起“AI换脸”诈骗案。被告人符某利用非法获取的195万余条公民个人信息和AI换脸软件，登录了被害人的支付账户，盗刷银行卡进行消费。

南京市玄武区人民检察院检察官助理张海月告诉记者，符某通过AI换脸软件，以“人脸识别”的方式，登录了23名被害人的金融平台支付账户。其中，非法更改了5人的支付密码和绑定手机号，冒用了1人的支付账户绑定的银行卡购买了两部手机，共计人民币15996元。

张海月说：“通过技术融合，AI生成一个动态视频，包括左摇头、右摇头、张嘴这样一些金融平台可能会要求用户登录时做的指令动作，突破金融支付平台的防线。”

期间，符某曾试图利用AI换脸，突破多个金融支付平台的“人脸识别”认证系统。南京市玄武区人民检察院检察官徐佳说：“他就不断地去尝试，也尝试了很多平台，但是别的平台可能因为风控系统比较严格，这个平台可能存在一些漏洞，最终得逞。”

而后，法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处符某有期徒刑4年6个月，并要求其承担15996元公益损害赔偿金、删除存储的所有公民个人信息。另外，针对本案暴露的某金融支付平台存在的技术风险问题，检察机关及时发出法律风险提示函。目前，该金融支付平台已完成整改。

记者在多个社交平台发现，AI换脸教程及服务可以轻易搜索到，也有一些博主上传相关软件使用技巧。而在网购平台，该类软件或服务定价较低。记者也注意到，监管部门已针对AI虚假直播出台治理措施，国家网信办等多部门共同发布《人工智能生成合成内容标识办法》，明确要求AI生成的肖像视频需标注AI生成，否则将面临最高10万元罚款。但很多博主将标注藏在视频或者直播剪辑的角落，或者用极小的字体显示，消费者很难注意到。

中国政法大学刑事司法学院教授谢澍表示，AI换脸与声音克隆技术形成的灰色产业链，是网络黑灰产的典型形态。此类犯罪涉及全链条，需要系统审查、综合判断。

谢澍表示：“其上下游行为可被现行刑法有效规制。当前的核心挑战在于侦查中的证据固定以及对各环节‘主观明知’的准确认定。必须坚持全链条打击思路，同时压实平台主体责任，对拒不履行网络安全管理义务的平台追究刑事责任。现有刑法罪名体系已能对此类技术滥用形成有力威慑，关键在于通过严格执法与精准司法，将法律条文转化为实际的治理效能。”

目前，已有平台针对AI仿冒名人带货行为采取专项治理。但平台相关负责人称，AI侵权识别是行业性难题，黑灰产通过凌晨发布、频繁更换账号等手段规避监管，未来将持续加强治理力度，对违规行为严格处置。