央视曝光AI换脸语音合成滥用案件涉及杭州山东

9月22日，央视曝光多起AI换脸与语音合成技术被滥用案件。杭州两名男子利用他人身份证照片生成动态人脸视频，通过虚拟相机绕过平台活体检测，非法登录近30个购物账号，获取收货地址、购物车等信息，并制作虚假活体视频完成20个账号认证后出售，非法获利5857元。案发后二人认罪认罚并退还所得，检察机关决定不予起诉，但杭州中院于2025年9月4日判令其公开道歉并支付5857元公益损害赔偿金。

另一起案件中，山东一名已婚女子自2024年11月起使用AI换脸、语音合成及伪造身份证，伪装成20多岁“白富美”与男子维持6年网恋，以还债、看病、创业等理由骗得13万余元，并伪造即将获得60万元拆迁款的录音博取信任。法院以诈骗罪判处其有期徒刑三年、缓刑四年，罚金2万元。

此外，杭州一名拥有159万粉丝的美妆博主遭AI冒充，某公司未经授权抓取其视频与直播素材，通过AI换脸和声音合成制作30余条虚假带货视频，误导消费者。法院认定构成肖像权侵权，判赔经济损失及维权费1.5万元、精神损害赔偿5000元，并须公开道歉不少于30日。