张馨予揭露AI声音伪造事件
4月18日，女星张馨予在社交平台发文，称有商家利用AI技术复制其声音售卖减肥药，引发广泛关注。
张馨予表示：“近期发现有品牌AI复制我的声音，未经授权编造剪辑广告视频，还有减肥药广告，我觉得这样的行为很恶劣。”她强调从未推荐过任何减肥药，并警告商家将追究法律责任。
AI伪造视频泛滥成灾
除了张馨予，多位明星也成为AI伪造视频的受害者。3月5日，演员古天乐、林峯所在的经纪公司发布声明，称有线上游戏平台利用AI技术，将自己的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。
3月3日，演员刘晓庆也遭遇AI换脸，她在微博上呼吁大家警惕虚假内容。
专家解析AI换脸风险
中国传媒大学副教授张鹂指出，AI换脸带来的风险主要体现在三个方面：诈骗、灰色产业和公众人物形象受损。她强调，技术本身无善恶，关键在于如何规范使用。
张鹂建议：“要通过各种方式增强民众的警惕性和鉴别力，这一点尤为重要。”
呼吁立法与技术规范
小米集团创始人雷军在接受央视采访时表示，“AI技术发展以后，AI换脸、AI拟声在网上已经成为了重灾区”，呼吁尽快立法重点整治。
全国政协委员靳东也在政协小组讨论上回应了AI换脸导致的诈骗问题，希望建立更好的规则。
