近日，知名模特叶凯薇发视频称，她被人利用AI换脸制作淫秽视频，并大量传播，给她带来了严重困扰。目前她已经收集证据并报警。警方鉴定结果显示，该视频确系拼凑伪造，案件正在进一步调查中。这一事件再次引发了公众对AI换脸滥用导致的违法侵权行为的关注。
在视频中，叶凯薇表示2024年发现有人利用AI换脸技术制作了一段淫秽视频，并被广泛传播。同行和摄影师在传播时还附带了污秽难听的字眼，对她造成了很大伤害。她一直在默默收集证据，并向警方报案。警方已立案，并确认视频是通过技术手段拼凑合成的。
叶凯薇呼吁大家不要听信谣言，也不要胡乱传播，并表示将对个别同行和摄影师提起诉讼。她的视频发布后引起了广泛关注和讨论。
叶凯薇是一名知名模特，在某短视频平台拥有190多万粉丝。上海警方接到报警后立即展开调查，经专业机构鉴定，证实该视频确实是拼凑伪造的。
AI换脸技术也称为深度伪造技术，是一种基于人工智能的人体图像合成技术。近年来，不法分子利用这项技术进行诈骗、勒索等犯罪活动，多名知名人士也因此受害，并在公开场合呼吁加强治理，应对新技术带来的风险挑战。
针对此事，安徽省委依法治省办法治督察员、君悦(合肥)律师事务所主任罗平指出，AI换脸存在诸多法律风险。这些风险包括侵犯肖像权、涉嫌犯罪、隐私权侵权、个人信息侵权以及著作权侵权。他建议个人应避免在社交平台上公开高清人脸信息，发现侵权后及时固定证据并通过法律途径维权。技术使用者需取得肖像权人书面授权，明确使用范围，避免制作和传播可能损害他人权益的内容。相关平台也应建立AI内容审核机制，及时响应侵权投诉，并标注AI生成内容。
安徽大学社会与政治学院副教授王云飞认为，整治AI换脸滥用问题既需要法律监管，也需要道德约束。他强调，随着AI技术普及，操作门槛降低，有必要制定新规则明确应用边界，避免滥用。通过法律和道德共同发力，可以趋利避害，让新技术更好地服务于社会。