徐大爷是天坛公园健身圈的一名“网红”，却因AI技术遭遇了一场无妄之灾。他的视频被不法分子盗用，并通过AI换脸技术将他变成了一个癌症患者，还附带了虚假广告。
随着人工智能技术的快速发展，诸如“AI换脸”和“AI合成照片、视频”等现象在网络中越来越常见。最近，“视频画面身临其境可能也是AI伪造”的话题登上微博热搜，引发了广泛讨论。尽管AI合成视频在技术上取得了巨大突破，但一些不法分子却将其用于制造谣言和网络诈骗。
要辨别AI合成视频的真伪，可以关注一些细节。例如，生成的视频中眨眼或闭眼的动作较少，或者两只眼睛的瞳孔颜色不一致，牙齿边缘过于整齐，这些都可能是AI合成的迹象。此外，观察人物面部表情是否自然、眨眼频率是否异常以及音频和视频是否同步也是常见的方法。
针对AI合成视频带来的乱象，相关部门已经采取行动。今年2月，中央网信办发布了2025年“清朗”系列专项行动整治重点，特别提出整治AI技术滥用问题，打击利用AI生成虚假信息的行为。国家网信办等部门也发布了《人工智能生成合成内容标识办法》，要求自9月1日起，所有AI生成合成内容必须添加标识。
互联网平台也在积极响应。抖音开展了专项行动治理“AI起号”现象，清理了311条违规内容，并封禁了15个严重违规账号。小红书则发布了关于整治AI技术滥用的公告，重点打击利用AI批量生产虚假内容涨粉、售卖AI起号课程等行为。
治理AI造谣需要多方面的努力。除了加强法律法规的制定和执行外，还需要提高普通用户的媒介素养与辨别能力。用户应保持怀疑态度，谨慎对待未经核实的信息，避免盲目转发。