近日，有人在网络平台发布多段，标注事发地点为云南大理州现场有人员伤亡的交通事故视频，警方调查发现诸多疑点，一是伤亡人员体态怪异，二是事故现场无管控措施，三是交警群众在现场自由穿行，均不符合交通事故现场处置规范。经核实，辖区内未发生此类交通事故，结合内容不符合逻辑，警方初步判定视频系AI生成，遂将发布者赵某某带回询问，其承认是为博眼球增加社交平台流量，利用AI工具输入指令生成并发布所谓事故现场视频。民警指出，AI生成虚假视频传播虽仅短短几十秒，却造成严重后果。因发现及时，传播范围得到有效控制，赵某某行为扰乱社会秩序，鉴于其积极主动配合调查、及时删除视频消除影响，警方本着教育引导为主、处罚为辅原则，依法给予其治安处罚。
过去“眼见为实”是判断事件真伪的重要依据，但在AI时代“眼见不一定为实”，关于AI创作的法律边界，律师表示，我国已形成较完整法律规范体系，基础法律有民法典、刑法，还配合了三个层次紧密联系的法律法规↓↓对于普通人肉眼难辨AI生成内容真伪的情况，规范AI需各部门配合形成完整体系，首先平台不能仅作为通道，要压实责任，发挥第一线防火墙作用，改善技术；其次要推进立法，填补规则空白，执法者加强自身技术能力和识别能力；还有要从娃娃抓起，让孩子了解AI原理，从道德和法治上进行引导。