央视揭露了一起利用AI技术冒充亲属欺骗老年人的事件。今年5月，在一列从乌鲁木齐开往山西运城的列车上，乘警发现了一位79岁的老人。她不识字，只是一心想要去运城探望一个自称是她在手机里认识的孩子“小海”。这位老人被屏幕中的“小海”所打动，视频中“小海”称自己没钱吃饭，只能躲在教室吃馒头，还说给老人留了肉包。直到乘警解释这是AI生成的内容后，老人才意识到被骗。
实际上，这种现象并不罕见。在短视频平台上搜索“小海”，会发现多个类似的账号，他们使用统一的人设和话术，通过卖惨吸引中老年女性的关注，最终目的是推销高价商品。这些账号背后的运营者通过简单的AI技术和脚本就能快速生成内容，并且能迅速获得大量粉丝和订单。
这些账号通常以单亲、贫穷、孝顺的形象出现，频繁称呼观众为“姨姨妈妈”，并通过挂购物车的方式进行变现。一些品牌的返佣比例高达50%以上，使得运营者能够从中获取高额利润。老年人因为情感上的空虚，很容易被这种虚假的情感纽带所蒙蔽，从而购买不必要的高价商品。
专家指出，这种行为不仅涉及民事欺诈，还可能构成刑事犯罪。虽然平台已经要求对AI生成的内容进行标识，但实际效果并不理想。很多老年人并不理解这些标识的含义，反而认为这是孩子条件有限的表现。