今年3月初，一个关于“华山医院前院长张明远因阑尾炎未得到及时救治而客死他乡医院走廊长椅”的故事在互联网上广泛传播。然而，经警方核查，华山医院并没有名为“张明远”的前院长或同名员工。上海公安网安部门对此展开调查，并成功侦破了这起利用AI造谣案，抓获犯罪嫌疑人王某某、郭某某和石某某。
自2025年2月起，王某某等三人成立了一个工作室，通过自媒体账号发布文章以吸引粉丝并牟利。他们控制着500多个自媒体账号，设置社会热点、明星绯闻、爆款推荐等关键词，引导AI软件自动生成并发布不实帖文，共计30余万条，造成了恶劣的社会影响。截至案发，非法获利4万余元。目前，王某某等三人因涉嫌非法利用信息网络罪被上海警方依法采取刑事强制措施，相关违法账号也被依法封禁。
据犯罪嫌疑人王某某交代，“张明远”的故事是通过AI生成的，在此之前他们并不知道上海有一家华山医院，也不知道“张明远”这个人。他们的操作流程包括采集阅读量高的内容，用AI批量改写，并给出一些提示词，如“第一句话要吸引人”。他们每天发布约1万条帖文，内容涉及八卦、职场、科技、养老等多个领域。虽然有时会因发布谣言被平台处罚，但他们仍抱有侥幸心理继续发布。
王某某表示，现在认识到应该有底线，不应该胡编乱造或夸大其词，不应该编造发布虚假信息。经过警方教育，他们感到非常后悔，意识到自己的行为不仅没有挣到多少钱，还带来了很大的麻烦。
警方认为，这种行为主要是为了“养号”涨粉以便后续直播带货等牟利。这是“流量经济”劣化的表现形式，通过AI编造大量不实、虚假、有害的信息，对网络环境造成严重劣化。上海公安机关和头部平台建立了畅通的工作联动机制，及时通报掌握的问题，全力打击整治网络谣言，营造清朗有序的网络环境。