大众网记者 乔思亚 聊城报道元配网
随着生成式人工智能技术门槛降低，个别网民利用AI工具编造、传播虚假信息的能力大幅提升，尤其在自然灾害、突发公共事件中，此类技术滥用行为极易引发社会恐慌、干扰应急响应，危害性远超出传统谣言。近日，山东省聊城市冠县网安部门依法查处一起利用AI技术捏造地震灾情短视频案件，凸显了AI谣言在传播速度、视觉欺骗性与社会危害性上的三重升级。该案的侦办，是冠县网安部门在“冬季守护”专项行动中，从管理预防、精准打击、警示宣教三个维度协同发力，推动网络空间综合治理的一次生动实践。
管理前置：强化技术预警，压实平台责任
“AI技术不是法外之地，越是技术迭代快，越要跑在风险前面。面对AI技术滥用带来的新挑战，坚持“技术+机制”双轮驱动，在日常管理中强化对新兴技术风险的预警与干预。一方面，网安大队主动对接县域内重点短视频、社交媒体平台区域运营机构，推动建立“AI生成内容风险联防机制”，督促平台落实主体责任，加强对灾害、事故等敏感话题下视频内容的技术审核与人工复核。另一方面，依托网络安全监督检查机制，对本地具有网络大V、自媒体从业者开展专项摸排，明确数据使用与内容生成的安全边界，防止技术被滥用，通过专题培训、风险通报等形式，提高网络参与者风险意识。
精准打击：合成作战溯源，依法快速处置
2025年12月11日4时06分元配网，山东省聊城市冠县发生3.7级地震。官方迅速通报确认未造成损失，社会秩序稳定。然而，地震发生数小时内，在网络巡查中发现，抖音平台出现一段标题惊悚、画面“触目惊心”的所谓“灾情现场”短视频，内容包含AI合成的房屋裂缝、道路坍塌等虚假场景。
大队立即启动涉稳谣言快查机制，线上追踪视频源头与传播路径，线下落地核查。通过技术溯源，迅速锁定了发布者为本地网民陈某。
经查，陈某为博取流量、吸引关注，在地震发生后，使用AI工具自动生成具有视觉欺骗性的灾情画面，并配以煽动性文字发布。公安机关依据《中华人民共和国治安管理处罚法》，依法对陈某作出行政处罚。从发现线索到依法处罚，整个过程不足24小时，实现了对新型网络谣言的“快侦快处、打早打小”。
警示宣教：剖析“AI+谣言”危害，筑牢社会抵御防线
（一）技术欺骗性极强，颠覆“眼见为实”认知
AI生成的图像、视频在细节上已接近真实，普通网民难以辨别。这打破了以往“有图有真相”的惯性认知，警示公众对高度逼真的灾情、事故视频需保持审慎。
（二）传播呈裂变式增长，危害急剧放大
AI工具可批量生成不同角度的虚假内容，结合算法推荐，能在短时间内形成信息轰炸。地震等话题本身敏感，叠加AI视觉冲击，极易引发恐慌情绪和非理性行为，社会危害远超一般谣言。
（三）推动构建“技术识别—依法打击—公众教育”三位一体防线
以此案为契机，冠县网安大队联合县委网信办、融媒体中心，制作发布了《AI谣言，你识别得了吗？》系列普法短视频与图文解读，用此案作为核心案例，向公众普及AI谣言的特征、识别技巧与举报途径。同时，推动本地网络平台加强AI内容标注提示，鼓励公众积极参与监督举报。
“处罚不是目的，形成‘不敢造、不能传、不易信’的清朗生态才是根本。下一步元配网，冠县网安将继续深化“冬季守护”专项行动，紧盯新技术、新应用带来的安全风险，不断强化管理精度、打击力度与宣传深度，坚决守好网络空间“责任田”，全力护航县域清朗安靖的数字环境。
选倍网提示：文章来自网络，不代表本站观点。
