AI 生成的虚假信息往往文字流畅、画面逼真,单靠“看起来假不假”已经难以判断,需要结合来源、细节、逻辑和技术标识综合识别。识别的关键不是挑错别字,而是核查内容出自哪里、能否被其他信源印证、是否存在细节矛盾,以及有没有 AI 标识。企业建立一套判断流程,既能避免被假信息误导决策,也能在遭遇 AI 造谣时快速识别、及时处置。
一、先看信息来源
核查发布账号是否可信、是否为新注册或匿名账号、有没有原始出处,无法溯源、只在群聊传播的内容要格外警惕。
二、查看是否有标识
合规的 AI 生成内容应带有显著标识或技术水印,发现没有标识却高度仿真的内容,本身就值得怀疑。
三、交叉验证事实
把内容中的关键事实与权威媒体、官方信息和原始文件比对,真实事件通常能被多个独立信源印证,单一来源难证实的要谨慎。
四、检查细节矛盾
AI 生成的图片和视频常出现手指、光影、边缘、口型等细节异常,文本可能出现数据前后不一致或引用不存在的来源。
五、判断逻辑是否成立
分析内容的因果关系和常识是否合理,AI 可能把真实元素重新组合,单句通顺但整体逻辑经不起推敲。
六、借助技术工具
对图片视频可使用深度伪造检测工具,对文本可结合溯源和检测平台,技术手段能提供辅助判断。
七、存证后再处置
确认可疑后先截图、录屏、固定来源,再通过平台投诉或权威澄清处理,不要在未核实前就转发,避免自己成为传播环节。