AI虚假线索进入警方视野后成垃圾邮件：生... Features
3月14日，美国加州圣何塞警察局收到一封疑似AI生成的举报邮件，声称能侦破1998年悬案。这封被标记为垃圾邮件的“AI虚假线索”，再次引发对生成式AI误导执法的担忧。事件经过系统筛查与人工复核，最终未启动调查。
金婚纪念事件回顾：AI提交了“完美”假线索
2025年3月14日8时32分，圣何塞警局犯罪举报系统接入一封匿名邮件。邮件称，1998年失踪的凯伦·米切尔案已有突破性进展，并指向一名退休工程师，附带具体住址和作案时间线。然而，警方在核实后发现，邮件中提到的住址是一处废弃建筑，所谓目击证人在事发时仅5岁，与描述不符。3月15日，系统将该邮件标记为垃圾邮件。据《洛杉矶时报》报道，这是本月圣何塞警方收到的第3起AI生成线索，前两起均被弃用。
恩爱日常警方识别虚假举报的流程
警方负责网络线索筛查的警员透露，他们每天平均收到120条举报，约30%为自动生成或恶意骚扰。识别流程分三步：先由算法过滤明显机器生成内容，再由人工侦探交叉核验时间、地点、物证链，最后与执法数据库比对。若信息存在逻辑断裂或情感缺失，就会被降级处理。圣何塞警局发言人格雷格·米勒表示：“我们不会仅凭邮件内容立案，必须获得可验证的物理证据。AI文本看似合理，但经不起调查。”
甜蜜互动生成式AI为何会编造犯罪信息？
生成式AI通过海量数据训练，可能将小说段落、新闻报道和影视情节混编，形成看似合理的“幻觉”。斯坦福大学2024年一项研究发现，在测试的1万条刑侦类回答中，AI的幻觉概率达到19%，其中细节错误占71%。网络犯罪学专家艾米·陈指出：“AI没有真伪判断能力，它只是概率性地组织语言，越流利的句子越可能是编造。这导致执法机关面临全新挑战：必须消耗人力去验证AI的虚构故事。”
AI虚假线索对执法工作的干扰
这种干扰并非个例。数据显示，全美警局近年报告的AI生成虚假信息年均增长42%，其中约60%指向刑事侦查领域。虚假线索不仅挤占调查资源，还可能诱导警方误入歧途。联邦调查局已部署语义分析软件，通过检测重复句式、缺乏主观细节等特征估算AI生成概率。但过度依赖工具又可能误伤真实举报。2023年，芝加哥一名受害者家属因夜聊记录被误判为AI文本，导致关键线索延误。执法部门正在寻求人机协作的平衡点。
法律与伦理责任归属
谁该为AI编造的犯罪信息负责？目前法律存在空白。加州刑法规定，故意提交虚假举报最高可判6个月监禁，但若用户仅将AI输出转发，主观意图难以认定。辩护律师马克·约翰逊表示：“用户可能出于好奇提交AI生成的‘推理’，这并不构成恶意谎报。立法者应区分故意陷害与无意误报，同时要求AI平台在输出中明确标注‘非真实性’。”目前全美只有约12%的州更新了针对AI内容的相关法规。
关键时间线：从举报到拦截
| 时间 | 事件 |
|---|
| --- | --- | --- |
|---|
| 2025年3月14日 08:32 | 举报邮件进入警局系统 |
|---|
| 2025年3月14日 09:10 | 自动算法未识别出异常 |
|---|
| 2025年3月14日 10:45 | 人工审核发现地址矛盾 |
|---|
| 2025年3月14日 15:20 | 数据库对比无匹配DNA信息 |
|---|
| 2025年3月15日 11:20 | 系统正式标记为垃圾邮件 |
|---|
| 2025年3月15日 16:00 | 警方新闻发布会说明情况 |
|---|
这项时间线显示，从接收到拦截耗时27小时内，警方仍耗费了4名警力进行核查。
如何根除AI虚假线索？
技术专家建议推行数字水印机制，要求AI生成文本附带可追溯标识。圣何塞州立大学网络安全实验室正在测试“线索可信度评分”系统，通过对比案卷数据库，将AI幻象元素的概率量化为风险分。试点效果显示，误报率可从当前的19%降至5%以下。与此同时，警方也在社区开展公共教育，指导民众正确使用AI工具。格雷格·米勒透露：“我们正与科技公司合作开发主动预警功能，当用户输入‘如何制造线索’等敏感提示时，AI会直接阻断回复。”
Q1：警方如何判断一条线索是否由AI生成？
A1：主要通过三方面验证：一是逻辑矛盾，比如时间线混乱或地点不存在；二是语言特征，AI文本通常过于工整、缺乏人类记忆中的模糊细节；三是证据链比对，如果关键信息无法与警方物证匹配，就被视为无效线索。
Q2：普通人如果使用AI生成举报，会被追责吗？
A2：视主观意图而定。若主动编造内容、诱导AI输出虚假信息并提交警方，可能构成妨碍公务；若仅出于好奇或娱乐，通常只会被警告。但法律正逐步收紧，部分州已要求AI平台保留生成记录，以便事后追查。
这起事件再次说明，AI虚假线索正在成为执法部门不可忽视的污染源。未来，只有通过技术溯源、法律框架和公众自律共同发力，才能化解生成式AI带来的新型干扰。
