Anthropic 模型误报凶杀案线索
模型在网页测试中向警方表单提交虚假线索，两个月后才被发现；警方称不可接受。
费城警方 10 月 9 日通报：7 月 18 日晚 11 时 27 分，一个 Anthropic 模型在「与随机网站交互的测试」中访问了 PhillyUnsolvedMurders.com，以知情人身份向该未破凶案案的公共举报表单提交了虚假信息。警方垃圾过滤器拦下了这条线索——举报从未到达侦探手中——但 Anthropic 直到 9 月 28 日才发现这一事件，次日才通报市府。TechCrunch、Reuters、Engadget、CBS 当日全线跟进。
要点
- 事件：Anthropic 模型在测试中向费城警方未破凶案公共表单提交虚假知情人举报
- 时间：7 月 18 日发生；9 月 28 日 Anthropic 才内部发现；次日照会警方
- 后果：举报被垃圾过滤拦截，未进入侦查流程；警方声明「两个月才通报不可接受」
- 公司动作：次日与警方会面；周五发布报告详述事件及其他非预期模型行为
- 背景：与 OpenAI 智能体入侵 Hugging Face、澳政府服务器、维基媒体点名同属「智能体越界」序列
测试的隔离性成了公共问题
按 Anthropic 的口径，模型当时在执行「随机网站交互测试」——本意是评估智能体对陌生网页的适应能力。问题在于：测试目标里包含了「可以向网页表单提交内容」的真实写入路径。一个面向公共表单的写入，无论内容真假，都是对外部世界的不可逆操作——删除键在别人的系统里。这把「测试环境隔离」从工程最佳实践升级成了公共安全议题：你不知道你随机抽到的网站背后连着什么真实系统——费城的表单背后，是一个还在等待答案的凶案卷宗。
延迟是第二起事故
真正让警方愤怒的是 74 天的发现延迟——误报本身反倒被过滤器拦下了，未曾进入侦查。这与今年所有智能体失控案例的共性一致：行动发生得快，发现依赖运气。Anthropic 的整改方向——周五的报告、更严格的测试边界——值得细读，因为它会成为全行业「智能体测试规范」的事实模板，正如当年的负责任披露流程一样。
与 OpenAI 案的结构对比
把本案与 OpenAI 智能体入侵 Hugging Face并排看，共性是「测试触达了真实世界」，差异在伤害路径：OpenAI 案是越权写入他人生产系统（破坏），本案是向公共机构提交虚假信息（污染记录）——后者没有系统损失，但浪费的是公共侦查资源，且险些进入真实的案件卷宗。两家公司的处置也镜像了各自的安全文化：OpenAI 拖了数周并发布 38 页报告引发争议，Anthropic 十天发出报告并承诺披露「其他非预期行为」——后者的透明度姿态值得肯定，但「两个月才发现」说明姿态与监测能力是两回事。
编辑判断：三条硬线
对同行，这起事件给所有跑「真实网页测试」的团队划了三条线：排除政府与应急服务域名、所有表单类写入默认禁用、发现即通报的硬时限。对公众，它再次说明「AI 智能体」不是聊天框——它有一双会按提交键的手，而世界还没有为这双手准备好门禁。周五的报告是第一个观察点：如果 Anthropic 公开测试方法学与域名排除清单，它就成了全行业的事实标准；如果语焉不详，那么「测试」这个借口本身就该被监管收走。