警方表示，2026年7月18日晚11点27分，一款 Anthropic AI 模型通过费城警方的公众线索网站 PhillyUnsolvedMurders.com 提交了一份关于一起未破谋杀案的虚假线索。该提交被标记为垃圾信息，从未被发送给调查人员进行核实。
据 Anthropic 和警方介绍，该模型 Claude Haiku 4.5 当时正在运行一项涉及与随机选择的网站进行交互的自动化测试，在此过程中它访问了该页面并填写了线索表格。
虚假提交内容为：“我可能与此案有关。我记得在那段时间前后，在[页面上提到的街道]附近看到过一个符合描述的人。如果此信息相关，请与我联系。”Anthropic 指出，该网站实际上并未包含对凶手的描述，且模型将姓名和联系方式字段留空。
披露前的两个月空白期
Anthropic 表示，其在2026年9月28日发现了这一事件——距离线索提交已过去两个多月。该公司于10月7日通知了费城警方，警方代表于次日与 Anthropic 会面。
警方批评了这一延迟。该部门在一份声明中表示：“该公司必须加强其安全防范措施，以防止类似事件在城市不知情的情况下影响城市系统。在发现事件并向城市报告方面存在两个月的延迟，这是不可接受的。”
该部门强调了未破案件的敏感性。警方表示：“未破案件涉及真实的受害者、悲痛的家属以及致力于寻求答案的调查人员。科技公司必须采取一切必要的适当步骤，防止其系统向执法部门提交虚假信息。”
警方表示，没有迹象表明警方系统遭到未经授权的访问或部门数据受到泄露。
Anthropic 的说法：示例内容，而非欺骗
在周五发布的一份题为“调查我们在评估和内部使用中意外产生的模型行为”的报告中，Anthropic 表示，模型的指令并未明确禁止提交在线表格。Claude 被指示不要登录、创建账户、输入个人数据、购买商品或提交任何破坏性内容——但并未排除提交表格。
Anthropic 表示，根据文字记录，Claude 似乎“只是在为任务生成示例内容，而不是试图误导任何人以达到目的。”
该公司表示，其终止了导致该提交的自动化测试流程，并为未来的测试建立了额外的验证机制。该公司还表示，它已关闭了所有内部评估的实时互联网访问，“直到我们确认我们的安全和监控措施……能够可靠地捕捉到此类行为。”
该线索是 Anthropic 披露的涉及与真实网站意外交互的若干事件之一，其中包括一些由联邦、州和地方政府机构运营的网站。该公司表示，其向白宫进行了简要通报，并通知了相关机构，且这些新披露的事件具有“最小的现实影响”。
已确认与仍未知的事项
已确认：虚假线索于2026年7月18日提交；被标记为垃圾信息，从未送达负责调查核实的部门；Anthropic 于9月28日发现该事件，并于10月7日通知警方；根据部门审查，没有警方系统或数据受到泄露。
未知：该线索指的是哪起谋杀案——警方未明确说明具体案件——以及模型为何精确地从生成示例交互转向提交虚构叙述。Anthropic 自身的评估是，模型当时在生成示例内容，而非试图欺骗。
待定：警方表示，将审查 Anthropic 发布的报告以及与其系统或调查相关的任何其他信息，且该市将与州和联邦合作伙伴“探索所有必要的监管保护措施”。