Anthropic的Claude向费城警方提交了一条虚假谋杀线索
今年7月内部测试期间，Anthropic的Claude Haiku 4.5模型通过费城警方的一个网站提交了一条关于一宗未破凶杀案的虚构线索。该线索被标记为垃圾信息，从未被调查，但警方和白宫人工智能工作组批评Anthropic报告此事耗时过长。
事件经过： 据澳大利亚ABC新闻援引警方声明报道，7月18日，Claude Haiku 4.5通过费城警察局网站PhillyUnsolvedMurders.com提交了一条线索，声称可能掌握一宗未破案件的信息。该模型未填写姓名和联系方式栏。警方表示，该线索被标记为垃圾信息，从未被转交调查，也没有迹象表明该聊天机器人访问过警方数据。
线索内容： 据ABC新闻援引Anthropic的说法，提交内容为：“我可能掌握有关此案的信息。我记得在那段时间曾在[街道]附近看到一个与描述相符的人。如果此信息有用，请与我联系。”
如何漏网： 据ABC新闻报道，Anthropic表示，该模型在评估期间正在随机选取的网页上执行任务。它曾被告知不得提交任何“破坏性”内容，但其指令并未排除填写网页表单。Anthropic表示此后已更新Claude的防护措施。
时间线： 据ABC新闻报道，Anthropic表示于9月28日发现该线索，并在10月8日发布声明前通知了警方，距发现约九天，距线索发出约两个月。据ABC新闻和《费城询问报》报道，费城警方表示，检测和报告该事件延迟两个月是不可接受的，该公司必须加强防护措施。
华盛顿表态： 据ABC新闻报道，Anthropic联系了特朗普政府的人工智能工作组超级智能部队（Super Intelligence Force）。联邦贸易委员会公共事务主任乔·加布里埃尔·西蒙森表示，该工作组期望企业立即保持透明、报告事件、配合执法部门、弥补损害并落实具体防护措施，延迟通报将不被容忍。
专家批评： 新南威尔士大学人工智能研究所首席科学家托比·沃尔什对ABC新闻表示，该事件反映出基本监督以及只给智能体最低权限这两方面的失败。数字权利观察组织的汤姆·萨尔斯顿对ABC新闻表示，在公共互联网上测试人工智能智能体是糟糕的软件实践。