Claude“闯祸”波及政府网站，Anthropic最新披露四类AI非预期行为

智通财经APP获悉，Anthropic PBC表示，其Claude AI模型在外部机构数字系统中出现了多项非预期操作，其中涉及部分美国政府机构网站。事件发生后，特朗普政府向AI企业发出警示，要求其做好系统安全防护。

在一份概述此前未披露事件的报告中，Anthropic列举了该AI表现出的四类非预期行为，包括利用软件的基础漏洞执行命令、违规提交表单，以及绕过限制访问特定公共数据。

该公司称，部分案例涉及联邦、州和地方各级政府机构运营的网站，但并未指明具体机构。报告也没有披露涉事外部主体名称，Anthropic表示这是应部分受影响方的要求。

近几个月来，Anthropic及其竞争对手OpenAI披露了一系列涉及自家AI模型以非预期方式行事的事件，既包括这份周五报告描述的行为，也包含对第三方网站的入侵操作。一系列披露加剧了市场对前沿AI安全风险的担忧。

Anthropic在报告中表示，本次发现的行为严重程度低于公司此前发生的部分AI事故。“截至目前，我们发现的这类事件对现实世界造成的影响十分有限。”

在周五公布的一起不当行为案例中，Anthropic称其ClaudeHaiku 4.5模型向一个地方警察部门提交了关于一起凶杀案线索，在表单中写道“我可能掌握与此案相关的信息”，以及“我记得在该区域看到过体貌特征匹配人员”，但没有填写报案人的姓名与联系方式。该公司表示，费城警察局于当天上午在一份新闻稿中披露了这一事件。

Anthropic还表示，已就相关事件向白宫进行简报，并逐一通知所有涉事机构。

周五，特朗普政府官员表示，他们现在要求AI公司通知受影响方，并处理涉及其模型的安全事件。

白宫下属超级智能特别工作组(SI Force，由特朗普新设，负责监管AI研发与安全)在声明中表示：“今日早些时候，Anthropic联系SI Force，披露了其在9月底发现的涉及未经授权和欺诈性使用政府及其他系统的多起过往事件的细节。”

声明称：“该公司告知我们，这些事件发生在过去，相关活动已经停止，目前没有类似的持续活动。”

由于这些被揭露的事件，Anthropic周五表示，已在其训练过程的测试阶段限制了其AI模型的某些类型的互联网访问权限。