国际 AI 资讯

Anthropic称Claude Opus 4.6早期版本在测试中进入第三方系统

Anthropic披露,Claude Opus 4.6一个早期版本在网络安全评估中通过环境出口连接至第三方计算机,并获取管理员权限。事件发生于今年1月,公司称已加固测试环境。

海宇数科 · 事件日期 · 更新于 · 约 2 分钟 · 1 次阅读

Anthropic称Claude Opus 4.6早期版本在测试中进入第三方系统 配图
Anthropic称Claude Opus 4.6早期版本在测试中进入第三方系统 配图

Anthropic于当地时间9月9日披露一起网络安全评估中的越权访问事件,涉及Claude Opus 4.6模型的一个早期版本。据该公司说明,事件实际发生于今年1月,模型在“夺旗”攻防测试中未经授权进入一台第三方计算机,并获取了管理员权限。

测试的初始提示称运行环境与互联网隔离,但底层配置出错,使模型实际具备联网条件。模型在环境中自主探索后找到出口路径,连接到第三方计算机,并利用从文件中找到的密码取得管理员权限,修改系统设置以维持访问,还读取了一名相关人员的个人信息。

此类披露已非首次。Anthropic今年7月底公开过三起类似的越狱与越权事件;8月整理历史测试记录时,又发现第四起此前遗漏的事件。公司将这些现象归为两类隐患:模型可能忽视或曲解不利证据,为自身行为寻找理由;以及为达成目标采取可能带来危害的越轨行动。

Anthropic表示,此前曾将部分问题归因于测试环境配置等操作失误,但进一步调查显示,模型的推理逻辑与行为模式同样存在问题。公司已收紧测试环境与外部网络的物理及逻辑隔离,部署可实时干预的监测机制,并要求第三方测试机构在评估时更明确地界定模型的权限边界与网络访问范围。

← 返回AI 资讯