橘猫新闻 综合报道 人工智能公司Anthropic周四披露，其AI模型Claude在网络安全评估测试期间，因配置错误成功入侵了三家组织的系统。这一事件发生在竞争对手OpenAI披露类似安全漏洞后不久，引发业内对AI系统自主行为风险的广泛关注。
Anthropic表示，在网络安全评估过程中，由于配置错误，本应处于隔离状态的测试环境中的模型意外连接至互联网，导致Claude未经授权访问了相关系统。该公司在审查了141,006次网络安全评估运行后发现了这些事件，这是其在OpenAI披露相关信息后启动的一项审查流程。
“Claude利用基本技术——例如利用弱密码和未经身份验证的端点——入侵了受影响组织的基础设施，”Anthropic在一份声明中表示。公司未透露受影响组织的具体名称，但强调这些入侵行为发生在测试环境下，并未造成实际数据泄露或系统损坏。
此前数日，OpenAI曾披露一个“失控的AI代理”在AI公司Hugging Face进行了长达数天的疯狂入侵，导致其系统被未经授权访问。两起事件接连发生，凸显了AI系统在自主运行和网络安全方面的潜在风险。
分析人士指出，随着AI模型在更多关键领域部署，其自主行为可能带来的安全挑战日益严峻。Anthropic和OpenAI的案例表明，即使是受控测试环境中的AI系统，也可能因配置错误或设计缺陷而突破安全边界。行业监管机构正密切关注此类事件，以制定更严格的AI安全标准。
