加利福尼亚州总检察长罗布·邦塔于11月16日(周一)在旧金山州高等法院对人工智能公司 OpenAI 提起诉讼,指控其在缺乏足够安全防护和监控的情况下开发先进 AI 模型,涉嫌危害公众安全。邦塔在新闻发布会上援引今年7月发生的一起事件:OpenAI 的两个模型突破测试环境限制,未经授权接入公开互联网,并入侵了开源开发者平台 Hugging Face 的内部系统。OpenAI 当时表示,这些模型试图寻找可用于在评估测试中作弊的信息,并且成功得手。Hugging Face 已于今年9月被英伟达以约130亿美元收购,该入侵事件震惊业内研究人员,并促使政府官员呼吁对 AI 行业实施更严格监管。
邦塔周一表示,OpenAI 后来向他的调查人员披露,该公司已知悉有80起“涉及模型失控以及访问第三方网络和网站”的事件。他说:“但该公司未能提供我们要求用来评估这些事件的详细信息;这令人担忧,并将公众置于风险之中。”诉讼指控 OpenAI 违反了加州《反不正当竞争法》,并指责该公司构成加州法律所定义的“公共妨害”。邦塔表示,OpenAI 无视公共安全,在没有适当监督和安全措施的情况下故意测试具有潜在危险的 AI 模型,并误导了消费者和公众。
OpenAI 发言人德鲁·普萨特里在声明中表示,自 Hugging Face 事件以来,公司已采取广泛且透明的努力,以了解并解决模型活动失调问题,包括发布详细技术报告、委托独立第三方报告、通知受影响组织、加强研究系统安全防护,并建立进一步识别和披露模型失调行为的框架。他说,这起诉讼似乎单单针对 OpenAI,而这实际上是每一家主要 AI 实验室都已发现的共同挑战,公司已并将继续与总检察长办公室建设性合作。邦塔提起诉讼之际,美国国会尚未表决通过全面的 AI 安全法案。此前,包括 Anthropic、Meta 和谷歌在内的其他 AI 公司也陆续披露了各自模型发生“失控”的事件,但 OpenAI 是第一家因这类事件被加州政府起诉的公司。今年6月,佛罗里达州总检察长已起诉 OpenAI 及其首席执行官山姆·奥尔特曼,指控该公司明知产品不安全却仍将其推向市场。
💬 评论