OpenAI首席科学家Jakub Pachocki近日提议,人工智能公司应同意对开发能力日益强大的模型设定限制,直到研究人员具备更好的方法来理解和监控这些模型的行为。Pachocki呼吁制定全行业标准,为AI开发划定界限,各家公司应承诺在满足特定安全要求之前不突破这些界限。
Pachocki在文章中写道:“我进一步提议,根据困惑度和其他衡量指标设定共同限制,开发者承诺在我们理解和监控AI行为的能力达到某个具体里程碑之前不突破这些限制。”他提出的限制可部分基于被称为“困惑度”的技术指标,该指标衡量AI模型预测下一段文本的能力。不过,Pachocki并未说明初始限制应设在何种水平,也未说明何时开始实施。他同时警告称,最早到2027年,AI就可能加速自身进化,其速度可能超过研究人员提升监控和理解这项技术能力的速度。
OpenAI首席执行官奥特曼对该提议表示支持,称Pachocki的文章是“OpenAI一段时间以来发布的最重要内容”。奥特曼在X上的一篇帖子中表示,就共同限制达成一致将有助于确保“安全和控制”。
💬 评论