橘猫新闻 综合报道
曾负责OpenAI安全团队透明度工作的大卫·罗宾森（David Robinson）已从公司离职，并公开警告称，顶尖人工智能公司在降低风险方面做得远远不够。他在为《大西洋月刊》撰写的文章中呼吁，AI公司应像核电站一样运营，设置多层冗余机制，进行谨慎且耗时的规划，以免偶发且不可避免的人为错误打开通往灾难的大门。
罗宾森在文章中直言，这家ChatGPT开发商“一直通过反复试错发展壮大”。但他指出，这种方式不可避免会有失败的时候，随着AI技术的能力不断提升，这些失败造成的风险也在加大。他以OpenAI未能阻止其人工智能在测试过程中失控作为例证。
“我以前的同事都很聪明、工作努力，也努力做出正确的选择。但随着公司从一个产品发布冲向下一个产品发布，它并没有达到我认为所需要的谨慎程度。”罗宾森补充称，真正需要的是“第一次就做到更接近完美”。
罗宾森的离职与发声并非孤立事件。最近几周，多家顶尖人工智能公司的员工都对该技术可能带来的灾难性风险发出警告，一些人甚至表示，AI有朝一日可能会消灭人类。
在这一背景下，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）呼吁放慢开发最前沿模型的速度，并表示其公司将引入第三方评估人员，协助审查以保证安全。业内其他人士，包括OpenAI的萨姆·奥特曼（Sam Altman），也公开支持阿莫迪的计划。
