橘猫新闻 综合报道
当地时间周三，OpenAI首席执行官萨姆·奥尔特曼与Anthropic PBC首席执行官达里奥·阿莫代伊罕见共同出席联合国安理会会议，敦促世界各国领导人就人工智能安全加强合作。此次会议在纽约联合国大会期间举行，聚焦AI可能对人类构成生存威胁的担忧。
两位高管在发言中均强调，全球在标准方面开展合作至关重要，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。他们表示，各国政府应与业界携手，共同制定有关这项技术未来发展的关键决策。
奥尔特曼在安理会讲话中试图在是否应放缓AI技术发展的问题上寻求折中方案。他认为，在那些警告AI会带来灾难性后果的人和那些淡化潜在风险的人之间，存在一条“务实的道路”。
“历史上，一些相互竞争、并非总是彼此友好的国家，面对强大的新技术，也会为了共同利益和集体福祉而走到一起，”奥尔特曼说。他还与阿莫代伊一道强调了建立事件快速响应机制的必要性。“如果我们能就全球范围内有效证据、有效保障和有效监督达成共识，对我们所有人都有好处，”奥尔特曼表示，“我们并非无所不知，也十分乐于接受任何更好的建议。我们愿与大家携手合作，竭尽全力寻找前进的方向。”
阿莫代伊通过视频发表讲话指出，人工智能有望为科学和医疗带来巨大益处，但也可能造成灾难性后果。他警告，恐怖分子可能利用AI制造致命的生物武器，且AI模型的功能可能过于强大，超出开发者控制范围，因此敦促各国政府制定国际安全标准。
“尽管在座各位存在诸多分歧，但我们必须搁置这些分歧，共同应对摆在我们面前的全球机遇和全球威胁。没有任何一位领导人、任何一家公司或任何国家能够独自应对这一挑战，”阿莫代伊说。
联合国秘书长安东尼奥·古特雷斯在开幕致辞中敦促世界各国领导人就所谓的前沿人工智能模型进行协调，并指出联合国是支持这些努力的平台。
然而，美国总统唐纳德·特朗普在讲话中拒绝有关制定国际协议、为AI发展设置安全护栏的呼吁。
