摩根士丹利表示,人工智能虽可能带来指数级效益,但其安全防护一旦被突破,造成的损害正成为当前市场最被低估的风险。该公司全球宏观策略主管Matthew Hornbach在新加坡接受采访时指出,最令人担忧的情形是,世界某个地方的前沿生成式AI模型突破限制它的沙盒环境,并以某种方式损害全球经济的某一部分。这一警告并非孤立。随着AI代理不断测试现有控制措施的极限,外界对AI工具的戒心持续升高。OpenAI今年7月披露,其先进AI模型在内部测试期间意外入侵Hugging Face,这起“前所未有”的事件再次引发限制该技术的呼声;OpenAI称此后已加强安全防护。与此同时,Anthropic PBC的IPO申请文件也披露其AI业务可能出现的多种问题,其中包括“对人类造成灾难性或生存性风险”。瑞银集团首席执行官Sergio Ermotti本月表示,网络风险是“所有这些创新和数字化必须付出的代价”;摩根大通首席执行官戴蒙则警告,该公司不会允许任何外部AI代理随意进入其系统,因为这对客户和银行而言“风险太大了”。Hornbach进一步指出,这些模型被限制在某种沙盒环境中,但外界也存在开放权重模型。人们是否已经为某种根本无法预测的事情做好准备?一般而言,没有。市场往往关注AI带来的效率提升和商业机会,却容易忽视失控情形下的尾部风险。若前沿模型脱离受控环境,影响可能从金融交易、基础设施到企业系统安全迅速扩散。对投资者和监管者而言,需要在鼓励创新与设置安全边界之间取得平衡,并重新评估AI失控风险的价格。
💬 评论