11月18日,华中科技大学与阿里巴巴集团签署合作协议,共同成立“智能攻防与前沿安全联合研究中心”,聚焦人工智能安全领域,首批启动9个研究课题,旨在解决普通人使用AI时面临的安全痛点。据介绍,首批课题覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向。针对智能体替用户操作手机时可能出现的画面伪造与恶意诱导风险,中心设有“图像对抗样本与终端威胁研判”课题;针对用户在购物、地图、外卖等应用间切换时既要数据互通又须防止隐私外泄的问题,开设“隐私保护关系图谱”课题,通过密态计算实现“可用不可见、协同不透传”。华中科技大学副校长高亮表示,人工智能技术快速发展带来新的安全机遇与挑战。该校是国家一流网络安全学院建设示范项目高校,将发挥网络空间安全学科与科研人才优势,以联合研究中心为平台深化校企合作,面向产业实际需求开展前沿技术攻关,推动科研创新、成果转化与人才培养协同发展。阿里巴巴集团安全部总裁钱磊表示,阿里近年实施“AI驱动”战略,坚持开源开放,千问已开源模型超过470款,全球累计下载量突破40亿次,衍生模型超33万个;其安全大模型“伏渊息壤”(XekRung-27B)近期以88.9%的成功率登上CyberGym榜首,成为首个登顶该榜单的中国模型。据新浪科技报道,自2022年以来,阿里巴巴已与全国80多所高校开展产学研合作,500余篇论文被国际顶级会议、期刊收录。
💬 评论