10月21日晚间，记忆张量（MemTensor）正式发布并开源记忆原生基础模型MemT 1.0系列，包含MemT-1.0-Flash与MemT-1.0-Nano两款模型。该系列在长历史场景下端到端推理提速最高近4倍，持久化存储较传统完整上下文方案缩减约130倍。
让模型自己“记笔记”
传统方案处理长会话，靠的是把越来越长的历史文本一直带在模型上下文里，聊得越久、成本越高。MemT 1.0的思路是在模型内部加入可训练的记忆模块，每轮交互结束后自动把新信息整理进固定大小的记忆，之后需要时直接调用，而不必每次重新翻查记录。
训练上，模型在340亿token的语料上分两阶段进行：先学会把信息写进记忆，再学会根据记忆回答问题。
11项记忆基准评测结果
在11项记忆基准上，MemT-1.0-Flash平均得分50.6，MemT-1.0-Nano为47.0，位列本次评估的参数化记忆方法第一、第二，比同类方法最高平均分分别高出12.5分与8.9分；平均表现与检索增强方案基本持平，且无需在每次查询时现场检索历史资料。
研发团队同时表示，挂载记忆并不影响模型通用能力：在干扰信息较多的评测条件下，Flash的通用能力与挂载记忆前基本持平，部分基准还有提升。
历史越长，效率优势越明显
效率测试显示，128K历史下端到端推理提速约1.86倍，256K下约3.99倍；查询首字延迟稳定在约104至112毫秒，而传统完整上下文方案在256K历史下约需445毫秒。存储方面，256K历史下每条会话的记忆状态约40MiB，较传统方案的约5.06GiB缩减约130倍。
对开发者而言，记忆原生带来的价值体现在成本、体验与能力三个层面：长会话不再需要反复塞入整段历史，推理开销与响应延迟更可预期；历史再长，查询首字响应时间基本保持不变；记忆的保留、更新与调用均由模型在训练中习得，可随交互积累复用。
研发团队表示，后续将提升长期记忆、扩展记忆容量、降低记忆更新成本，逐步迈向能够从交互中持续学习、通过记忆不断进化的智能体。
💬 评论