MemT 1.0是什么?
MemT 1.0是一组把持久、动态演化记忆纳入模型内部计算的记忆原生基础模型。它不要求推理时重新读取全部原始历史,而是把经验编码为可持续更新的局部记忆状态,再通过与注意力并行的记忆分支参与生成。

两个模型版本
- MemT-1.0-Nano:36B总参数、3B激活参数,基于Qwen3.6-35B-A3B。
- MemT-1.0-Flash:288B总参数、17B激活参数,基于DeepSeek-V4-Flash。
- 训练规模:两阶段训练共使用340亿Token。
- 长历史效率:官方报告称,Nano在128K历史下相对完整上下文KV Cache约有1.86倍端到端加速,并把持久状态存储降低约66倍。
核心架构

局部记忆保存每条任务轨迹的动态矩阵状态;超记忆包含查询、键值投影和擦除、写入、遗忘、输出门控。Stable Gated DeltaNet-2负责逐Token更新,Mixture-of-Storage则通过多个记忆专家扩展容量。
快速部署思路
- 准备Linux、NVIDIA CUDA、Python 3.11或更高版本。
- 从项目的
inference目录安装服务端依赖。 - 下载完整Nano模型权重、配置与Tokenizer。
- 使用项目提供的启动脚本部署SGLang服务,再通过
MemTSession保存、读取和恢复记忆状态。 - 先用非敏感测试数据评估,再决定是否接入真实业务。
许可证与使用提醒
代码公开不等于可以直接商用。项目原创软件采用PolyForm Noncommercial License 1.0.0,官方明确表示不允许商业使用;论文材料为CC BY-NC-SA 4.0。模型权重、数据集和第三方组件还可能有各自条款,企业部署前应逐项核对。
