做视频AI导航网
做视频AI导航网
AI导航
  • 热门工具
  • Agent智能体
  • Skills技能
  • AI大模型
  • AI创作
  • AI工具集
视频Video
  • 素材下载
  • 创作灵感
Github神器
  • 导航
  • 资讯
  • 视频素材
  • 视频模版
  • 音乐音效
  • Luts调色预设
  • 整合包
首页/
打开 MD 链接
MemT 1.0 - 记忆原生大模型与AI Agent长期记忆框架

MemT 1.0 - 记忆原生大模型与AI Agent长期记忆框架

24
让模型在内部保存并复用经验,探索上下文之外的长期记忆扩展路线
评分
项目类型:记忆原生基础模型与推理框架模型版本:Nano 36B/3B激活;Flash 288B/17B激活核心机制:Local Memory、Hyper Memory、GDN-2、MoS训练规模:340亿Token部署框架:SGLang与memt_sglang客户端代码许可:PolyForm Noncommercial 1.0.0(非商业)
MemT 1.0中文导航:了解Nano与Flash模型、原生记忆架构、Mixture-of-Storage、S…
Github神器|AI记忆·Memory Scaling·MemT 1.0·MemTensor·RSI·记忆原生模型

MemT 1.0是什么?

MemT 1.0是一组把持久、动态演化记忆纳入模型内部计算的记忆原生基础模型。它不要求推理时重新读取全部原始历史,而是把经验编码为可持续更新的局部记忆状态,再通过与注意力并行的记忆分支参与生成。

MemT 1.0官方项目视觉
MemT 1.0官方项目视觉

两个模型版本

  • MemT-1.0-Nano:36B总参数、3B激活参数,基于Qwen3.6-35B-A3B。
  • MemT-1.0-Flash:288B总参数、17B激活参数,基于DeepSeek-V4-Flash。
  • 训练规模:两阶段训练共使用340亿Token。
  • 长历史效率:官方报告称,Nano在128K历史下相对完整上下文KV Cache约有1.86倍端到端加速,并把持久状态存储降低约66倍。

核心架构

MemT 1.0官方架构图:局部记忆、超记忆与Token级更新
MemT 1.0官方架构图:局部记忆、超记忆与Token级更新

局部记忆保存每条任务轨迹的动态矩阵状态;超记忆包含查询、键值投影和擦除、写入、遗忘、输出门控。Stable Gated DeltaNet-2负责逐Token更新,Mixture-of-Storage则通过多个记忆专家扩展容量。

快速部署思路

  1. 准备Linux、NVIDIA CUDA、Python 3.11或更高版本。
  2. 从项目的inference目录安装服务端依赖。
  3. 下载完整Nano模型权重、配置与Tokenizer。
  4. 使用项目提供的启动脚本部署SGLang服务,再通过MemTSession保存、读取和恢复记忆状态。
  5. 先用非敏感测试数据评估,再决定是否接入真实业务。

许可证与使用提醒

代码公开不等于可以直接商用。项目原创软件采用PolyForm Noncommercial License 1.0.0,官方明确表示不允许商业使用;论文材料为CC BY-NC-SA 4.0。模型权重、数据集和第三方组件还可能有各自条款,企业部署前应逐项核对。

0 / 600
细中粗
0 讨论
热门最新
总结
暂无总结

相关网站

热门最新
暂无链接数据;请在后台添加链接或调整分类筛选。
所有的成功,都源自一个勇敢的开始
不辜负每一个勇敢的开始
做视频AI导航网 © 2026闽ICP备16009488号-1