跳到正文
量子位· 鹭羽·· 14 小时前AI 评分67

记忆张量开源MemT 1.0:把记忆原生焊进Transformer

RSI三块关键拼图,MemT 1.0从模型层补上「记忆」

AI 导读

记忆张量开源发布MemT 1.0系列记忆原生模型,包含36B参数、激活3B的MemT-1.0-Nano(基于Qwen3.6-35B-A3B)和288B参数、激活17B的MemT-1.0-Flash(基于DeepSeek-V4-Flash),在选定Transformer模块中增加与注意力并行的记忆计算通路。

来源:量子位 · qbitai.com