跳到正文
新智元· AIERA·· 3 小时前同新闻AI 评分78

DeepSeek 开源自研推理框架 DeepInfer

突发,DeepSeek重磅开源核心推理引擎!

AI 导读

DeepSeek 全面开源自研推理框架 DeepInfer,官方称一个集群一天可服务 155 万亿 Token。该框架面向 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模服务场景。

同一新闻,精选展示《DeepSeek 开源推理框架 DeepInfer 与 token 编解码组件 deepseek-recipe》

来源:新智元 · aiera.com.cn