新智元· AIERA·· 3 小时前同新闻AI 评分78
DeepSeek 开源自研推理框架 DeepInfer
突发,DeepSeek重磅开源核心推理引擎!
AI 导读
DeepSeek 全面开源自研推理框架 DeepInfer,官方称一个集群一天可服务 155 万亿 Token。该框架面向 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模服务场景。
同一新闻,精选展示《DeepSeek 开源推理框架 DeepInfer 与 token 编解码组件 deepseek-recipe》
来源:新智元 · aiera.com.cn