DeepSeek 开源生产推理栈 DeepInfer，单集群日处理 155 万亿 token
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer，支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出，覆盖 NVIDIA 与华为昇腾平台。
推荐理由：原文把吞吐、缓存命中与单卡收入放在一起，读者可据此判断缓存型推理服务的成本结构。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer，支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出，覆盖 NVIDIA 与华为昇腾平台。
推荐理由：原文把吞吐、缓存命中与单卡收入放在一起，读者可据此判断缓存型推理服务的成本结构。