大模型推理引擎

DeepInfer：DeepSeek开源的生产级MoE大模型推理框架

DeepInfer是DeepSeek开源的高性能大规模大模型推理框架，是支撑DeepSeek线上生产服务DeepSeek-V4.1 Flash的底层推理引擎，开源协议为Apache 2.0。