Mellum2.1：JetBrains开源的MoE编码大模型

AI新闻人工智能研究所 1周前

Mellum2.1是什么

Mellum2.1是JetBrains在2026年10月发布、基于Apache 2.0许可协议开源的MoE编码专用大模型，专为编码智能体（coding agents）设计。模型总参数量12B，推理时仅激活2.5B参数，沿用Mellum2基础架构，不改动底层模型骨架，通过大规模沙箱环境强化学习完成后训练优化，主打本地部署、高速推理与真实项目级代码修改能力，适配私有化AI编码智能体开发场景。

功能特色

编码智能体原生能力：支持读取完整代码仓库、修改源码文件、自动校验代码修改结果，能够处理真实软件项目Bug修复任务，不局限于单段代码片段生成。
高速推理，吞吐能力强：内置MTP多Token预测 speculative decoding 机制，单请求推理速度为Mellum2原版的1.6倍；高并发场景下吞吐表现突出。
综合能力均衡：除代码任务外，兼顾工具调用、数学推理、指令遵循能力，不只是单一代码生成模型。
开源可私有化部署：权重开源，支持llama.cpp、Ollama、vLLM等主流推理框架，数据与代码全程本地可控，无需上传至第三方云端。
严格数据筛选训练：训练数据包含竞赛编程、数学、软件工程、工具调用任务，并且过滤无效测试用例、不可验证样本，保证任务质量。

技术细节

模型架构：MoE混合专家模型，总参数12B，推理激活2.5B，基础结构继承Mellum2，本次迭代无底层架构修改，优化全部集中在后训练阶段。
训练核心方式：大规模沙箱强化学习RL作为核心训练手段，搭建自研沙箱基础设施，执行数百万次沙箱运行，让模型在真实执行环境中学习代码修改、自检。训练任务包含SWE-bench、工具调用、数学推理等多种任务集，对原始数据做清洗过滤。
推理加速：MTP多Token预测，一次性预测多个token，实现推测解码，提升生成速度与并发吞吐量。
基准评测结果
评测基准 Mellum2.1 Mellum2
SWE-bench Verified 47.0 2.0
LiveCodeBench 82.0 -
BFCL v4（工具调用） 62.3 -

评测基准	Mellum2.1	Mellum2
SWE-bench Verified	47.0	2.0
LiveCodeBench	82.0	-
BFCL v4（工具调用）	62.3	-

Mellum2.1（图1）

应用场景

私有化编码智能体开发：作为本地AI智能体核心模型，自动读取仓库、定位代码缺陷、生成修复代码并验证，适配企业内部代码库自动化维护。
本地IDE代码助手：部署在本地环境，为JetBrains IDE或者其他编辑器提供代码补全、重构、Bug排查功能，代码不出内网。
代码自动化任务流水线：CI流程集成，自动生成单元测试、重构遗留代码、审查简单代码变更。
数学与工具调用任务：处理数学推理、API工具调用等通用任务，兼顾编码之外的智能体能力。

使用方法

获取模型权重：前往Hugging Face官方仓库下载Mellum2.1模型权重。
推理环境准备：可选用vLLM、llama.cpp、Ollama、LM Studio等推理框架；GGUF格式权重后续官方发布，方便在本地PC部署。
加载模型：在推理框架中加载权重，开启MTP多Token预测功能，启用推测解码加速。
构建编码智能体：基于模型API封装工具调用逻辑，接入代码读取、文件写入、测试执行沙箱，实现完整代码修改与自检流程。
调用推理接口：传入仓库上下文、任务指令，模型输出代码修改方案，在沙箱中运行测试验证结果。

竞品对比

选取同量级开源代码模型Qwen3.5-9B、Gemma 4 E4B进行对比：

模型	Mellum2.1	Qwen3.5-9B	Gemma 4 E4B
模型类型	MoE，总12B，激活2.5B	Dense稠密模型9B	MoE
核心定位	编码智能体，仓库级代码修改	通用代码+通用大模型	多用途开源模型
SWE-bench Verified	47.0	低于47.0	低于47.0
高并发吞吐	高，MTP加速，吞吐约Qwen3.5-9B两倍	中等	一般
许可证	Apache 2.0	Apache 2.0	Gemma许可
优势亮点	沙箱RL训练，擅长真实项目Bug修复，本地推理速度快	生态完善，社区成熟	Google出品，多模态配套完善

常见问题解答

问：Mellum2.1相比Mellum2改动了模型底层架构吗？

答：没有改动底层基础架构。Mellum2.1沿用Mellum2原有模型骨架，全部能力提升来自大规模沙箱环境的强化学习后训练优化。

问：Mellum2.1可以直接在个人电脑上本地运行吗？

答：可以。官方后续会发布GGUF格式权重，借助llama.cpp、Ollama、LM Studio，能够在个人PC本地部署运行，推理仅激活2.5B参数，硬件门槛相对友好。

问：Mellum2.1只能用来写代码吗？

答：不是。该模型除仓库级代码修复、代码生成外，同时具备工具调用、数学推理、指令遵循能力，可以支撑编码智能体需要的多类型任务。

问：Mellum2.1的权重现在在Ollama上可用吗？

答：原版模型权重已在Hugging Face上线；GGUF格式、适配vLLM的MTP推测解码头还待官方后续推出，上线后才能直接在Ollama使用。

问：商用项目是否可以免费使用Mellum2.1？

答：Mellum2.1采用Apache 2.0开源协议，允许商用，使用时遵守协议条款即可。

总结

Mellum2.1是JetBrains推出的Apache2.0协议开源MoE模型，依托沙箱强化学习显著提升仓库级编码智能体能力，在SWE-bench Verified基准取得大幅提升，搭配MTP多Token预测实现高速本地推理，兼顾代码修复、工具调用、数学推理能力，较低的推理激活参数量降低本地部署硬件压力，适合开发者搭建私有化、自托管的编码智能体系统。