Hy-MT2-1.8B：腾讯混元推出的轻量级开源端侧多语言翻译模型

一、Hy-MT2-1.8B是什么

Hy-MT2-1.8B是腾讯混元团队发布的Hy-MT2系列开源翻译模型中的轻量版本，采用Apache-2.0开源协议，专门面向离线端侧翻译场景打造。该模型定位“快思考翻译”，剥离通用大模型冗余推理逻辑，专注翻译任务，不需要依赖在线翻译API，可在PC、手机、嵌入式设备本地完成多语言文本翻译，兼顾翻译质量与推理速度，是低硬件条件下私有化翻译的开源方案。

二、功能特色

1. 多语种双向互译：支持33门主流语言，额外兼容藏语、维语、哈语、蒙古语、粤语5种少数民族语言与方言，上千组翻译方向双向互通。

2. 指令可控式翻译：接收自然语言指令，可实现格式保留（JSON、HTML）、术语约束、语体调整、上下文歧义消歧，不局限简单文本直译。

3. 多领域文本适配：对技术文档、法律条文、医疗资料等专业文本具备较好翻译效果，适配办公文档批量翻译需求。

4. 极致量化轻量化：原生BF16权重3.6GB，AngelSlim 1.25bit量化版本体积仅440MB，推理速度相比上一代提升1.5倍，CPU也可完成推理运算。

5. 开源完整评测集：配套开源评测基准IFMTBench，用于衡量指令式翻译的遵循能力，方便开发者做效果调优对比。

6. 多推理框架兼容：原生支持transformers，同时提供FP8、GGUF多格式权重，适配llama.cpp、Ollama、vLLM、OpenVINO主流推理工具。

三、技术细节

• 模型架构：decoder-only稠密架构，基座为hunyuan_v1_dense翻译基座。

• 参数量：1.8B。

• 上下文窗口：256K，支持长文档翻译输入。

• 开源协议：Apache-2.0，商业场景可免费使用。

• 量化版本：BF16、FP8、GGUF（1.25bit、2bit、Q4_K_M、Q6_K、Q8_0），1.25bit为端侧部署优选版本。

• 性能表现：FLORES-200基准达到Gemini-3.1-Pro(Think)的89.9%，官方评测翻译能力优于部分商用翻译API。

• 设计思路：“快思考翻译”范式，去掉通用大模型的思考推演环节，直接输出译文，降低推理延迟，提升端侧实时翻译体验。

四、应用场景

1. 端侧离线翻译应用：手机、平板、嵌入式设备，无网络环境下文本翻译，保护用户文本隐私，不把原文上传第三方服务器。

2. 私有化翻译服务部署：企业内网搭建翻译服务，处理内部文档、合同、技术资料，规避第三方API的数据泄露风险。

3. 程序内置翻译能力：软件、工具、本地脚本集成翻译功能，无需调用外部在线翻译接口。

4. 批量文档离线翻译：本地批量处理Markdown、TXT等文本，适合技术文档、知识库本地化工作。

5. 小语种/少数民族语言翻译：面向藏语、蒙古语等语种的本地化翻译开发。

五、使用方法

5.1 Python transformers本地调用

from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "tencent/Hy-MT2-1.8B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
  model_id,
  device_map="auto",
  torch_dtype="bfloat16"
)

prompt = "把下面中文翻译成英文：腾讯开源Hy-MT2-1.8B轻量翻译模型"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=512, temperature=0.7)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

5.2 Ollama部署

使用社区GGUF权重，编写Modelfile导入，执行ollama run即可本地交互调用，适合CPU轻量运行。

5.3 ModelScope国内下载

国内网络环境优先使用魔搭社区下载模型权重，规避HuggingFace网络访问问题，支持snapshot_download接口拉取完整模型文件。

提示：CPU运行优先选择1.25bit GGUF量化版本，长文本翻译速度会明显下降，适合短文本、中等长度文档。

六、竞品对比

选取两款同定位开源翻译模型做横向对比：

七、常见问题解答

Q：Hy-MT2-1.8B属于多模态模型吗？

A：不属于，该模型是纯文本翻译模型，没有图像识别、图片翻译能力，只接收文本输入输出译文。

Q：可以拿来做通用对话、问答闲聊吗？

A：不适合。模型经过SFT专门针对翻译任务微调，能力高度聚焦翻译，闲聊问答效果很差，不建议用作通用大模型。

Q：普通CPU电脑是否可以运行该模型？

A：1.25bit的GGUF量化版本可以在CPU上运行，短文本翻译体验尚可；长文档翻译推理耗时会明显增加，有N卡GPU会大幅提升运行速度。

Q：Apache-2.0协议，企业可以商用吗？

A：协议允许企业商用，按照协议要求保留版权声明即可，不需要付费授权。

Q：和Hy-MT2-7B、Hy-MT2-30B-A3B如何选型？

A：硬件资源有限、端侧离线部署优先选Hy-MT2-1.8B；追求翻译质量、单GPU服务部署选择Hy-MT2-7B；云端高要求专业翻译场景选用Hy-MT2-30B-A3B。

Q：翻译HTML、JSON格式文本，会破坏原有格式吗？

A：在输入中给出明确指令，模型可以保留HTML标签、JSON结构；复杂嵌套格式仍需要人工二次校验输出结果。

八、相关链接

• GitHub项目仓库：https://github.com/Tencent-Hunyuan/Hy-MT2

• HuggingFace模型集合页：https://huggingface.co/collections/tencent/hy-mt2

• ModelScope魔搭社区集合页：https://modelscope.cn/collections/Tencent-Hunyuan/Hy-MT2

九、总结

Hy-MT2-1.8B是一款兼顾翻译质量、部署效率的开源轻量翻译模型，在较小参数量下实现多语种、少数民族方言翻译与指令式翻译能力，多档位量化版本适配手机、嵌入式、普通PC等低算力硬件，Apache-2.0许可降低企业使用门槛，为私有化离线翻译场景提供了成熟可用的开源方案。