MiniMax‑H3 模型轻量化:144G 压缩至 64G,基于 K100_AI 单卡落地部署实战记录 MiniMax‑H3 全模态模型轻量化实战,将原始 144G 模型压缩至 64G,在 K100_AI 单卡完成落地部署,分享模型压缩方案、环境配置、完整部署流程与踩坑经验。 1个月前 AI教程 151
AngelSlim:腾讯开源的大模型压缩工具包,一站式量化与推理加速 AngelSlim是腾讯混元AI Infra团队开源的一站式大模型压缩与推理加速工具包,支持LLM、多模态、音频、扩散模型全栈压缩,提供从FP8/INT4到1.25bit的极致量化、Eagle3推测解码... 7个月前 AI新闻 383