蒸馏大模型

大模型蒸馏是什么意思？为什么需要蒸馏大模型？

大模型蒸馏——这项诞生于2015年的技术，在2025年已成为AI工程化的核心支柱。它通过知识迁移的魔法，让7B参数的学生模型达到70B教师模型97%的性能，让BERT的推理速度提升10...