MoE大语言模型

XVERSE-Ent：元象推出的娱乐领域专用开源 MoE 大语言模型系列

XVERSE-Ent是由深圳元象并开源的面向娱乐领域的专用预训练大语言模型系列，基于混合专家（MoE）架构打造，包含中文XVERSE-Ent-A4.2B与英文XVERSE-Ent-A5.7B两款模型。该项目...