重磅,百度全面开源文心 4.5 系列模型

6 月 30 日,百度正式宣布开源 ERNIE 4.5 即文心一言大模型 4.5 系列的 10 款模型,覆盖 47B 和 3B 激活参数的 MoE(混合专家)模型,以及 0.3B 参数的 稠密模型,并实现了预训练权重 + 推理代码的完全开源。文心大模型4.5系列开源模型👇文心4.5系列模型均使用飞桨深度学习框架进行高效训练、推理和部署。在大语言模型的预训练中,模型FLOPs利用率(MFU)达到47%。
扫描二维码添加微信
微信号:18103268866
扫描二维码添加QQ
QQ号:3525642302
请使用微信扫描二维码查看当前页面
6 月 30 日,百度正式宣布开源 ERNIE 4.5 即文心一言大模型 4.5 系列的 10 款模型,覆盖 47B 和 3B 激活参数的 MoE(混合专家)模型,以及 0.3B 参数的 稠密模型,并实现了预训练权重 + 推理代码的完全开源。文心大模型4.5系列开源模型👇文心4.5系列模型均使用飞桨深度学习框架进行高效训练、推理和部署。在大语言模型的预训练中,模型FLOPs利用率(MFU)达到47%。