华为发布盘古Ultra MoE模型,引领AI技术创新
华为近日推出参数规模高达7180亿的盘古Ultra MoE模型,全流程在昇腾AI计算平台上训练。该模型在模型架构和训练方法上进行了创新性设计,成功实现全流程训练。同时发布的盘古Pro MoE大模型在参数量较少的情况下表现出色,标志着华为在AI技术领域的又一次飞跃。...
华为推出准万亿MoE模型——盘古Ultra MoE,引领AI技术发展
华为近日推出参数规模高达7180亿的全新MoE模型——盘古Ultra MoE,全流程在昇腾AI计算平台上训练。同时发布技术报告,披露技术细节,展现昇腾在超大规模MoE训练性能上的卓越实力。这一突破为AI技术发展注入新活力。...


