蚂蚁集团基于国产芯片(阿里、华为等)训练百灵系列MoE模型,通过动态参数分配和混合精度调度等技术,计算成本降至508万元,性能媲美英伟达H800芯片。相关成果已通过论文公开,并计划开源分享
联系编辑
微信二维码
微信公众账号
微信扫一扫加关注