快手在GTC大会发布大模型训练解决方案
2024-03-22 14:04:58
分享
3月22日消息,近日英伟达GTC大会上,快手公布了大模型训练解决方案。据悉,通过计算通信重叠、异构存储利用、通信资源管控、算子优化等手段,该方案可支持百万级别超长文本训练,并且在训练性能上比sota开源方案快30%以上。
更加详细情况,请关注本站最新动态。
3月22日消息,近日英伟达GTC大会上,快手公布了大模型训练解决方案。据悉,通过计算通信重叠、异构存储利用、通信资源管控、算子优化等手段,该方案可支持百万级别超长文本训练,并且在训练性能上比sota开源方案快30%以上。