字节跳动推出首款完整支持Transformer模型全流程加速训练引擎

6月28日消息，今日，字节跳动火山翻译团队宣布推出LightSeq训练加速引擎，并向全球开发者开源。这是业界首款完整支持Transformer模型全流程加速的训练引擎，最快提速能达到3倍以上。也就是说，以前需要1个月的时间来训练一个超大模型，现在用了这个训练加速，只需要10天左右，生产效率大幅提升，而成本也节省下来。