字節(jié)跳動推出首款完整支持Transformer模型全流程加速訓(xùn)練引擎
2021-06-28 20:31:37
分享
6月28日消息,今日,字節(jié)跳動火山翻譯團隊宣布推出LightSeq訓(xùn)練加速引擎,并向全球開發(fā)者開源。這是業(yè)界首款完整支持Transformer模型全流程加速的訓(xùn)練引擎,最快提速能達到3倍以上。也就是說,以前需要1個月的時間來訓(xùn)練一個超大模型,現(xiàn)在用了這個訓(xùn)練加速,只需要10天左右,生產(chǎn)效率大幅提升,而成本也節(jié)省下來。
更加詳細(xì)情況,請關(guān)注本站最新動態(tài)。