快手在GTC大會發(fā)布大模型訓練解決方案
2024-03-22 14:04:58
分享
3月22日消息,近日英偉達GTC大會上,快手公布了大模型訓練解決方案。據(jù)悉,通過計算通信重疊、異構存儲利用、通信資源管控、算子優(yōu)化等手段,該方案可支持百萬級別超長文本訓練,并且在訓練性能上比sota開源方案快30%以上。
更加詳細情況,請關注本站最新動態(tài)。
3月22日消息,近日英偉達GTC大會上,快手公布了大模型訓練解決方案。據(jù)悉,通過計算通信重疊、異構存儲利用、通信資源管控、算子優(yōu)化等手段,該方案可支持百萬級別超長文本訓練,并且在訓練性能上比sota開源方案快30%以上。