字節(jié)旗下火山引擎發(fā)布大模型訓練云平臺
4月19日消息,字節(jié)跳動旗下云服務平臺——火山引擎日前在其舉辦的“原動力大會”上發(fā)布自研DPU等系列云產(chǎn)品,并推出新版機器學習平臺:支持萬卡級大模型訓練、微秒級延遲網(wǎng)絡,讓大模型訓練更穩(wěn)更快。
火山引擎總裁譚待表示,AI大模型有巨大潛力和創(chuàng)新空間,火山引擎會服務客戶做好大模型,共同推動各行業(yè)的智能化升級。
來源:火山引擎官網(wǎng)
“國內(nèi)大模型領(lǐng)域的數(shù)十家企業(yè),超過七成已經(jīng)在火山引擎云上”,譚待表示,在大模型及下游應用發(fā)展推動下,無論傳統(tǒng)企業(yè)還是初創(chuàng)企業(yè),對AI算力都有迫切需求,企業(yè)使用多家云服務將成為常態(tài)。同時,各行業(yè)有自己高質(zhì)量的私有語料,大模型不會一家獨大,而是會在千行百業(yè)生長,形成多模型共生甚至協(xié)作的生態(tài)?!拔磥韺⑹恰嘣贫嗄P汀臅r代”,譚待稱。
會上,火山引擎宣布與字節(jié)跳動國內(nèi)業(yè)務并池?;趦?nèi)外統(tǒng)一的云原生基礎(chǔ)架構(gòu),抖音等業(yè)務的空閑計算資源可極速調(diào)度給火山引擎客戶使用,離線業(yè)務資源分鐘級調(diào)度10萬核CPU,在線業(yè)務資源也可潮汐復用,彈性計算搶占式實例的價格最高可優(yōu)惠80%以上。
火山引擎總裁譚待宣布支持“多云多模型”的未來架構(gòu)(來源:揚子晚報)
譚待表示,國內(nèi)很多科技公司投入到大模型建設中,不少公司有優(yōu)秀的技術(shù)團隊,也有豐富的行業(yè)知識和創(chuàng)新想法,但往往缺乏經(jīng)過大規(guī)模場景實踐的系統(tǒng)工程能力。火山引擎要做的就是為大模型客戶提供高穩(wěn)定性和高性價比的AI基礎(chǔ)設施。
據(jù)悉,火山引擎機器學習平臺經(jīng)過抖音等海量用戶業(yè)務長期打磨,支持單任務萬卡級別的超大規(guī)模分布式并行訓練場景。GPU彈性計算實例可靈活調(diào)度資源,隨用隨取,最高可以為客戶節(jié)省70%的算力成本。
2、電商號平臺僅提供信息存儲服務,如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責任由作者本人承擔。
3、如對本稿件有異議或投訴,請聯(lián)系:info@dsb.cn