阿里云王超:云計算將成為大模型必選算力底座
5月4日消息,在第六屆數(shù)字中國建設(shè)峰會“人工智能分論壇”上,阿里云智能計算集群靈駿負(fù)責(zé)人、資深技術(shù)專家王超發(fā)表了題為《建設(shè)大規(guī)模綠色智算,護(hù)航人工智能產(chǎn)業(yè)可持續(xù)發(fā)展》的演講。王超指出,大模型在推理和訓(xùn)練場景都需要大算力,云計算將成為大模型的必選算力底座。
阿里云智能計算集群靈駿負(fù)責(zé)人、資深技術(shù)專家 王超
圖源:阿里云官微,下同
王超在演講中表示,大模型訓(xùn)練通常需要數(shù)千張GPU卡,基于TB級別的數(shù)據(jù),耗時幾個月進(jìn)行訓(xùn)練,然后其他用戶在預(yù)訓(xùn)練大模型的基礎(chǔ)上再進(jìn)行強(qiáng)化學(xué)習(xí),而這需要數(shù)百張GPU卡,耗時一兩個月。
但這種現(xiàn)狀存在很多問題:一方面,廠商投資數(shù)億元建設(shè)的計算集群只用幾個月極不經(jīng)濟(jì);另外一方面,購買、規(guī)劃和組建超大規(guī)模的算力集群也要耗時半年到一年的時間。此外,把算力集群的算力提供給全球各地的其他客戶使用也有著很大的技術(shù)挑戰(zhàn)。
王超透露,阿里云正在基于靈駿智算集群和機(jī)器學(xué)習(xí)平臺PAI解決這些問題,希望未來幫助大模型廠商只需要花費(fèi)一天的時間就能在云上建設(shè)一個數(shù)千張GPU卡規(guī)模的訓(xùn)練集群,在完成訓(xùn)練任務(wù)后,算力可以快速釋放出來供其他客戶使用。
王超介紹,目前,阿里云使用多年積累的技術(shù),已經(jīng)可以在云上打造一個“10萬卡”體量的超大規(guī)模智算集群,并且解決了關(guān)鍵的網(wǎng)絡(luò)、數(shù)據(jù)存儲、算力的可觀測、可調(diào)度和負(fù)載平衡等技術(shù)問題,構(gòu)建了一個從集群IaaS到PaaS到MaaS全棧式的服務(wù),方便各行各業(yè)的大模型廠商和企業(yè)客戶使用。
在本次大會上,阿里云還集中展示了在綠色數(shù)據(jù)中心、雙碳解決方案以及少年云助學(xué)計劃等領(lǐng)域的最新產(chǎn)品和進(jìn)展。
少年云助學(xué)計劃2021年10月由阿里巴巴集團(tuán)發(fā)起,目前在20個欠發(fā)達(dá)區(qū)域,讓6萬多個中小學(xué)生用上了自己的專屬云電腦,除信息技術(shù)外,數(shù)學(xué)、語文、音樂、美術(shù)、勞動、溝通等43門特色課程被搬進(jìn)了這個信息科技教學(xué)空間。
2、電商號平臺僅提供信息存儲服務(wù),如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責(zé)任由作者本人承擔(dān)。
3、如對本稿件有異議或投訴,請聯(lián)系:info@dsb.cn