8月10日消息，據(jù)報(bào)道，多名知情人士表示，百度、字節(jié)跳動(dòng)、騰訊和阿里巴巴已下價(jià)值10億美元的訂單，將從英偉達(dá)約10萬(wàn)顆A800處理器，這些處理器將于今年交付。

兩位接近英偉達(dá)的人士表示，這些企業(yè)還購(gòu)買(mǎi)了價(jià)值40億美元的GPU處理器，將于2024年交付。據(jù)兩位接近阿里巴巴的人士透露，阿里云還從英偉達(dá)收到了數(shù)千顆H800芯片，許多客戶(hù)已經(jīng)聯(lián)系阿里，尋求獲得由這些芯片驅(qū)動(dòng)的云服務(wù)。

據(jù)多名中國(guó)科技公司的員工透露，今年早些時(shí)候，大眾對(duì)人工智能的熱情高漲之際，大多數(shù)互聯(lián)網(wǎng)巨頭的庫(kù)存芯片都不到幾千個(gè)，這些芯片可用于訓(xùn)練大型語(yǔ)言模型。從那時(shí)起，這些芯片的價(jià)格開(kāi)始飆升。一位英偉達(dá)經(jīng)銷(xiāo)商表示：“經(jīng)銷(xiāo)商手中的A800價(jià)格上漲了50%以上?！?/p>

截自鈦媒體

6月就有報(bào)道稱(chēng)，今年春節(jié)后，擁有云計(jì)算業(yè)務(wù)的中國(guó)各互聯(lián)網(wǎng)大公司都向英偉達(dá)下了大單。其中，字節(jié)今年向英偉達(dá)訂購(gòu)了超過(guò)10億美元的GPU，另一家大公司的訂單也至少超過(guò)10億元人民幣。

一名云廠(chǎng)商人士稱(chēng)，字節(jié)、阿里等大公司主要是和英偉達(dá)原廠(chǎng)直接談采購(gòu)，代理商和二手市場(chǎng)難以滿(mǎn)足他們的龐大需求。英偉達(dá)會(huì)按目錄價(jià)，根據(jù)采購(gòu)規(guī)模談一個(gè)折扣。據(jù)英偉達(dá)官網(wǎng)，A100售價(jià)為1萬(wàn)美元/枚，H100售價(jià)為3.6萬(wàn)美元/枚；據(jù)了解，A800和H800售價(jià)略低于原版。

截自微博

據(jù)一名字節(jié)人士透露，2020年6月OpenAI發(fā)布GPT-3后，字節(jié)就曾訓(xùn)練了一個(gè)數(shù)十億參數(shù)的生成式語(yǔ)言大模型，當(dāng)時(shí)主要使用的GPU是A100前代產(chǎn)品V100。由于參數(shù)規(guī)模有限，這個(gè)模型生成能力一般，字節(jié)當(dāng)時(shí)看不到它的商業(yè)化可能性，“ROI（投資回報(bào)率） 算不過(guò)來(lái)”，這次嘗試不了了之。

阿里也曾在2018-2019年積極采購(gòu)GPU。一位阿里云人士稱(chēng)，當(dāng)時(shí)阿里的采購(gòu)量至少達(dá)到上萬(wàn)塊規(guī)模，購(gòu)買(mǎi)的型號(hào)主要是V100和英偉達(dá)更早前發(fā)布的T4。不過(guò)這批GPU中只有約十分之一給到了達(dá)摩院用作AI技術(shù)研發(fā)。2021年發(fā)布萬(wàn)億參數(shù)大模型M6后，達(dá)摩院曾披露訓(xùn)練M6使用了480塊V100。

阿里當(dāng)時(shí)購(gòu)買(mǎi)的GPU，更多給到了阿里云用于對(duì)外租賃。但包括阿里云在內(nèi)，一批中國(guó)云計(jì)算公司都高估了中國(guó)市場(chǎng)的AI需求。一位科技投資人稱(chēng)，大模型熱潮之前，國(guó)內(nèi)主要云廠(chǎng)商上的GPU算力不是緊缺，而是愁賣(mài)，云廠(chǎng)商甚至得降價(jià)賣(mài)資源。去年阿里云先后降價(jià)6次，GPU租用價(jià)下降超兩成。

截自晚點(diǎn)LatePost公眾號(hào)