史上最快芯片Etched Sohu到來:一張能頂20張英偉達H100
初生牛犢不怕虎。
一、Etched.ai對英偉達下了戰(zhàn)書
英偉達最近真是一波未平一波又起,剛剛才扭轉(zhuǎn)了三天股價下跌4300億美元的勢頭,又被行業(yè)初創(chuàng)公司給盯上了,可謂是打江山容易,守江山難。
6月25日,Etched.ai公司宣布已完成1.2億美元的融資,將向Nvidia最引以為傲的AI芯片設(shè)計發(fā)起挑戰(zhàn)。
在當(dāng)今這個由數(shù)據(jù)驅(qū)動的時代,人工智能(AI)芯片無疑站在了科技革命的前沿。它是智能算法的心臟,為機器學(xué)習(xí)、圖像識別、自然語言處理等提供了強大的計算支持。
在這樣的大背景下,三位哈佛輟學(xué)生Robert Wachen、Gavin Uberti和Chris Zhu,帶著對技術(shù)的熱愛和對創(chuàng)新的追求,投身于AI芯片行業(yè),開啟了他們的創(chuàng)業(yè)之旅——Etched。
圖源:X(前Twitter)
其中,作為公司最早的兩名創(chuàng)始人之一的Gavin Uberti,曾在OctoML和Xnor.ai擔(dān)任要職,積累了豐富的行業(yè)知識和經(jīng)驗。
而另一位華裔創(chuàng)始人Chris Zhu,除了在哈佛大學(xué)擔(dān)任過計算機科學(xué)的教學(xué)研究員外,還有在亞馬遜等公司的實習(xí)經(jīng)歷,這些經(jīng)歷讓他對技術(shù)的商業(yè)應(yīng)用有了深刻的理解。
豐富的科技履歷加上哈佛大學(xué)做背書的頂尖學(xué)習(xí)能力,讓他們有了更高的眼界和更敏銳的意識,在2022年三人就打賭Transformer大模型將統(tǒng)治世界。
因此,他們將所有的精力都用來打造世界上第一個針對Transformer(即ChatGPT中的T)的專用芯片——Sohu。
談到AI芯片,英偉達的名字是繞不開的話題。憑借其在圖形處理單元(GPU)領(lǐng)域的深厚積累,英偉達在AI芯片市場占據(jù)了舉足輕重的地位。
其產(chǎn)品不僅廣泛應(yīng)用于游戲和圖形設(shè)計,更在AI訓(xùn)練和推理任務(wù)中展現(xiàn)出卓越的性能。
但正是這樣,Etched放出的狠話,“就Transformer而言,Sohu是有史以來最快的芯片,沒有任何芯片能與之匹敵”,才讓他們的這次融資備受矚目。
那么市面上有著如此多的AI模型,包括DLRM、Stable Diffusion等老牌強者,為什么Etched一定要做Transformer的專用芯片呢?
一張圖片告訴你答案:
圖源:Etched
在Transformer發(fā)力以前,許多公司都有著自己的大模型架構(gòu),而從GPT-2誕生開始一直到今天,所有大型科技公司(OpenAI、谷歌、亞馬遜、微軟、Facebook等)都開始使用Transformer模型。
Transformer由谷歌研究團隊于2017年提出,它的功能強大、實用且利潤豐厚。
市面上耳熟能詳?shù)腛penAI 的GPT系列、谷歌的PaLM、Facebook的LLaMa,甚至Tesla的FSD都是Transformer架構(gòu)。
這證明了Chris Zhu等人確實有著先見之明,也讓這場“賭局”的形勢似乎變得明朗起來,因此他們對英偉達發(fā)出的挑戰(zhàn)才會得到眾多業(yè)內(nèi)人士的關(guān)注。
隨著Etched.ai技術(shù)的不斷成熟,它有望成為AI芯片行業(yè)的一股不可小覷的新興勢力,并且能為行業(yè)的發(fā)展注入了新的活力。
不過,Transformer并不是不可替代,目前依然還有SSM、RWKV等多個新架構(gòu)正在被研究,Etched表示:“一旦Transformer被任何新架構(gòu)取代,我們的Sohu芯片將毫無用處,但如果我們猜對了,Sohu將改變世界!”
創(chuàng)始人Uberti則更有信心:“發(fā)明了一種比 Transformer 更好的新架構(gòu)成本非常高,并且這種情況十年內(nèi)只會發(fā)生一兩次,就像半導(dǎo)體領(lǐng)域發(fā)生的那樣:光刻技術(shù)、掩模版/晶圓尺寸和光刻膠成分的變化確實在不斷優(yōu)化,但變化速度非常緩慢。”
二、Sohu芯片強在哪里
要想知道Etched的信心從何而來,他們一直宣傳的Sohu芯片就是關(guān)鍵。
在Etched看來,當(dāng)前市場上流行的AI芯片,特別是英偉達的GPU,它們的芯片單位面積的計算能力 (TFLOPS) 幾乎保持不變。
圖源:Etched
也就是說,如今的AI顯卡的能力提升,靠的是物理上的堆疊,比如NVIDIA的B200、AMD的MI300、Intel的Gaudi 3和亞馬遜的Trainium2都是將兩塊芯片算作一張卡,來實現(xiàn)所謂的“雙倍”性能,總給人一種力大磚飛的感覺。
而Etched.ai的Sohu芯片采用了尖端的4nm工藝技術(shù),這一工藝使得芯片在單位面積上集成了更多的晶體管,從而極大地提升了芯片的計算密度和能效比,顯著降低了能耗。
并且,Sohu芯片的核心優(yōu)勢在于其專為Transformer模型優(yōu)化的設(shè)計,在Transformer被用來處理的自然語言處理和圖像識別等方面擁有傳統(tǒng)GPU無法比擬的計算速度。
根據(jù)Etched官方發(fā)布的數(shù)據(jù),一臺8 x Sohu服務(wù)器可以取代 160 個H100 GPU,一臺8 x Sohu 服務(wù)器每秒可以處理超過500,000個Llama 70B令牌。
圖源:Etched
與市場上的傳統(tǒng)GPU相比,Sohu芯片展現(xiàn)出了其高吞吐量和低延遲特性。這些特性使得Sohu在AI模型的推理和訓(xùn)練任務(wù)中,擁有卓越的處理速度和能效。
這種性能上的優(yōu)勢,使得Sohu芯片在未來AI芯片市場中能夠占據(jù)一個獨特的位置,為那些尋求高性能、高效率AI解決方案的客戶提供新的選擇。
在這種背景下,Etched.ai被眾多投資者所看好。
由Primary Venture Partners和Positive Sum Ventures等知名風(fēng)險投資公司領(lǐng)投,公司自成立以來,已經(jīng)完成了幾輪融資,這一次1.2億美元的融資還吸引了包括Peter Thiel、Github CEO Thomas Dohmke以及Coinbase前CTO Balaji Srinivasan在內(nèi)的一系列知名天使投資者。
他們的加入進一步增強了Etched的信譽和市場影響力,也為公司的研發(fā)和市場推廣提供了充足的資金支持。
值得一提的是,市場對Sohu芯片的預(yù)期非常高,目前Etched收到的預(yù)訂單的數(shù)額已經(jīng)達到了數(shù)千萬美元,這對公司的創(chuàng)始人們來說無疑是一劑強心針。
Etched還在一篇文章中指出,當(dāng)前AI芯片市場的需求已經(jīng)達到前所未有的水平,Transformer的市場價值也從最開始不到5000萬美元,到如今已超過50億美元。
在創(chuàng)始人的透露下,Etched.ai的市場策略非常明確,公司專注于為那些對AI計算性能有極高要求的客戶提供服務(wù),包括大型科技公司、云計算服務(wù)提供商、AI研究實驗室以及需要進行大規(guī)模數(shù)據(jù)處理的企業(yè)。
Etched.ai將通過深入了解這些客戶的需求,不斷優(yōu)化Sohu芯片的性能,確保其能夠滿足客戶在處理速度、能耗效率和成本效益方面的要求。
此外,公司也在積極構(gòu)建生態(tài)系統(tǒng),與軟件開發(fā)商、云服務(wù)提供商和其他硬件制造商建立合作伙伴關(guān)系。
這種開放合作的策略,不僅能夠在未來加速Sohu芯片技術(shù)的推廣和應(yīng)用,也能夠幫助Etched.ai更好地理解市場動態(tài),以快速響應(yīng)客戶的需求。
在他們的預(yù)想下,Etched 有望在 2024 年第三季度將其Sohu AI芯片推向市場,初步計劃是向主要云提供商銷售。
用Uberti的話來說:“我們把賭注押在了Transformer和Sohu上,這兩都正在成為現(xiàn)實?!?/span>
三、Etched將成為世界上最大的公司之一
可以預(yù)見的是,Etched.ai的崛起的確會對英偉達構(gòu)成一定的挑戰(zhàn)。
長久以來,英偉達憑借其GPU在AI芯片市場中占據(jù)著主導(dǎo)地位,而這次Sohu芯片的高性能特性,正在逐步吸引行業(yè)的目光。
Uberti更是大膽表示:“如果我們打賭真的成功,Etched 將成為世界上最大的公司之一”
不過他們也很清醒的知道,Sohu在大多數(shù)工作狀態(tài)下都無法擊敗GPU,因為它連Stable Diffusion都不支持,但在Transformer推理領(lǐng)域,Sohu將一舉清空市場,成為新一代獨屬于Transformer的ASIC王者。
從整個AI芯片市場來看,Etched.ai打造出的Sohu芯片,不僅是對英偉達的挑戰(zhàn),更是在整個AI芯片行業(yè)技術(shù)進步的縮影。
Sohu芯片的推出,將激發(fā)行業(yè)內(nèi)對更高效AI計算解決方案的探索和創(chuàng)新。這種創(chuàng)新的推動力,自然也會加速AI芯片技術(shù)的發(fā)展。
正如今半導(dǎo)體行業(yè)兩大龍頭企業(yè)(三星、臺積電)已經(jīng)開始下一輪技術(shù)內(nèi)卷,這也意味著芯片產(chǎn)業(yè)的發(fā)展又一次開上了快車道。
展望未來,Etched.ai和Sohu芯片的發(fā)展前景充滿希望,但也伴隨著不少挑戰(zhàn)。
技術(shù)的不斷進步和市場需求的不斷變化,要求Etched.ai持續(xù)進行研發(fā)投入和創(chuàng)新。
同時,英偉達等老牌強者可不是坐以待斃的風(fēng)格,Etched.ai的專業(yè)芯片理念一旦被市場所認可,怎樣在擁有更大技術(shù)和供應(yīng)鏈優(yōu)勢的強力對手面前活下來,Etched.ai任重而道遠。
總的來看,Etched.ai和三位創(chuàng)始人的故事,是對全球科技競爭中創(chuàng)業(yè)者精神的生動詮釋,也是一條充滿挑戰(zhàn)與機遇的旅程,其背后同樣代表著AI技術(shù)也在高速發(fā)展。
而隨著全球科技競爭日益激烈,他們的未來到底如何,是真的變成一家科技巨頭公司還是變成一段哈佛輟學(xué)生創(chuàng)業(yè)的新談資?或許要不了幾年就會有答案。
2、電商號平臺僅提供信息存儲服務(wù),如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責(zé)任由作者本人承擔(dān)。
3、如對本稿件有異議或投訴,請聯(lián)系:info@dsb.cn