午夜神马影院-日本天堂在线-国产精品777-奇米影视亚洲春色-天堂8中文-日本在线观看一区二区-天天干天天操天天插-国产精品女同-色骚综合-四川一级毛毛片-99在线看-国产极品久久-波多野吉衣毛片-婷婷在线综合-欧美视频成人-亚洲影视一区二区三区-国产精品久久久久久久一区二区-国产精品9191-污污免费观看-日本三区在线

英偉達(dá)發(fā)布GB200計(jì)算卡:2080億個(gè)晶體管,AI性能提升5倍

英偉達(dá)發(fā)布GB200計(jì)算卡:2080億個(gè)晶體管,AI性能提升5倍

白貓 / 2024-03-19 10:3142059

在這個(gè)星球上,英偉達(dá)毫無(wú)疑問(wèn)是如今的AI之王,其推出的H100已經(jīng)被眾多科技企業(yè)搶購(gòu),而英偉達(dá)的營(yíng)收和利潤(rùn)也是節(jié)節(jié)攀升。但是在這個(gè)算力決定效率的今天,英偉達(dá)H100計(jì)算卡的算力還遠(yuǎn)遠(yuǎn)不夠,尤其是像Sora這樣的文生視頻的模型出來(lái),更是對(duì)計(jì)算卡的算力提出了更高的要求,于是英偉達(dá)也適時(shí)地推出了下一代GPU,在AI性能上有著突飛猛進(jìn)的進(jìn)步,可以說(shuō)拉了競(jìng)爭(zhēng)對(duì)手整整一代。

2024-03-19_1-31-03.png

NVIDIA-Blackwell-_2-1456x819.png

英偉達(dá)在今天凌晨舉辦GTC技術(shù)大會(huì),在大會(huì)上, 英偉達(dá)正式宣布了Blackwell架構(gòu),同時(shí)也表示B200芯片將會(huì)是首款基于Blackwell打造的GPU。首先是制程架構(gòu),沒(méi)想到已經(jīng)不差錢(qián)的英偉達(dá)并沒(méi)有采用臺(tái)積電的3nm制程架構(gòu),而是繼續(xù)采用4nm制程,而B(niǎo)200則是基于兩顆芯片打造而成,總共擁有2080億個(gè)晶體管,借助NVlink 5.0進(jìn)行數(shù)據(jù)傳輸,而NVLink 5.0在B200上可以實(shí)現(xiàn)1.8TB/s的數(shù)據(jù)傳輸,是上代的兩倍,而NVLink 5.0的理論速度可以達(dá)到10TB/s。

NVIDIA-Blackwell-_6.png

毫無(wú)疑問(wèn)B200芯片最大的特點(diǎn)就在于其強(qiáng)大的AI算力,老黃表示B200芯片的AI算力達(dá)到了20PFlops,遠(yuǎn)超現(xiàn)在的H100的4PFLOPs,相當(dāng)于是現(xiàn)在的5倍性能,從而可以讓AI廠商訓(xùn)練更加復(fù)雜的模型,但是算傳統(tǒng)的算力,B200中單個(gè)芯片比H100高出25%,也就是說(shuō)傳統(tǒng)算力B200是H100的2.5倍。

NVIDIA-Blackwell-_23.png

此外老黃還發(fā)布了基于兩顆B200芯片以及Grace CPU打造的AI超算GB200,訓(xùn)練與推理LLM的性能比上代提升了30倍,簡(jiǎn)直就是黑科技。英偉達(dá)表示按照AI廠商訓(xùn)練一個(gè)1.8萬(wàn)億參數(shù)的大語(yǔ)言模型計(jì)算,原本需要8000塊Hooper GPU,同時(shí)功耗達(dá)到了15兆瓦,而現(xiàn)在廠商僅需2000塊GPU,功耗大約是4兆瓦,而在GPT-3的訓(xùn)練中,GB200的訓(xùn)練速度是H100的4倍,而推理速度則是H100的7倍。

NVIDIA-Blackwell-_18-1456x819.png

這還只是AI超算的一小部分,英偉達(dá)針對(duì)企業(yè)以及高性能計(jì)算用戶(hù)推出了GB200 NVL72服務(wù)器,最多擁有36個(gè)CPU和72個(gè)Blackwell GPU,以及專(zhuān)門(mén)定制的水冷解決方案,最高提供720PFLOPs的AI訓(xùn)練性能以及1440FLOPs的推理性能,此外一個(gè)機(jī)架上還包括18個(gè)GB200芯片以及9個(gè)NVLink交換機(jī),最高實(shí)現(xiàn)27萬(wàn)億個(gè)參數(shù)模型的訓(xùn)練,要知道現(xiàn)在的GPT-4模型訓(xùn)練參數(shù)大約為1.7萬(wàn)億個(gè),未來(lái)將會(huì)為AI帶來(lái)更大的可能。

NVIDIA-Blackwell-_19-1456x819.png

當(dāng)然GB200 NVL72服務(wù)器并不是Blackwell的極限,英偉達(dá)還將推出DGX GB200這樣的服務(wù)器集群,共有八個(gè)GB200 NVL72服務(wù)器,擁有288個(gè)CPU,576個(gè)GPU,內(nèi)存容量達(dá)到了240TB,F(xiàn)P4算力更是達(dá)到了11.5EFLOPs,實(shí)在是太過(guò)于恐怖,甚至英偉達(dá)還表示如果你覺(jué)得算力還不夠,未來(lái)英偉達(dá)DGX還可以進(jìn)行不斷地?cái)U(kuò)展,借助Quantum-X800 InfiniBand以太網(wǎng)實(shí)現(xiàn)數(shù)萬(wàn)顆GPU的互聯(lián)互通,讓AI訓(xùn)練性能達(dá)到前所未有的高度。

NVIDIA-GTC-2024-1.png

目前包括微軟、谷歌、亞馬遜已經(jīng)表示將大量采購(gòu)英偉達(dá)的新一代GB200服務(wù)器用于AI訓(xùn)練。目前英偉達(dá)還沒(méi)有公布GB200的具體價(jià)格,不過(guò)很有可能價(jià)格達(dá)到了十幾萬(wàn),而且現(xiàn)在這種AI神器完全就是買(mǎi)方市場(chǎng),供不應(yīng)求,看起來(lái)英偉達(dá)的營(yíng)收還將在2024年創(chuàng)下新高,畢竟在AI領(lǐng)域,老黃的領(lǐng)先程度實(shí)在是太大了。


發(fā)表評(píng)論注冊(cè)|