午夜神马影院-日本天堂在线-国产精品777-奇米影视亚洲春色-天堂8中文-日本在线观看一区二区-天天干天天操天天插-国产精品女同-色骚综合-四川一级毛毛片-99在线看-国产极品久久-波多野吉衣毛片-婷婷在线综合-欧美视频成人-亚洲影视一区二区三区-国产精品久久久久久久一区二区-国产精品9191-污污免费观看-日本三区在线

Intel Gaudi 2 AI訓(xùn)練比英偉達(dá)H100快55%:希望奪取更多市場(chǎng)份額

Intel Gaudi 2 AI訓(xùn)練比英偉達(dá)H100快55%:希望奪取更多市場(chǎng)份額

白貓 / 2024-03-12 13:0459811

目前在AI領(lǐng)域,最受關(guān)注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基于Stable Diffusion打造的AI生圖也是各大廠商目前所重點(diǎn)宣傳的。而作為AI背后的算力硬件支持,英偉達(dá)的計(jì)算卡可以說(shuō)備受追捧,供不應(yīng)求,英偉達(dá)也是賺的盆滿(mǎn)缽滿(mǎn)。當(dāng)然這也讓其他計(jì)算卡廠商感到十分地眼紅,比如行業(yè)巨頭英特爾。這家藍(lán)色巨人推出的Gaudi 2加速卡就是為對(duì)抗H100計(jì)算卡而生,而經(jīng)過(guò)不斷地優(yōu)化,目前在Stable Diffusion領(lǐng)域,Gaudi 2加速卡的表現(xiàn)比NV的計(jì)算卡更加出色。

Intel-AIEverywhere-Event-5-scaled.jpg

graphic_1.png

目前Stable Diffusion開(kāi)發(fā)商Stability AI發(fā)布了一份報(bào)告,在報(bào)告中Stability AI重點(diǎn)對(duì)比了英偉達(dá)與英特爾計(jì)算卡在AI作圖上的效率。以參數(shù)為2B的MMDiT模型為例,訓(xùn)練深度設(shè)置為24、BFloat16的混合精度,在該模型設(shè)置下,Gaudi 2計(jì)算卡最高可以達(dá)到每秒訓(xùn)練1254張圖片,而256容量下則是每秒927張。這個(gè)性能要比英偉達(dá)現(xiàn)在的H100更加出色,比如說(shuō)H100-80GB計(jì)算卡的訓(xùn)練速度為每秒595張,而A100-80GB則是每秒訓(xùn)練381張,也就是說(shuō)基于英特爾Gaudi 2的訓(xùn)練速度在相同容量下比H100計(jì)算卡提升55%,更是A100性能的2.43倍。

Intel-Gaudi-vs-NVIDIA-H100-A100-AI-Accelerators-GPUs-Stable-Diffusion-LLMs.jpg

graphic_2.png

另外如果說(shuō)采用32批量單元的設(shè)置下,英特爾Gaudi 2訓(xùn)練速度為每秒12654張,而A100-80GB則為3992張,英特爾計(jì)算卡是A100-80GB計(jì)算卡的3.17倍,還是相當(dāng)給力的。當(dāng)然Stable Diffusion作為現(xiàn)在最為流行的模型,各大計(jì)算卡廠商都愿意花精力去優(yōu)化,而且更為重要的是英偉達(dá)的AI生態(tài)已經(jīng)做得十分地完善,并且英偉達(dá)B100什么水平還不知道。要是英特爾Gaudi 2訓(xùn)練計(jì)算卡真這么給力,那現(xiàn)在AI市場(chǎng)也不會(huì)被英偉達(dá)所壟斷了。


發(fā)表評(píng)論注冊(cè)|