午夜神马影院-日本天堂在线-国产精品777-奇米影视亚洲春色-天堂8中文-日本在线观看一区二区-天天干天天操天天插-国产精品女同-色骚综合-四川一级毛毛片-99在线看-国产极品久久-波多野吉衣毛片-婷婷在线综合-欧美视频成人-亚洲影视一区二区三区-国产精品久久久久久久一区二区-国产精品9191-污污免费观看-日本三区在线

Intel Gaudi 2 AI訓練比英偉達H100快55%:希望奪取更多市場份額

Intel Gaudi 2 AI訓練比英偉達H100快55%:希望奪取更多市場份額

白貓 / 2024-03-12 13:0458097

目前在AI領域,最受關注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基于Stable Diffusion打造的AI生圖也是各大廠商目前所重點宣傳的。而作為AI背后的算力硬件支持,英偉達的計算卡可以說備受追捧,供不應求,英偉達也是賺的盆滿缽滿。當然這也讓其他計算卡廠商感到十分地眼紅,比如行業巨頭英特爾。這家藍色巨人推出的Gaudi 2加速卡就是為對抗H100計算卡而生,而經過不斷地優化,目前在Stable Diffusion領域,Gaudi 2加速卡的表現比NV的計算卡更加出色。

Intel-AIEverywhere-Event-5-scaled.jpg

graphic_1.png

目前Stable Diffusion開發商Stability AI發布了一份報告,在報告中Stability AI重點對比了英偉達與英特爾計算卡在AI作圖上的效率。以參數為2B的MMDiT模型為例,訓練深度設置為24、BFloat16的混合精度,在該模型設置下,Gaudi 2計算卡最高可以達到每秒訓練1254張圖片,而256容量下則是每秒927張。這個性能要比英偉達現在的H100更加出色,比如說H100-80GB計算卡的訓練速度為每秒595張,而A100-80GB則是每秒訓練381張,也就是說基于英特爾Gaudi 2的訓練速度在相同容量下比H100計算卡提升55%,更是A100性能的2.43倍。

Intel-Gaudi-vs-NVIDIA-H100-A100-AI-Accelerators-GPUs-Stable-Diffusion-LLMs.jpg

graphic_2.png

另外如果說采用32批量單元的設置下,英特爾Gaudi 2訓練速度為每秒12654張,而A100-80GB則為3992張,英特爾計算卡是A100-80GB計算卡的3.17倍,還是相當給力的。當然Stable Diffusion作為現在最為流行的模型,各大計算卡廠商都愿意花精力去優化,而且更為重要的是英偉達的AI生態已經做得十分地完善,并且英偉達B100什么水平還不知道。要是英特爾Gaudi 2訓練計算卡真這么給力,那現在AI市場也不會被英偉達所壟斷了。


發表評論注冊|