NVIDIA推出小型AI計(jì)算機(jī):帶寬增50%,推理性能提升70%
白貓 / 2024-12-18 13:1263498目前在AI領(lǐng)域,最成功的公司應(yīng)該就是NVIDIA,其推出的顯卡以及Tesla計(jì)算卡憑借其強(qiáng)大的實(shí)力獲得了消費(fèi)者以及大中型企業(yè)的一致認(rèn)可,大家紛紛采用NVIDIA的產(chǎn)品終端實(shí)現(xiàn)AI訓(xùn)練以及推理,導(dǎo)致NVIDIA的產(chǎn)品供不應(yīng)求,處于嚴(yán)重?cái)嘭浀臓顟B(tài),并且這些AI設(shè)備的價(jià)格也十分地高昂,從而讓普通用戶很難感受AI帶來的出色魅力,因此NVIDIA如今也推出了面向入門級用戶打造的AI開發(fā)者套件,希望借助這些套件能夠讓更多的人接觸到AI,享受AI創(chuàng)作的魅力。

NVIDIA這一次推出的AI套件名為Jetson Orin Nano Super,它擁有67TOPS的INT8算力,與上一代相比,AI推理性能是上一代的1.7倍,除此之外為了應(yīng)對AI推理所需的超大帶寬,這款A(yù)I超算套件的內(nèi)存帶寬也提升了50%,達(dá)到了恐怖的102GB/s,NVIDIA還表示這顆迷你超算可以應(yīng)對包括LLM、視覺AI等各種AI應(yīng)用,從7W到25W的功耗應(yīng)有盡有。

當(dāng)然這個(gè)AI套件主要面向AI開發(fā)者使用,并且也算是入門級的開發(fā)套件,價(jià)格則為249美元,比過去要便宜不少。估計(jì)NVIDIA是希望用戶能夠以一個(gè)低廉的價(jià)格先體驗(yàn)到AI帶來的出色魅力,未來等到深入研究AI,那就購買更加高昂的NVIDIA顯卡或者計(jì)算卡,對于普通用戶來說,想要嘗試AI,基本上一款RTX 3060顯卡就足夠了。
NVIDIA推出小型AI計(jì)算機(jī):帶寬增50%,推理性能提升70%














滬公網(wǎng)安備 31010702005758號
發(fā)表評論注冊|登錄