堅(jiān)持自主創(chuàng)新,燧原科技推出“云燧i20”推理加速卡
Viking / 2021-12-07 18:089289612月7日,專注于人工智能領(lǐng)域云端算力平臺的燧原科技,正式發(fā)布了全新一代的推理芯片——“云燧i20”人工智能推理加速卡與“邃思2.5”人工智能推理芯片。雖然相較于燧原科技上一次的“云燧T20”人工智能訓(xùn)練加速卡發(fā)布僅僅只有五個月,但本次發(fā)布的兩款芯片確實(shí)是帶來了不小的驚喜。

云燧i20作為燧原科技最新一代的推理加速卡,其存儲帶寬達(dá)到819G/s,遠(yuǎn)超行業(yè)內(nèi)其它同類競品,另外云燧i20還全面支持從FP32、TF32、FP16、BF16到INT8的計算精度。單精度FP32峰值算力達(dá)到32 TFLOPS,單精度張量TF32峰值算力達(dá)到128 TFLOPS,整型INT8峰值算力達(dá)到256 TOPS。即使相較于行業(yè)內(nèi)旗艦GPU,云燧i20在FP16算力、INT8算力上也有領(lǐng)先優(yōu)勢。


云燧i20不僅性能足夠強(qiáng)勁,而且在生態(tài)上也有更廣泛的支持,它支持175+主流模型,包括視覺、語音、自然語言處理等主流場景,同時原生支持開源推理框架ONNX,支持國產(chǎn)ARM64服務(wù)器平臺,支持國產(chǎn)Linux操作系統(tǒng)。此外云燧i20還可以實(shí)現(xiàn)單卡多用戶,最多同時支持6個業(yè)務(wù)安全隔離運(yùn)行,互不干擾,靈活配置、充分利用計算資源,讓企業(yè)可以實(shí)現(xiàn)更加經(jīng)濟(jì)的部署。


云燧i20擁有SuperFusion、SuperQuanti、SuperDynamics以及SuperTuner四大核心技術(shù),可支持模型多層算子超級融合,支持推理的低精度量化和混合精度,支持AI應(yīng)用和算法的動態(tài)性,支持面向數(shù)據(jù)流的自適應(yīng)性能優(yōu)化策略,充分釋放算力。云燧i20采用了PCIe 4.0×16接口規(guī)格,16GB HBM2E內(nèi)存容量,最大150W功耗。目前云燧i20已經(jīng)廣泛支持浪潮、H3C以及Supermicro的AI服務(wù)器,包括最新的PCIe Gen4 AI服務(wù)器。

云燧i20是基于邃思2.5人工智能推理芯片而打造,而邃思2.5則是基于第二代GCU-CARA架構(gòu),采用12nm工藝打造,55mm×55mm大芯片尺寸。通過架構(gòu)的升級,邃思2.5也實(shí)現(xiàn)了媲美行業(yè)內(nèi)7nm GPU的計算能力,而得益于成熟的12nm工藝,邃思2.5在成本上更具有優(yōu)勢,在供應(yīng)鏈體系上也更加穩(wěn)定成熟,可以更快滿足客戶的需求。



在發(fā)布會上,燧原科技不僅展示了云燧i20與邃思2.5的實(shí)體產(chǎn)品,同時還帶來了多個產(chǎn)品應(yīng)用場景的展示,比如搭載云燧i20的浪潮服務(wù)器去進(jìn)行實(shí)時文本情感傾向性判斷,還有身份證識別;人像卡通化;實(shí)時高精度人體姿態(tài)檢測;車路協(xié)同等等。

燧原科技此次發(fā)布的云燧i20展現(xiàn)了其在行業(yè)內(nèi)擁有十分出色的研發(fā)能力,相信未來在云數(shù)據(jù)中心、超算中心、互聯(lián)網(wǎng)金融、智慧城市等多個人工智能場景中,燧原科技的產(chǎn)品將會發(fā)揮更多的作用。同時我們也期待云燧i30、T30/T31也能夠如期而至,進(jìn)一步豐富國產(chǎn)自主創(chuàng)新的核心技術(shù)和解決方案!
堅(jiān)持自主創(chuàng)新,燧原科技推出“云燧i20”推理加速卡














滬公網(wǎng)安備 31010702005758號
發(fā)表評論注冊|登錄