萊迪思亞太區(qū)資深事業(yè)發(fā)展經(jīng)理陳英仁:加速網(wǎng)絡(luò)邊緣AI應(yīng)用 萊迪思引領(lǐng)大眾市場 IoT革命
在5月22日,萊迪思半導(dǎo)體在上海召開Lattice新品發(fā)布會,在會上發(fā)布了一個(gè)全新的產(chǎn)品——sensAI。它是一種結(jié)合模塊化硬件套件、神經(jīng)網(wǎng)絡(luò)IP核、軟件工具、參考設(shè)計(jì)、定制化設(shè)計(jì)與服務(wù)的完整技術(shù)集合,旨在將機(jī)器學(xué)習(xí)推理加快大眾市場 IoT 應(yīng)用。它可以讓客戶快速簡易上手,簡便地在萊迪思的FPGA里做計(jì)算,尤其是在網(wǎng)絡(luò)編程方面。
在會上,萊迪思半導(dǎo)體亞太區(qū)資深事業(yè)發(fā)展經(jīng)理陳英仁先生與眾多記者一起分享了Lattice sensAI開發(fā)生態(tài)系統(tǒng)開發(fā)過程,也對記者的一些疑惑進(jìn)行答疑,以下是群訪實(shí)錄:
記者:這個(gè)是否屬于3D的人臉識別?
陳英仁:不是。假如說做的更精確的話,它其實(shí)需要更大的性能,所以我們也提供剛剛講的UltraPlus跟ECP5。假如要做到3D的話,其實(shí)不是不可以,只是說3D只是在于它的結(jié)構(gòu)包怎么連接到我們的FPGA,然后我們?nèi)プ龈鞣N各樣的訓(xùn)練,訓(xùn)練出來,我們還是可以提供一個(gè)3D方案。其實(shí)我們不局限在2D或3D,任何數(shù)據(jù)做了訓(xùn)練以后,其實(shí)我們是都可以去檢測的。只是說在這個(gè)演示上,它不是做3D的。
記者: 3D的ECP5需要用到這個(gè)芯片嗎?
陳英仁:3D的話,其實(shí)也要看一看整體的性能。我們現(xiàn)在在UltraPlus里面,它只需要32×32的像素就可以做人臉檢測。其實(shí)它并不太能看到一些細(xì)節(jié),它只是判斷“有沒有人在前面”。假如是做到結(jié)構(gòu)中的話,它可能要看的更清楚;就像蘋果這一塊,它要做到一個(gè)安全系數(shù),所以他的性能要求就相對要高很多。
記者:關(guān)于Lattice硬件平臺,iCE40和ECP5用于sensAI上,是不是就加入一些新的算法,是這樣的一種改變嗎?
陳英仁: 關(guān)于iCE40 UltraPlus跟ECP5,現(xiàn)在是通過sensAI,可以加入新的算法,的確是這樣子。Lattice iCE40 UltraPlus跟ECP5已經(jīng)出來一年多了。因?yàn)槭强瞻灼岳锩婊旧弦プ鍪裁催\(yùn)算都可以。可是剛剛提到,很多客戶可能對于FPGA的設(shè)計(jì)不是很熟悉。怎么樣去做一個(gè)有效率、低功耗的AI會是很困難的。所以通過Lattice sensAI,我們提供了BNN IP和CNN IP再體驗(yàn)以及優(yōu)化,然后我們再提供工具鏈,可以讓客戶把他已經(jīng)訓(xùn)練好的模型,或者基本上任何的數(shù)據(jù)、樣本,通過CaffeTensorFlow進(jìn)行訓(xùn)練以后,它就有這個(gè)算法。比如說,我們現(xiàn)在有很多“你好”這樣子的樣本,通過這個(gè)訓(xùn)練以后,我的FPGA就可以偵測“你好”。
我順便講一下AI的背景。其實(shí)AI說穿了,它是一個(gè)新的算法。傳統(tǒng)的算法是靠規(guī)則的。以前大家的算法是用規(guī)則型的方法去做一個(gè)算法。可是AI更多時(shí)候是靠資料跟樣本。也就是說,給我一些資料,我就可以有一種算法。然后假如我的樣本資料有更新的話,我們的算法也會越來越精準(zhǔn)。它的好處,也是有些客戶可能不知道怎么樣去設(shè)置傳統(tǒng)的這種不同規(guī)則,可是我現(xiàn)在只要有足夠樣本就可以達(dá)到我要的推理。假如有很多的“你好”這樣子的樣本可以偵測,可是假如我說的不是“你好”是“李浩”這樣的一個(gè)名字,它不會反應(yīng)。其實(shí)就像一個(gè)小孩一樣,我一直叫他:李浩,你好,你好。可是他第一次聽到“李浩”的時(shí)候,他可能也會說:啊,你在講你好?可是假如我是用一個(gè)AI方式的話,我只要在跟它訓(xùn)練,說:李浩,李浩,李浩,不是你好。它就可以區(qū)別出來。也就是說,只要我有足夠的樣本去描述我要檢測的是什么,還有同樣很多的樣本去跟我的AI描述:這個(gè)很像但是不是的話,它就可以學(xué)習(xí)出來變成一個(gè)算法。
像這個(gè)demo,昨天我也試了一下。它不只是可以偵測人臉,我把它對著一個(gè)猴子的照片,它也會偵測到。其實(shí)這就是AI。就是看你多少樣本以及它的訓(xùn)練程度。假如說我給它很多猴子的照片,說:這不是人臉。那么它就會變得這樣聰明。所以你可以想像,小孩子你一直教他:“這是你、這是你、這是你。” 他發(fā)現(xiàn)你在看一個(gè)猴子或者甚至狗、貓的照片,他可能不能準(zhǔn)確判斷是不是自己。所以你要給它更多的資料,才知道“什么是人臉,什么不是人臉”,這就是AI最基礎(chǔ)的新概念,它可以用數(shù)據(jù)和樣本來去做到這樣的算法。
記者:senAI是不是也集成了終端傳感?
陳英仁:我們已經(jīng)有很多的傳感器在上面,甚至可以把sensAI這個(gè)功能放進(jìn)去。因?yàn)槲覀兊腇PGA是空白頁。看放不放的下,就是看一看我們新引進(jìn)的這些有多大。 因?yàn)槲覀僺ensAI可能占一些我們FPGA資源。假如是像我們客戶只要在用ECP5的,我們ECP5基本上它是從最小的12k到最大的是150k。反正我們的邏輯從十幾K到幾十K,甚至到百K這樣子的情況下,它是非常有彈性的。在客戶現(xiàn)有的應(yīng)用場景下,通常來講它不會用龐大的。但要把整個(gè)sensAI加進(jìn)去也是可以的。
在UltraPlus的話,因?yàn)槲覀僂A的算法,基本上占了UltraPlus的大部分。當(dāng)然我們接下來也會陸陸續(xù)續(xù)地開低功耗的iCE40系列,到時(shí)候這就不是問題了。
記者:是不是客戶本來對你們的 iCE40 等開發(fā)工具已經(jīng)比較熟悉才能在一些工具上進(jìn)行如FPGA的二次開發(fā)?如果說對FPGA或者開發(fā)工具不是很熟,你們提供的神經(jīng)網(wǎng)絡(luò)編譯器是一個(gè)新的相當(dāng)于你們自己開發(fā)的工具,還是第三方提供的?
陳英仁:我先回答最后一個(gè)問題。“神經(jīng)網(wǎng)絡(luò)編譯器”是我們自己獨(dú)立開發(fā)的,只是這個(gè)神經(jīng)網(wǎng)絡(luò)編譯器是做了一個(gè)轉(zhuǎn)換。因?yàn)楹芏嗳嗽谧錾窠?jīng)網(wǎng)絡(luò)訓(xùn)練的時(shí)候,它是用大家比較公認(rèn)開源的方式,像剛剛提到的TensorFlow跟Caffe。而TensorFlow跟Caffe不是我們開發(fā)的,只是從我們綁定了一個(gè)輸出,通過我們開發(fā)的這個(gè)編譯器可以去做這個(gè)轉(zhuǎn)換,變成適合我們的FPGA,搭配我們的IP使用。
再回到第一個(gè)問題,所以假如要用到我們sensAI的這個(gè)IP,對我們的工具需不需要熟悉?應(yīng)該這樣講,其實(shí)要涉及FPGA,基本上要懂得怎么使用工具,使用工具相對還算是比較容易,因?yàn)榛旧隙际且粋€(gè)菜單,然后去選一些東西。其實(shí)比較難的是怎么去寫所謂的應(yīng)用描述語言。這一塊怎么去寫?畢竟它是個(gè)新的語言。甚至寫什么?這個(gè)算法是更難的。所以我們的SensAI提供了這個(gè)IP以后,客戶就不用擔(dān)心怎么去做AI的算法描述,尤其是用硬件語言去寫。他可以用我們的工具操作一下,就可以設(shè)計(jì)出來。將設(shè)計(jì)門檻大大的降低與減化,可是這個(gè)客戶可能對這個(gè)FPGA不熟,但是我們可以教他怎么用我們的工具,他就可以把計(jì)算在我們的FPGA實(shí)現(xiàn)。
記者:在接觸顧客當(dāng)中,哪些用戶在產(chǎn)品導(dǎo)入AI的需求會比較強(qiáng)烈?現(xiàn)在是否已有一些客戶用sensAI在做產(chǎn)品開發(fā)?
陳英仁:我們sensAI是這個(gè)禮拜才正式發(fā)布,當(dāng)然在之前我們也是有一些初級客戶,主要是在歐美,他們對我們低功耗的新產(chǎn)品是非常滿意的,因?yàn)樗l(fā)現(xiàn)了FPGA的確可以在這種瓦級的情況下去做更多處理,所以是有客戶去使用。但是實(shí)際的利用范圍,這里就不方便透露了。主要還是在影像跟聲音這方面有關(guān)。
其實(shí)剛剛提到AI是一個(gè)新的算法,在計(jì)算的話;要么可以在云端做,要么可以在邊緣、終端做。只是說現(xiàn)在其實(shí)最大的一個(gè)推動(dòng)力,我想也是在IoT。因?yàn)榇蠹乙恢敝vIoT,可是有那么多的數(shù)據(jù)以后,怎么辦?就像大家假如可以看到很多東西,可是沒有辦法去做思考的時(shí)候,這些數(shù)據(jù)其實(shí)是沒有意義的。所以AI配上IoT以后,它會是讓整體的使用方便性增加。
我有這些資料,我有這些樣本以后,就可以去提供更多的服務(wù)。所以很多的IoT客戶以及傳感器客戶,可能都會去朝“智能傳感器”方向做。大家可能最近也有聽到“智能麥克風(fēng)”,它可能已經(jīng)內(nèi)嵌了所謂的“語音識別”。影像傳感器同樣的,很多人可能說:我現(xiàn)在就直接偵測,這是不是一個(gè)人在里面。所以這些客戶或者是使用者都會喜歡增加這些智能功能在里面。
記者:現(xiàn)在有好多的MCU廠商,他們說:最大的問題是客戶不知道怎么做人工智能,怎么做訓(xùn)練。您不是也是這樣認(rèn)為?而且我也訪問了地平線這樣的公司,它們都是“芯片+算法”,跟您這個(gè)“芯片+加速器”會有什么區(qū)別嗎?
陳英仁:先回到訓(xùn)練這一塊。其實(shí)AI是一個(gè)比較新的領(lǐng)域,所以大家也在學(xué)習(xí)怎么去訓(xùn)練。其實(shí)現(xiàn)在網(wǎng)絡(luò)上已經(jīng)有很多課程,怎么去理解AI普通的、自然的算法。剛剛講的,大家最常見的是像Caffe和Tensor這樣的設(shè)計(jì)流程。其實(shí)的確,這些新的是要花時(shí)間去教育客戶的。我們sensAI的優(yōu)勢是我們不用去學(xué)AI,然后還要再去學(xué)怎么設(shè)計(jì)FPGA,至少FPGA的部分可以不用再去擔(dān)心了。但是客戶還是要聽到AI的本質(zhì)和它的設(shè)計(jì)流程,當(dāng)然的確這也是一個(gè)問題,所以我們才會有最早的一些生態(tài)環(huán)境的伙伴,就算客戶不懂AI,我們也可以幫他們?nèi)フ覍@個(gè)比較熟悉的合作伙伴提供比較完整的方案。
其實(shí)算法這一塊,算法到底是AI的模型,還是它完整的算法。比如:像我們的參考設(shè)計(jì)和演示,它已經(jīng)是訓(xùn)練好的。但是說真的,我們不是一個(gè)終端方案的提供商,我們這一塊是去找第三方,有足夠的樣本,可以很清楚地演示。
但是也要看做到什么程度。因?yàn)楫吘归_發(fā)IC的廠商,跟足夠樣本去做訓(xùn)練,畢竟還是有差別的,。當(dāng)然,我們一開始,因?yàn)榘l(fā)覺“人臉偵測”是一個(gè)非常比較常見的很實(shí)用的方案,所以我們在上面是花了一點(diǎn)工夫。我們也認(rèn)為,我們現(xiàn)在的人臉偵測,是可以讓客戶直接拿去用的。只是說在其它的訓(xùn)練方法上,相比于一個(gè)完整的方案,我們提供的更多是一個(gè)流程,讓客戶有自己的樣本去做這個(gè)訓(xùn)練。其實(shí)之前講過,為什么大家都要數(shù)據(jù)?數(shù)據(jù)值錢,就是因?yàn)橥ㄟ^AI,它可以變成一個(gè)算法。
記者:現(xiàn)在AI工程師的工資很高,。比如,好多業(yè)內(nèi)工作二三十年的都沒有剛畢業(yè)的大學(xué)生的工資高。你們有什么方法,消除這樣的門檻呢?
陳英仁:我想AI本身它自己就可以把這個(gè)門檻降低了。因?yàn)閭鹘y(tǒng)算法的做法,是要去講這些規(guī)則,工程師就要把這些規(guī)則描述的很清楚。可是AI的出現(xiàn)使得我們只用需要樣本就好了。所以現(xiàn)在工程師可能不需要太花時(shí)間專注在算法上,他只要拿得到樣本,或者就去拿樣本;我想大家最近可能也聽到一些消息,中國也有;尤其是印度,其實(shí)現(xiàn)在有一個(gè)新興行業(yè),就是他們?nèi)プ鰳?biāo)記,標(biāo)記圖像、標(biāo)記聲音,然后把這些標(biāo)記過的樣本再賣出來。透過這些樣本,它本身就可以變成一個(gè)算法。
記者:剛剛也提到,您剛剛在演講中也有提到,我們?yōu)榭蛻籼峁┝艘恍┒ㄖ苹脑O(shè)計(jì)服務(wù)。我看PPT上有人臉識別、關(guān)鍵詞檢索、面部追蹤等五個(gè)方向,是在這五個(gè)方向我們都可以定制化服務(wù)嗎?
陳英仁:不是。其實(shí)我們這五個(gè)方向上基本上是一個(gè)參考設(shè)計(jì)跟演示,可以讓客戶知道AI可以應(yīng)用在哪里。 假如是要能定制化的話,只要客戶對這一塊完全不熟悉,甚至沒有樣本;這個(gè)就需要我們提到的合作伙伴生態(tài)環(huán)境、生態(tài)鏈,我們會去介紹一些我們Lattice的工具跟一些熟悉Lattice工具鏈的伙伴們,然后他們可以提供一些定制化的服務(wù)。
記者:Lattice提供這個(gè)產(chǎn)品主要是讓已經(jīng)使用FPGA的人擁有更好的體驗(yàn)?還是說我們要不斷的去擴(kuò)充這個(gè)領(lǐng)域?比如說之前使用MCU的人讓他更多的加入到這個(gè)陣營。我覺得MCU和FPGA相比的話,可能想到的就是FPGA比較難,想到MCU就是開發(fā)比較簡單,您怎么看待這個(gè)問題?
陳英仁:我們sensAI的確就是把這個(gè)問題解決了,我們sensAI不只是針對傳統(tǒng)的這些客戶,還有希望更多新的客戶可以直接用FPGA來實(shí)現(xiàn),就算他不熟悉、他也可以實(shí)現(xiàn),甚至在某方面來講優(yōu)于MCU。畢竟MCU它在處理AI這部分,它可能不是那么有效率,因?yàn)樗墓南鄬Ρ容^高。所以當(dāng)客戶考慮到要做AI的時(shí)候,我覺得FPGA現(xiàn)在是比較合適的,而且設(shè)計(jì)可能還不再是個(gè)問題。回到傳統(tǒng)已經(jīng)用的一些客戶,因?yàn)樗麄円呀?jīng)熟悉了我們可能在一些過程橋接和連接的技術(shù),我們現(xiàn)在提供了做整個(gè)計(jì)算的方法,所以現(xiàn)在他們可以有更多的選擇,然后更容易上手。
記者:采用Lattice工具的人工智能的邊緣應(yīng)用大概需要多久時(shí)間可以實(shí)現(xiàn)或切入呢?
陳英仁:我自己認(rèn)為是很快吧。要去熟悉我們怎么用我們的工具,大概是一個(gè)禮拜。怎么去實(shí)現(xiàn),這就需要一個(gè)開發(fā)周期。可能一周左右,熟悉怎么訓(xùn)練和轉(zhuǎn)換,以及整個(gè)系統(tǒng)的設(shè)計(jì)。我再補(bǔ)充一下MCU跟FPGA的差別,比如說一個(gè)智能的門鈴。我很多時(shí)候可能已經(jīng)有一個(gè)門鈴了,它只是沒有這個(gè)智能。當(dāng)我們把這個(gè)智能放進(jìn)去,因?yàn)槿绻乙匦虏家粋€(gè)完整的智能門鈴可能是一個(gè)大改。可是更多的時(shí)候,客戶可能是說:我現(xiàn)在東西已經(jīng)有了,我只是去偵測。假如說MCU的話,它可能用一個(gè)全新的MCU放在旁邊,雖然它可以偵測到,它怎么把這個(gè)結(jié)果傳遞給它原來的系統(tǒng),這個(gè)會比較復(fù)雜。我們的FPGA就是專門解決 “接口” 的問題,假如他們原來的系統(tǒng)是有人的話,你這邊只要給一個(gè)信號,或者給我兩個(gè)信號、三個(gè)信號,無所謂,我們的FPGA都可以去負(fù)責(zé)調(diào)整。回到您這個(gè)問題,客戶想要這樣子做,可是對于結(jié)果端不熟悉。沒有關(guān)系,我們非常熟悉,接口上面的問題,我們很多時(shí)候可以幫助客戶解決。
記者:現(xiàn)在大家對智能終端的認(rèn)識,大多數(shù)還是停留在音響這些類似的消費(fèi)市場。反倒在工業(yè)層面,很少有人有見解。您怎么看AI在整個(gè)過程中的應(yīng)用。
陳英仁:我先講一下智能終端的應(yīng)用場景,當(dāng)然不局限在家居。比如:一些關(guān)鍵字、聲音檢測。它可能檢測出尖叫聲、墻聲、玻璃打碎的聲音,所以我們就可以在一些安防監(jiān)控或者其它地方去做一些大內(nèi)容。所以其實(shí)應(yīng)該說,畢竟AI是新的一個(gè)算法,它現(xiàn)在可以用樣本就可以算出來,簡化了以前做算法的門檻。所以大家現(xiàn)在比較思考的是,她可以應(yīng)用在哪里。所以剛剛講的這只是其中一種,這些可能都是常見的接下來會蓬勃發(fā)展的應(yīng)用。其實(shí)大家還在思考,怎么樣應(yīng)用AI讓生活更簡潔、更簡單。
我們的產(chǎn)品才剛剛推出,所以產(chǎn)品化需要一定時(shí)間。其實(shí)有些照相功能也是一種AI。有些照相手機(jī),可以大概判斷照相場景是什么,然后去做優(yōu)化。如何判斷照相時(shí)的場景?累積很多樣本并進(jìn)行訓(xùn)練。知道這是晚上,所以相應(yīng)地做優(yōu)化調(diào)整;現(xiàn)在的照相對象是人,就會做美白和變瘦。有很多的自動(dòng)化來提供方便性,這基本上就是AI的一種表達(dá)。在工業(yè)類是效率,就是用一個(gè)機(jī)器去做自動(dòng)化。
記者:現(xiàn)在萊迪思還是會主攻消費(fèi)類產(chǎn)品?
陳英仁: 我們不會只做消費(fèi)類的,其實(shí)工業(yè)類也關(guān)注,只是它們需要花費(fèi)較長時(shí)間。工業(yè)類現(xiàn)在就要開始耕耘,只是可能要兩年才會起來,消費(fèi)類的會比較快。
至于萊迪思和微軟的交集,其實(shí)交集不是那么密切。因?yàn)槲④浿饕恰霸贫恕保绻窃谶吘壍脑挘瑧?yīng)該是和網(wǎng)絡(luò)端的互聯(lián)。
再說“處理”。處理會不會變?為什么要在單一的地方處理?因?yàn)檫@個(gè)東西都是來來回回的,很多人說:要在云端處理,然后變成集中式處理。很多的產(chǎn)品架構(gòu),很多時(shí)候是集中處理,然后過一段時(shí)間會做分布式處理。其實(shí)沒有一個(gè)所謂哪個(gè)更好,主要取決于業(yè)務(wù)場景。
我們其實(shí)現(xiàn)在看的就是分布式處理,分布式處理可以在云端,也可能在盒子身邊。我們主要還是在傳感器。這樣更有效率地去處理一個(gè)數(shù)據(jù),除去因?yàn)槔姘l(fā)展而導(dǎo)致的隱私權(quán)問題。因?yàn)樵谖④浝锩妫热缡窃诟隙嘶蛘咴偬幚砘旧鲜占臄?shù)據(jù)肯定提高到這里了。那么,終端客戶會不會擔(dān)心他的隱私全外露之類的。所以整個(gè)要看業(yè)務(wù)場景,到底什么樣的合適。
記者:所以萊迪思只管“端”,不需要搭載生態(tài)環(huán)境?
陳英仁:也不能這樣說。假如我是一個(gè)工匠,說不定我不用大腦思考,我的手就可以看到什么東西就馬上有一個(gè)反應(yīng),所以還是一個(gè)分布式的效率,這是一個(gè)整體上的布局。
記者:說到“智能門鎖”,因?yàn)楹芏郙CU廠商也在做門鎖。你們跟他們比,有什么優(yōu)勢呢?
陳英仁: 智能門鎖現(xiàn)在做紅外的相對少。智能門鈴的話,會去做一些偵測。因?yàn)橹悄荛T鎖,將來就是偵測指紋。那個(gè)其實(shí)也不用什么智能,我們現(xiàn)在的意思就是說:像我家的鎖,我本來要在鍵盤上按一個(gè)指紋。指紋正確了外殼才會升起來,然后才會進(jìn)來。現(xiàn)在假如我加了一個(gè)攝像頭以后,我只要靠近,它就自己上來了。
假如用紅外攝像頭,然后人說不定走過一移動(dòng),紅外就會監(jiān)測到,這樣并不好用。我現(xiàn)在在家里,最讓我覺得比較怪怪的是,由于我家的廁所比較小。我只要一靠近馬桶,馬桶蓋就自動(dòng)打開。可是很多時(shí)候我不是需要上廁所,很多時(shí)候是刷牙或者是洗手,這個(gè)蓋就開了。但是只要加入一個(gè)低延遲,當(dāng)然我要看一看它怎么去偵測,要識別什么地方,才會開馬桶蓋。這樣的話,可能就會更智能、更方便。
記者:您對于國內(nèi)的AI芯片公司評價(jià)是如何的?很多人都認(rèn)為從政府騙錢或者圈錢,炒作。您覺得您做的是不是實(shí)實(shí)在在的,或者說他們做的是不是估值有點(diǎn)太高了?比如:像深鑒科技這些,他們今年要上市,基于賽靈思的FPGA做的。
陳英仁: 我想別的廠商我不方便說,只能說“AI的確是一個(gè)方向”,以AI去運(yùn)作投入,的確是沒錯(cuò)。到底他們怎么做,或者他們做的手段是什么?這個(gè)不知道。但AI是一個(gè)非常重要的領(lǐng)域。
我想目前的話,我們也會參考客戶的反饋。當(dāng)下,萊迪思就是在定位“低功耗”,然后傳感器端這樣的一個(gè)DNN跟CNN處理。隨著我們客戶提供反饋,會有不同的硬件跟軟件的開發(fā)。當(dāng)然,我還想再補(bǔ)充一下,我們的優(yōu)勢是可以在現(xiàn)有設(shè)計(jì)不做太大的改變情況之下,我們會持續(xù)地更新,這也是我們另外一個(gè)特性。
我們也會密切地關(guān)注,還要再去做什么樣新的功能,或者是要改什么方向。不過我覺得大方向的話,應(yīng)該不會再做太大的改變。因?yàn)楫吘刮覀兊男阅堋⑽覀兊亩ㄎ唬覀兊墓母鷥r(jià)錢,跟其它家的FPGA廠商是有明確區(qū)別的。
因?yàn)槲覀儺吘乖谡酵瞥鲞@個(gè)東西之前,我們是找一些客戶,得到反饋,然后做優(yōu)化。中國客戶的話,之前有接觸到一些,可是畢竟中國客戶對于AI這個(gè)流程畢竟了解得比較晚一些,而且我們沒有正式的發(fā)表過,所以這一塊,我想在接下來幾個(gè)月應(yīng)該會有些發(fā)展。其實(shí)還是回到樣本,因?yàn)槠鋵?shí)很多客戶沒有樣本和數(shù)據(jù),就比較難去應(yīng)用整個(gè)的這樣一個(gè)供給,所以我們再看一看生態(tài)環(huán)境已經(jīng)建立起來。所以對于一些“云”方案商他有這些樣本,所以我們看怎么通過他們,然后一起可以提供比較完整的方案。
記者:您剛才有提到AI有兩個(gè)非常重要的部分,一個(gè)是“實(shí)驗(yàn)”,一個(gè)是“推理”。我們?yōu)榭蛻籼峁┝松窠?jīng)網(wǎng)絡(luò)編譯器,有在幫客戶做訓(xùn)練模型。還有就是幫助一些沒有經(jīng)驗(yàn)的客戶將這個(gè)標(biāo)準(zhǔn)框架開發(fā)的神經(jīng)網(wǎng)絡(luò)移植到我們的這個(gè)FPGA中。我想問一下,在推理這方面,我們是否可以去幫助客戶有一些方案,以及未來是否在這方面有一些計(jì)劃?
陳英仁:整體AI架構(gòu)是需要訓(xùn)練跟推理的,我們的FPGA專注在推理這方面。可是說通過推理,那么訓(xùn)練怎么辦。訓(xùn)練的話,我們是提供軟件、工具鏈,讓客戶有效率地訓(xùn)練。可是訓(xùn)練出來的東西,還是放在我們FPGA上面做推理。我們的FPGA是強(qiáng)項(xiàng),就是低功耗、小封裝、低延時(shí)、低單價(jià),所以用我們做出來的方案會是符合低延時(shí)、低功耗、小封裝、低單價(jià)。這就是我們的方便性和方便的接口。所以說最終還是在推理端,只是說訓(xùn)練端它是一個(gè)設(shè)計(jì),我們有工具鏈降低設(shè)計(jì)的門檻,可是設(shè)計(jì)還是在PC或者是在客戶端的別的系統(tǒng)去做,和萊迪思的FPGA沒有直接的關(guān)系。
記者:如果要跟華為合作,數(shù)據(jù)都開放給華為,結(jié)果他自己的團(tuán)隊(duì)又做出來了,提供一個(gè)完整方案,他們是這么一個(gè)思路。
陳英仁:的確,我們看到國內(nèi)有很多的廠商是要一個(gè)“完整方案”。國外很多時(shí)候,你給他一個(gè)工具,他自己去做。我們也在看怎么符合國內(nèi)的需求。現(xiàn)在我們只要去找到樣本,就可以提供一個(gè)算法。所以至少門檻降低了一半,現(xiàn)在我們就去看一看樣本,然后可以跟我們一起合作提供整個(gè)解決方案。因?yàn)榧偃缡亲鲆粋€(gè)偵測,Lattice不擅長收集這方面的樣本,所以這一塊,就是我們的一個(gè)很大的挑戰(zhàn),就會去找第三方,看看怎么去做。所以為什么我覺得國內(nèi)廠商也會看到說:他的核心有以前的算法,現(xiàn)在的核心可能不是直接的算法,而是你有沒有你要偵測的樣本,有沒有這些數(shù)據(jù)。
記者:加速方法都不統(tǒng)一,各家芯片也不一樣,所以AI起不來?
陳英仁:后面的工具、模型很不統(tǒng)一,可是AI的概念還是統(tǒng)一的。其實(shí)后面的只是怎么去執(zhí)行,收集標(biāo)記過的數(shù)據(jù)的話,它是非常支持的。有了標(biāo)記后的數(shù)據(jù)后,就可以去做訓(xùn)練,然后接下來會推理。所以其實(shí)也就是因?yàn)锳I這樣的一個(gè)演變,當(dāng)你的數(shù)據(jù)以后使用FPGA或MCU,門檻就沒有差很多。















滬公網(wǎng)安備 31010702005758號
發(fā)表評論注冊|登錄