人工智能芯片百家爭(zhēng)鳴 FPGA將突圍而出

人工智能芯片百家爭(zhēng)鳴FPGA將突圍而出隨著人工智能、深度學(xué)習(xí)等技術(shù)的興起與成熟，起初為圖像渲染而生的GPU找到了新的用武之地，以GPU驅(qū)動(dòng)的計(jì)算環(huán)境隨處可見，從HPC到AI訓(xùn)練。站在數(shù)字世界、高性能計(jì)算、人工智能的交叉口，GPU悄然成為了計(jì)算機(jī)的大腦。將性能從10倍提升至100倍，GPU的加速能力遠(yuǎn)超以X86架構(gòu)構(gòu)建的CPU系統(tǒng)，將時(shí)間壓縮至分鐘級(jí)別，功耗也相對(duì)較低。2006年，借助CUDA（ComputeUnifiedDeviceArchitecture，通用計(jì)算架構(gòu)）和TeslaGPU平臺(tái)，英偉達(dá)將通用型計(jì)算帶入了GPU并行處理時(shí)代，這也為其在HPC領(lǐng)域的應(yīng)用奠定了基礎(chǔ)。作為并行處理器，GPU擅長(zhǎng)處理大量相似的數(shù)據(jù)，可以將任務(wù)分解為數(shù)百或數(shù)千塊同時(shí)處理，而傳統(tǒng)CPU則是為串行任務(wù)所設(shè)計(jì)，在X86架構(gòu)下進(jìn)行多核編程是很困難的，并且從單核到四核、再到16核有時(shí)會(huì)導(dǎo)致邊際性能增益。同時(shí)，內(nèi)存帶寬也會(huì)成為進(jìn)一步提高性能的瓶頸。與以往的通用算法相比，深度學(xué)習(xí)對(duì)計(jì)算性能的要求則到了另一個(gè)量級(jí)上。盡管在GPU中運(yùn)行并行核心時(shí)處理的應(yīng)用數(shù)量相同，但在系統(tǒng)中單個(gè)內(nèi)核的使用效率卻更高。此外，經(jīng)過重寫的并行函數(shù)在應(yīng)用程序關(guān)鍵部分運(yùn)行時(shí)，在GPU上跑的速度更快。更重要的是，英偉達(dá)在利用GPU構(gòu)建訓(xùn)練環(huán)境時(shí)還考慮到了生態(tài)的重要性，這也是一直以來困擾人工智能發(fā)展的難題。首先，英偉達(dá)的NVIDIAGPUCloud上線了AWS、阿里云等云平臺(tái)，觸及到了更多云平臺(tái)上的開發(fā)者，預(yù)集成的高性能AI容器包括TensorFlow、PyTorch、MXNet等主流DL框架，降低了開發(fā)門檻、確保了多平臺(tái)的兼容性。其次，英偉達(dá)也與研究機(jī)構(gòu)、大學(xué)院校，以及向Facebook、YouTube這樣的科技巨頭合作，部署GPU服務(wù)器的數(shù)據(jù)中心。同時(shí)，還為全球數(shù)千家創(chuàng)業(yè)公司推出了Inception項(xiàng)目，除了提供技術(shù)和營(yíng)銷的支持，還會(huì)幫助這些公司在進(jìn)入不同國家或地區(qū)的市場(chǎng)時(shí)，尋找潛在的投資機(jī)會(huì)?？梢哉f，英偉達(dá)之于GPU領(lǐng)域的成功除了歸功于Tesla加速器、NVIDIADGX、NVIDIAHGX-2這些專屬的工作站或云服務(wù)器平臺(tái)，更依托于構(gòu)建了完整的產(chǎn)業(yè)鏈通路，讓新技術(shù)和產(chǎn)品有的放矢，從而形成了自己的生態(tài)圈，這也是英特爾難以去打破的。在不久前舉行的谷歌I/O2018開發(fā)者大會(huì)上，TPU3.0正式亮相。根據(jù)官方介紹，TPU3.0的計(jì)算能力最高可達(dá)100PFlops，是TPU2.0的8倍多。TPU的英文全名是TensorProcessorUnit，它是谷歌自主研發(fā)的針對(duì)深度學(xué)習(xí)加速的專用人工智能芯片。TPU是專為谷歌深度學(xué)習(xí)框架TensorFlow設(shè)計(jì)的人工智能芯片。著名的AlphaGo使用的就是TPU2.0芯片。目前大多數(shù)人工智能企業(yè)青睞于GPU芯片，而TPU相對(duì)于GPU而言，采用8位低精度計(jì)算節(jié)省晶體管，對(duì)精度影響很小但是卻可以大幅節(jié)約功耗。尤其是當(dāng)大面積集成系統(tǒng)時(shí)，TPU不僅性能更強(qiáng)，功耗也會(huì)大幅低于GPU集成系統(tǒng)。由于芯片能力非常強(qiáng)大，谷歌使用了液冷散熱技術(shù)，可以幫助TPU更好的為數(shù)據(jù)中心服務(wù)。除了強(qiáng)大的性能外，谷歌在生態(tài)系統(tǒng)的建設(shè)上做了大量的工作。在TPU1.0和2.0的初期，谷歌并沒有大規(guī)模推進(jìn)其商業(yè)化，而是圍繞生態(tài)做文章。這就意味著要投入巨額的成本，而且冒著極大的市場(chǎng)風(fēng)險(xiǎn)。當(dāng)然，背后的潛在市場(chǎng)也是巨大的。在人工智能市場(chǎng)競(jìng)爭(zhēng)激烈的形勢(shì)下，吸引到更多的開發(fā)者到谷歌的生態(tài)系統(tǒng)中，將會(huì)比對(duì)手有更強(qiáng)的競(jìng)爭(zhēng)優(yōu)勢(shì)。目前谷歌正快速擴(kuò)張自己的云計(jì)算業(yè)務(wù)，TPU也依托于云平臺(tái)運(yùn)行。通過更低的售價(jià)讓人工智能開發(fā)企業(yè)拋棄GPU，轉(zhuǎn)投成本更低的TPU服務(wù)，是谷歌目前正在大力發(fā)展的業(yè)務(wù)。如果TPU無法獲得巨大的市場(chǎng)份額從而降低單顆TPU的成本，那么谷歌將很難在人工智能市場(chǎng)盈利。不過，TPU強(qiáng)勁的計(jì)算性能和集群計(jì)算陣列可以讓人工智能開發(fā)企業(yè)更快的開展業(yè)務(wù)。TPU的強(qiáng)大，讓谷歌在人工智能芯片領(lǐng)域已稱霸一方。上游廠商喊得再歡，落地到千人千面的行業(yè)場(chǎng)景中也要由解決方案商來幫忙，無論是GPU、FPGA還是TPU，最終還是要聽聽客戶的使用感受。為此，我們采訪了人工智能產(chǎn)品和行業(yè)解決方案提供商曠視科技。曠視科技利用自主研發(fā)的深度學(xué)習(xí)算法引擎Brain++，服務(wù)于金融安全、城市安防、手機(jī)AR、商業(yè)物聯(lián)、工業(yè)機(jī)器人等五大核心行業(yè)。在曠視科技看來，GPU、FPGA、TPU在通用性和能效比之間的取舍不同。其中，GPU最成熟，但也最耗資源，常用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)和服務(wù)端；FPGA最靈活，能支持應(yīng)用中出現(xiàn)的特殊操作，但要考慮靈活度和效率之間的trade-off；TPU相對(duì)最不靈活，但如果場(chǎng)景合適則能發(fā)揮出最大功用。如果拿汽車類比，GPU是大巴車，適合多人同目標(biāo)；FPGA是小轎車，能到任何地方，但得自己會(huì)開；而TPU是火車，只能在比公路少的多的鐵軌上開，但開的飛快。人工智能還在快速發(fā)展，還處于在各個(gè)行業(yè)落地的過程中。這個(gè)階段對(duì)GPU，F(xiàn)PGA和TPU都有需求。目前，曠視科技選擇的是T型技術(shù)方案，即在維持一定廣度的同時(shí)，深耕某些應(yīng)用場(chǎng)景，因此在算法實(shí)際落地的過程中，自然而然地產(chǎn)生了從GPU/CPU到FPGA的需求。GPU主要用于訓(xùn)練，而FPGA能在端上能提供比GPU更好的性能功耗比。CPU則是無處不在的“默認(rèn)"選擇。未來，不排除采用TPU的方案來進(jìn)一步提高端上的能力。從行業(yè)來看，當(dāng)前IoT領(lǐng)域?qū)I芯片的需求最為迫切，原因是IoT領(lǐng)域要求在有限的功耗下完成相應(yīng)的AI任務(wù)，最需要性能功耗比高的AI芯片。至于未