2019年2月，兩位圖靈獎得主 John L. Hennessy 和 David A. Patterson發(fā)表長篇報告，展望未來十年將是計算機體系架構(gòu)領(lǐng)域的“新的黃金十年”。這一年，架構(gòu)創(chuàng)新、小芯片獲得了更多的關(guān)注，從初創(chuàng)公司到巨頭公司，從終端到云端，都有AI芯片相繼推出。

AI芯片市場的競爭變得更加激烈，但大都面臨落地難題。

回顧2019年的AI芯片發(fā)展，6個關(guān)鍵詞貫穿其中。

展望2020年的AI芯片市場，4大趨勢不容忽視。

[[311833]]

六大關(guān)鍵詞

關(guān)鍵詞一：架構(gòu)創(chuàng)新

兩位圖靈獎得主 John L. Hennessy 和 David A. Patterson在報告中說，“計算機體系結(jié)構(gòu)領(lǐng)域?qū)⒂瓉碛忠粋€黃金十年，就像20世紀80年代我們做研究那時一樣，新的架構(gòu)設(shè)計將會帶來更低的成本，更優(yōu)的能耗、安全和性能。”

雷鋒網(wǎng)2019年采訪英特爾任高級副總裁、首席架構(gòu)師，兼架構(gòu)、圖形與軟件部門總經(jīng)理Raja M. Koduri時詢問他是否同意兩位圖靈獎得主的觀點時。他表示：“我百分之百認同未來十年是計算架構(gòu)的新黃金十年的觀點。在未來10年，我們將看到比過去50年多得多的架構(gòu)優(yōu)化和提升。”他還表示：“通過軟件和硬件的結(jié)合，我們可以讓摩爾定律的提升變成十倍。”

對于AI芯片而言，架構(gòu)創(chuàng)新的重要價值之一在于解決內(nèi)存墻挑戰(zhàn)。AI芯片公司沒讓我們等太久，2019年5月，耐能發(fā)布了架構(gòu)具有創(chuàng)新性的物聯(lián)網(wǎng)專用AI SoC，耐能稱為可重組的架構(gòu)能夠讓芯片像積木一樣組合，既能滿足語音，也能滿足視覺的需求。

一個月之后，又有兩款架構(gòu)創(chuàng)新的AI語音芯片推出。一款來自探境科技，CEO魯勇說其創(chuàng)新的SFA是以存儲調(diào)度為核心的計算架構(gòu)，數(shù)據(jù)在存儲之間的搬移過程之中就完成了計算，計算對于數(shù)據(jù)來說只是一種演變。這個架構(gòu)不僅可以實現(xiàn)更高能效比，還可以支持任意神經(jīng)網(wǎng)絡，也能適用于云端和終端芯片。 

另一款來自清微智能，采用了具有軟件硬件都可以編程、混合粒度、芯片的硬件功能隨軟件的變化而變化，應用改變軟件、軟件再改變硬件特性的可重構(gòu)架構(gòu)(CGRA)。清微智能創(chuàng)始人兼CEO王博表示，CGRA最大的優(yōu)勢體現(xiàn)在兩方面，一是沒有傳統(tǒng)指令驅(qū)動的計算架構(gòu)取指和譯碼操作的延時和能耗開銷，二是在計算過程中以接近“專用電路”的方式執(zhí)行。對比CPU和GPU有十倍到千倍不等的性能提升。 

11月，英國AI芯片獨角獸Graphcore聯(lián)合創(chuàng)始人兼CEO Nigel Toon接受雷鋒網(wǎng)采訪時表示，Graphcore開創(chuàng)了全新的處理器類型IPU，IPU是專為機器智能設(shè)計的處理器，能夠滿足人們對高效易于使用的處理器的需求。IPU面有1216個核，我們稱之為Tile，每個Tile里都有計算單元和內(nèi)存。上千個處理器工作，單個IPU的存儲帶寬能達到45TB，比性能最快的HBM提升了50倍以上，在相同算力下，功耗降低一半。

同月，知存科技發(fā)布存內(nèi)計算芯片，他們的芯片利用FLASH既可以存儲又可以計算的特性，通過對存儲陣列改造以及重新設(shè)計外圍電路使電路能夠容納更多數(shù)據(jù)，滿足AI算法的需求。同時，利用NOR-FLASH更加成熟和易于商用的特點，推出存算一體的AI語音芯片。

在AI芯片的架構(gòu)創(chuàng)新中，可重構(gòu)架構(gòu)以及存算一體目前有更多的關(guān)注度。

關(guān)鍵詞二：專用芯片

AI芯片架構(gòu)創(chuàng)新目標在于保持芯片高能效比的同時還能適應AI算法的不斷演進，但2019年新推出的AI芯片大部分還是專用加速器。Arm ML事業(yè)群商業(yè)與營銷副總裁Dennis Laudick 2018年接受采訪時認為，最終GPU和FPGA將會消失，留下最通用的CPU和最專用的NPU。2019年他堅持這一觀點，認為未來市場需要的是通用加專用芯片，并且適用范圍更廣。

對于這個問題，雷鋒網(wǎng)向不同的受訪人尋求答案，站在各自的立場，他們看法有所差別，但大部分都認為隨著AI的成熟，AI芯片會走向通用。

這樣的判斷也易于理解，對于工業(yè)界而言，推出一款芯片最重要的價值在于獲取商業(yè)價值，在AI算法快速迭代的時候，只具備一定編程能力，只針對部分算法，與現(xiàn)有解決方案相比有十倍甚至更多提升的AI芯片，才更容易獲得用戶的采用。

這一邏輯用手機的NPU也能很好地解釋，最先在手機SoC中加入NPU的公司是華為和蘋果，這兩家公司的手機使用自研SoC，率先加入NPU能夠展現(xiàn)出其手機領(lǐng)先于其它手機的AI特性，并以此作為賣點。

于此不同，高通和MediaTek作為兩大手機SoC提供商，在AI算法還不成熟、面向眾多客戶的時候，他們傾向于用一個更加通用的處理器，等到算法和應用相對明確的時候再集成NPU，但依舊需要保持AI性能更高，靈活性更好。

關(guān)鍵詞三：Chiplet

[[311835]]

Chiple可以翻譯為小芯片，也可以翻譯為芯粒，2019年Chiplet概念火熱的推動力包括，DARPA的CHIPS項目、Intel的Foveros、AMD的全新一代霄龍(EPYC)處理器。簡單來說，Chiplet技術(shù)就是像搭積木，把一些預先生產(chǎn)好的特定功能芯片裸片(Die)通過先進的集成技術(shù)(比如3D integration)封裝在一起，形成一個系統(tǒng)芯片，基本的裸片就是Chiplet。

這意味著，Chiplet是一個新的IP重用模式。以前，芯片設(shè)計公司從IP供應商購買一些IP(軟核(代碼)或硬核(版圖))，結(jié)合自研的模塊集成一個SoC，然后使用某一個半導體制程完成芯片設(shè)計和生產(chǎn)的完整流程。

未來，以Chiplet模式，只需要購買別人設(shè)計好的硅片，通過先進的封裝技術(shù)就可以集成的芯片會是一個“超級”異構(gòu)系統(tǒng)，可以為AI計算帶來更多的靈活性和新的機會。

從某種程度上來說，Chiplet是2018年討論很多地異構(gòu)計算的更進一步。SoC就是一個異構(gòu)的系統(tǒng)，廣泛討論異構(gòu)也是因為AI對芯片提出了更高地要求，通過通用加專用的異構(gòu)系統(tǒng)能夠更好地滿足AI的需求。

Chiplet的提出，帶來了工藝選擇、架構(gòu)設(shè)計和商業(yè)模式的靈活性，讓AI芯片能夠更容易地實現(xiàn)異構(gòu)。挑戰(zhàn)也顯而易見，除了先進的封裝技術(shù)，標準、質(zhì)量都還不明確，編程的復雜性也大大增加。

關(guān)鍵詞四：軟硬融合

要降低異構(gòu)系統(tǒng)的編程復雜性，軟件平臺的重要性就更加突顯。這時候，可能就需要一個全新的軟件平臺甚至全新的編程語言，英特爾要用oneAPI解決編程復雜性的挑戰(zhàn)，還采用了一種基于標準的跨架構(gòu)語言Data Parallel C++++ (DPC++)。

oneAPI的意義在于提供統(tǒng)一的編程模型，簡化跨不同計算架構(gòu)的應用開發(fā)工作，這些計算架構(gòu)經(jīng)常被縮寫為 SVMS，包括標量處理器(CPU)，矢量處理器(GPU)，矩陣處理器(AI加速器)和空間處理器(FPGA)。

DPC++則是以C++為基礎(chǔ)，融合了Kronos Group的SYCL編程語言，支持數(shù)據(jù)并行性和異構(gòu)編程，并包含在一個開放社區(qū)流程中開發(fā)的語言擴展。面向特定加速器的自定義調(diào)試的跨行業(yè)開放式解決方案，也是代替單一架構(gòu)的專用語言。

英特爾的方案是一種更加上層的方式。Arm以及許多IP提供商是采用更加底層的方式，不需要全新的編程語言，通過其軟件平臺直接與CPU、GPU或NPU溝通，根據(jù)任務做最佳地匹配，解決異構(gòu)帶來的編程挑戰(zhàn)。

但無論哪種方式，要做到最佳地匹配都面臨非常大的挑戰(zhàn)。

這在異構(gòu)更加重要的AI時代，軟硬更好融合無法避免，業(yè)界也更多地意識到軟硬一體化對于AI的價值。在中國計算機學會(CCF)主辦，雷鋒網(wǎng)、香港中文大學(深圳)承辦，深圳市人工智能與機器人研究院協(xié)辦的2019第四屆全球人工智能與機器人峰會(CCF-GAIR 2019)上，AI芯片專場的大咖們紛紛提到軟硬融合。

英特爾首席工程師數(shù)據(jù)中心技術(shù)銷售部人工智能首席技術(shù)架構(gòu)師夏磊提出AI計算一定需要硬件+軟件的結(jié)合。深聰智能 CTO 朱澄宇說軟硬融合使邊緣計算成為可能。觸景無限科技聯(lián)合創(chuàng)始人兼CEO肖洪波表示解決智慧城市的挑戰(zhàn)需要易于使用、軟硬融合的感知芯片。天數(shù)智芯創(chuàng)始人、董事長、CEO 李云鵬認為海量數(shù)據(jù)時代軟硬件充分結(jié)合尤為重要。

中科院計算所研究員、先進計算機系統(tǒng)研究中心主任，中國開放指令生態(tài)聯(lián)盟秘書長包云崗稱軟件、硬件之間有巨大的性能差異，同樣一個算法或者一個程序，一個普通的程序員來寫和一個懂體系架構(gòu)的人來寫，性能可以差63000倍。如果按照摩爾定律折算，相當于可以把摩爾定律再延長二十多年，實際上就是摩爾定律賦予了很大的能力，但是并沒有挖掘出來。

關(guān)鍵詞五：有效算力

軟硬一體化也意味著AI芯片更高的有效算力。之所以有效算力開始成為關(guān)注的焦點，很重要的原因是隨著AI芯片的落地，用戶發(fā)現(xiàn)AI芯片即便有非常高的峰值速率，有效算力也可能非常低，這就不能帶來預期的性能提升。

天數(shù)智芯CEO李云鵬很早就意識到這一點，所以他們的做法是通過軟件加硬件的方式不僅提升算力的均值，同時也提升算力的峰值。云天勵飛CEO陳寧在去年11月上的發(fā)布會上也強調(diào)，我們更加關(guān)注的是面向場景的有效算力，因為人工智能今天還處于非常早期的階段，還沒有進入通用人工智能時代，更不存在通用的AI芯片。有效算力=算力 X 效率 X AI性能，對應的就是芯片、工具鏈以及算法應用。

地平線同樣提出：單位成本下的峰值算力 X 編譯器、架構(gòu)和Runtime的優(yōu)化 X 適應場景的算法優(yōu)化和演進=AI芯片真實性能的全面優(yōu)化。地平線副總裁兼智能物聯(lián)網(wǎng)芯片方案產(chǎn)品線總經(jīng)理張永謙在雷鋒網(wǎng)主辦的全球 AIoT產(chǎn)業(yè) 智能制造峰會的演講中表示， 傳統(tǒng)的芯片基本都講PPA(Power功耗，Performance性能，Area芯片面積(成本))，到了AI邊緣側(cè)計算的時候，這個評估變得很復雜，光有算力不夠，還要看算力的有效利用率。針對場景處理輸出結(jié)果的有效性指標，是衡量整個AI芯片(包括算法)的一個最重要指標。

除了終端，專注云端AI芯片初創(chuàng)公司燧原科技也強調(diào)有效算力，燧原科技CEO趙立東表示：“在壟斷市場，所有客戶都希望有新的選擇，這樣他們才能稍有議價能力，因此市場有這樣的痛點。除此之外，他們還希望有更高的性價比和能效比，特別是在落地的場景可以實現(xiàn)的有效性能。”

關(guān)鍵詞六：開源 

2019年還有一個關(guān)鍵詞就是開源，這背后最大的推動力就是RISC-V。RISC-V只是一個開源指令集，基于這個指令集的IP、芯片以及產(chǎn)品在2020年會陸續(xù)推向市場。當然，RISC-V AI芯也不少，這不僅為AI芯片市場帶來了新的競爭力量，更可能打破現(xiàn)有x86、Arm統(tǒng)治芯片市場的格局。

OURS、GreenWaves都已經(jīng)推出了基于RISC-V的邊緣端AI芯片，華米的首款自研AI芯片黃山1號也基于RSCI-V指令集，已經(jīng)應用在其智能手表中。

在RISC-V迅猛發(fā)展的2019年，Arm布推出一項全新的功能 Arm Custom instructions，允許客戶在特定的 CPU 內(nèi)核中加入自定義指令功能，從而來加速特定的用例、嵌入式和物聯(lián)網(wǎng)應用程序。

開源以及AI也讓與Arm相隔幾年誕生的MIPS也宣布開源，Wave Computing首席執(zhí)行官Art Swift認為，在新的AI以及IoT的時代，MIPS迎來了一個新的機會，在這個新的機會面前，大家起跑線都一樣。并且，MIPS的技術(shù)優(yōu)勢非常適合于AI結(jié)合。

可惜的是，2019年11月?lián)碛蠱IPS的Wave Computing表示，自2019年11月14號起，Wave 將不再提供包括MIPS開房組件的免費下載，包括架構(gòu)、核心、工具、IDE、模擬器和FPGA包/或任何與之相關(guān)的軟件代碼或計算機硬件。

開源領(lǐng)域還有一個新勢力，平頭哥宣布開源MCU芯片設(shè)計平臺，目標群體包括芯片開發(fā)者、IP供應商、高校及科研院所等，開發(fā)者可以基于該平臺設(shè)計面向細分領(lǐng)域的定制化芯片，IP供應商能夠研發(fā)原生于該平臺的核心IP，高校和科研院所則可開展芯片相關(guān)的教學及科研活動。

[[311837]]

四大趨勢

趨勢一：AI語音芯片的競爭加劇

AI應用的兩大方向是視覺和語音，相比視覺，語音不僅技術(shù)挑戰(zhàn)更小，而且已經(jīng)有出貨量非常大的智能音箱產(chǎn)品。在更加激烈的AI競爭中，為了延續(xù)優(yōu)勢，強于算法的公司紛紛推出自研AI芯片，比如思必馳。

除了算法公司，擁有創(chuàng)新架構(gòu)AI芯片的探境科技、知存科技、清微智能都在2019年發(fā)布了語音芯片，其中探境科技已經(jīng)擁有了30個合作伙伴，AI語音方案出貨達到了百萬級，清微智能的AI語音芯片也已經(jīng)量產(chǎn)，并且產(chǎn)生了營收，知存科技也有多位意向客戶。

再加上為AI智能音箱提供芯片的傳統(tǒng)芯片公司，AI語音芯片的競爭將變得更加激烈。當然，這種競爭伴隨的是市場需求的增加，未來幾年，智能家居市場對于AI語音芯片的需求也有望快速增加。

趨勢二：云端芯片市場迎來競爭

英偉達和英特爾最先享受到了AI云端芯片市場的紅利，其中英偉達在云端AI訓練市場的地位更是無人能敵。不過，隨著英特爾推出Nervana NNP-T 和 Nervana NNP-I 以及20億美元收購Habana Labs，還有即將在今年年中推出的獨立GPU Xe，英偉達和英特爾在云端AI芯片市場的競爭會更加激烈。

同時，國內(nèi)的寒武紀、比特大陸、燧原科技等在2019年都推出了云端AI芯片，從細分市場進入云端AI芯片市場，目標是獲得一定的市場份額。

2020年，巨頭和初創(chuàng)公司產(chǎn)品的落地，將讓云端AI芯片市場的競爭逐步激烈，并可能在一定程度上削弱英偉達的話語權(quán)。

趨勢三：端云一體的生態(tài)戰(zhàn)正式開啟

無論是傳統(tǒng)芯片還是AI芯片，芯片成功的本質(zhì)都是生態(tài)的成功。因此，無論是巨頭芯片公司還是初創(chuàng)公司，都有端云一體的戰(zhàn)略，他們希望通過端云一體的戰(zhàn)略構(gòu)建強大的生態(tài)，產(chǎn)生很寬的護城河同時保持公司業(yè)績的持續(xù)增長，差別在于實現(xiàn)的難度不同。

2019年，在云端AI芯片市場非常成功的英偉達和谷歌都相繼推出了面向邊緣端的AI芯片，或增強邊緣端AI芯片的實力。英特爾更是構(gòu)建了全面的AI芯片類型，迎戰(zhàn)AI。

由此看來，隨著有實力的公司們端云一體AI芯片戰(zhàn)略的開啟和落地，2020年的邊緣AI芯片初創(chuàng)公司們，將面臨更大的生存壓力。

趨勢四：易用性更為重要

從語音到圖像，從邊緣到云端，要在越來越激烈的競爭中占有一席之地，落地的速度成為關(guān)鍵。實際上，2019年已經(jīng)有不少商用的AI芯片，但無論是大公司還是初創(chuàng)公司，不少都面臨芯片卻難以落地的難題，原因多種多樣，比如芯片本身帶來的性能提升不夠有吸引力，芯片不適配應用的需求，易用性不高，選擇的行業(yè)難以突破等等。

因此，芯片的易用性在2020年將變得更加重要，這將從技術(shù)上降低客戶嘗試的成本，加快產(chǎn)品推向市場的時間，也能夠彌補硬件迭代速度慢不能很好滿足應用需求的痛點。