FPGA(Field Programmable Gate Array)現(xiàn)場可編程門陣列，作為ASIC領(lǐng)域中的一種半定制電路而出現(xiàn)已有30年的歷史了，它既解決了定制電路的無法改變功能的不足，又克服了原有可編程器件門電路數(shù)有限的缺點，可應(yīng)用的場景也很廣泛。

就在2017年1月20日，騰訊云推出國內(nèi)首款高性能異構(gòu)計算基礎(chǔ)設(shè)施——FPGA云服務(wù)，利用云服務(wù)的方式將只有大型公司才能長期支付使用的FPGA服務(wù)推廣到了更多企業(yè)。企業(yè)可以通過FPGA云服務(wù)器進行FPGA硬件編程，可將性能提升至通用CPU服務(wù)器的30倍以上。同時，與已經(jīng)深入人心的高性能計算的代表GPU相比，F(xiàn)PGA具有硬件可編程、低功耗、低延時的特性，代表了高性能計算的未來發(fā)展趨勢。

而在人工智能(AI)里面火熱的深度學習領(lǐng)域，企業(yè)同樣可以將FPGA用于深度學習的檢測階段，與主要用于訓練階段的GPU互為補充，F(xiàn)PGA還可應(yīng)用于金融分析、圖像視頻處理、基因組學等需要高性能計算的領(lǐng)域，是這類對效率要求高的行業(yè)應(yīng)用的***選擇。

基于此，InfoQ采訪了由騰訊云基礎(chǔ)產(chǎn)品中心、騰訊架構(gòu)平臺部組成的騰訊云FPGA聯(lián)合團隊，向讀者介紹FPGA的基本原理和設(shè)計初衷，應(yīng)用場景以及它給行業(yè)帶來的價值。

騰訊云FPGA的開發(fā)歷史及背后的團隊力量

隨著芯片制程逼近理論極限，可以預見通用處理器(CPU)性能提升空間越來越有限。而騰訊自己的業(yè)務(wù)隨著移動互聯(lián)網(wǎng)的快速增長，數(shù)據(jù)體量的急劇膨脹，伴隨著對這些數(shù)據(jù)的計算需求也在迅猛上漲。騰訊在2013年開始考慮如何解決計算需求的增長，而FPGA作為一種可編程的加速硬件彼時進入了大家的視野。有了解決計算需求的想法后，需要通過實踐驗證FPGA實際的能力。

騰訊的QQ、微信業(yè)務(wù)，用戶每天產(chǎn)生的圖片數(shù)量都是數(shù)億級別，常用的圖片格式有JPEG格式、WebP格式等，WebP圖片格式比JPEG圖片格式存儲空間小30%。為節(jié)省存儲空間，降低傳輸流量，提升用戶的圖片下載體驗，通常采用WebP格式進行存儲及傳輸分發(fā)，而圖片轉(zhuǎn)碼所帶來的計算消耗需要上萬臺CPU機器支撐。自然FPGA開發(fā)落地的***個切入點就是圖片轉(zhuǎn)碼：將JPEG圖片格式轉(zhuǎn)成WebP圖片格式。

在圖片轉(zhuǎn)碼的實踐中，F(xiàn)PGA聯(lián)合團隊取得了FPGA處理延時相比CPU降低20倍，F(xiàn)PGA處理性能是CPU機器的6倍，驗證了FPGA能進行計算加速的能力，同時也增強了FPGA聯(lián)合團隊的自信心。

(圖1)圖片轉(zhuǎn)碼中FPGA和CPU延時對比

(圖2)圖片轉(zhuǎn)碼中FPGA和CPU吞吐率對比

圖片轉(zhuǎn)碼項目完成后，深度學習映入了FPGA聯(lián)合團隊的眼簾，一方面深度學習需要密集的計算，另一方面深度學習在未來應(yīng)用上有著巨大的商業(yè)價值。深度學習基于深度神經(jīng)網(wǎng)絡(luò)理論，用在圖片分類的神經(jīng)網(wǎng)絡(luò)是其中的一個分支：卷積神經(jīng)網(wǎng)絡(luò)(CNN)。團隊使用FPGA對CNN計算進行加速，增強違規(guī)圖片檢測能力，最終在深度學習的實踐中取得了FPGA處理性能是CPU機器4倍的戰(zhàn)績。

騰訊云FPGA項目實踐的結(jié)果，見證了FPGA在數(shù)據(jù)中心里可以提供強大的計算能力和足夠的靈活性，來應(yīng)對數(shù)據(jù)中心對硬件加速的挑戰(zhàn)。經(jīng)過之前的FPGA實踐，F(xiàn)PGA聯(lián)合團隊獲得了在數(shù)據(jù)中心使用FPGA的經(jīng)驗，未來也將在數(shù)據(jù)中心的計算、網(wǎng)絡(luò)、存儲三個方向進一步探索，重構(gòu)數(shù)據(jù)中心基礎(chǔ)架構(gòu)。

云端的數(shù)據(jù)中心業(yè)務(wù)日新月異，更需要一種高性能、高靈活的底層硬件結(jié)構(gòu)，所以FPGA聯(lián)合團隊通過云端開放FPGA計算服務(wù)，從硬件層面加速云計算在各個場景中的應(yīng)用，降低企業(yè)的使用門檻和成本。

FPGA的特點解析

2016年3月，英特爾宣布正式停用“Tick-Tock”處理器研發(fā)模式，未來研發(fā)周期將從兩年向三年轉(zhuǎn)變。至此，摩爾定律對英特爾幾近失效。一方面處理器性能再無法按照摩爾定律進行增長，另一方面數(shù)據(jù)增長對計算性能要求超過了按“摩爾定律”增長的速度。

CPU本身無法滿足高性能計算應(yīng)用軟件的性能需求，導致需求和性能之間出現(xiàn)了缺口。在新的芯片材料等基礎(chǔ)技術(shù)沒有取得突破前，一種有效的解決方法就是采用專用協(xié)處理器的異構(gòu)計算方式來提升處理性能。現(xiàn)有的協(xié)處理器主要有FPGA，GPU和ASIC，F(xiàn)PGA由于其獨特的架構(gòu)擁有其他處理器無法比擬的優(yōu)勢。

FPGA(Field Programmable Gate Array)現(xiàn)場可編程門陣列，可以通過軟件重新配置芯片內(nèi)部的資源形成不同功能硬件，就像用樂高積木可以搭出航空母艦或變形金剛一樣。因此，FPGA不僅有了軟件的可編程性和靈活性，同時又有ASIC高吞吐和低延時的特性。而且，由于有豐富的IO，F(xiàn)PGA還非常適合用作協(xié)議和接口轉(zhuǎn)換的芯片。

FPGA在數(shù)據(jù)中心***的特點就在高吞吐的同時能做到低延時。FPGA內(nèi)部的資源都是可以重配置的，因此它可以很容易進行數(shù)據(jù)并行和流水并行，且易于在數(shù)據(jù)并行和流水并行之間平衡。而GPU幾乎只能做數(shù)據(jù)并行。

與ASIC相比，F(xiàn)PGA的可編程性體現(xiàn)出很大的優(yōu)勢?，F(xiàn)在數(shù)據(jù)中心的各種算法每時每刻都在更新變化，沒有足夠穩(wěn)定的時間讓ASIC完成長周期的開發(fā)。比如在一種神經(jīng)網(wǎng)絡(luò)模型出來之后開始把它做成ASIC，也許還未投片生產(chǎn)，這個神經(jīng)網(wǎng)絡(luò)模型已經(jīng)被另一種神經(jīng)網(wǎng)絡(luò)模型所替代。不同的是，FPGA可以在不同的業(yè)務(wù)需求之間做平衡。比如說白天用于為搜索業(yè)務(wù)排序的機器;在晚上請求很少的情況下，可以將這些FPGA重新配置成離線數(shù)據(jù)分析的功能，提供對離線數(shù)據(jù)進行分析的服務(wù)。

另外由于FPGA有高速SERDES等豐富的接口，而且能靈活控制實現(xiàn)的粒度和操作數(shù)據(jù)，因此非常適合進行協(xié)議處理和數(shù)據(jù)格式的轉(zhuǎn)換。比如說FPGA可以很方便的接入以太網(wǎng)數(shù)據(jù)，并對以太網(wǎng)包進行***濾等處理。

和CPU、GPU、ASIC在設(shè)計上的區(qū)別

(圖3)處理器芯片對比

CPU/GPU 屬于馮·諾依曼結(jié)構(gòu)，任務(wù)執(zhí)行需要經(jīng)歷取指、譯碼、執(zhí)行、訪存以及寫回等過程。CPU為達到足夠高的通用性，其指令流的控制邏輯相當復雜。GPU使用SIMD單指令多數(shù)據(jù)流并行等方式進行計算加速。

FPGA/ASIC在使用時硬件功能模塊已固定，無需分支判斷等復雜控制邏輯，同時大大降低了訪存次數(shù)。因此在能效上可以比 CPU 高出1到2個數(shù)量級。

ASIC是一種專用的芯片，是為了某種特定的需求而專門定制的芯片。ASIC與通用芯片相比，體積小、功耗低、計算效率高、芯片出貨量越大成本越低。但是缺點也很明顯：開發(fā)周期很長，算法是固定的，一旦算法變化就可能無法重用。

而FPGA則是“軟硬件一體”的架構(gòu)，軟件就是硬件。FPGA基本原理是在芯片內(nèi)集成大量的數(shù)字門電路以及存儲器，用戶可以通過燒入 FPGA 配置文件來來定義這些門電路以及存儲器之間的連線，進而得到不同的硬件功能。

就開發(fā)難度而言，ASIC > FPGA > GPU > CPU。目前主流的FPGA開發(fā)語言是硬件描述HDL，需要開發(fā)者具備一定的相關(guān)技能。隨著業(yè)界OPENCL、HLS等類C高級語言的推進，F(xiàn)PGA的開發(fā)難度和周期也會有所改善。

FPGA 部署在哪里?與 CPU 之間如何通信?

騰訊云的FPGA主要部署在數(shù)據(jù)中心的服務(wù)器中。騰訊云將FPGA芯片加上DDR內(nèi)存、外圍電路和散熱片，設(shè)計成PCIE板卡。這種FPGA板卡被安裝在服務(wù)器的主板上，用戶通過網(wǎng)絡(luò)遠程訪問服務(wù)器，開發(fā)調(diào)試FPGA，并用其加速特定業(yè)務(wù)。

FPGA與CPU之間是通過PCIE鏈路通信的。CPU內(nèi)部集成了DDR內(nèi)存控制器和PCIE控制器。在FPGA芯片內(nèi)部也用可編程邏輯資源實現(xiàn)了PCIE控制器、DDR控制器和DMA控制器。一般通訊分三種情況：

(1)指令通道

CPU向FPGA芯片寫入指令，讀取狀態(tài)。CPU直接通過PCIE訪問到FPGA芯片內(nèi)掛載的存儲器或內(nèi)部總線。

(2)數(shù)據(jù)通道

CPU讀寫FPGA板卡上DDR的數(shù)據(jù)時，CPU通過PCIE配置FPGA芯片內(nèi)的DMA控制器，輸入數(shù)據(jù)的源物理地址和目的物理地址。DMA控制器控制FPGA卡上的DDR控制器和PCIE控制器，在FPGA卡上的DDR內(nèi)存和CPU連接的DDR內(nèi)存之間傳輸數(shù)據(jù)。

(3)通知通道

FPGA通過PCIE向CPU發(fā)送中斷請求，CPU收到中斷請求后保存當前工作現(xiàn)場，然后轉(zhuǎn)入中斷處理程序執(zhí)行，必要時會關(guān)閉中斷執(zhí)行中斷處理程序。CPU執(zhí)行完中斷處理程序后，會重新打開中斷，然后重載到之前的工作現(xiàn)場繼續(xù)執(zhí)行。

目前FPGA行業(yè)面臨的問題

在行業(yè)內(nèi)，微軟在數(shù)據(jù)中心使用FPGA架構(gòu)，Amazon也推出了FPGA的計算實例，那么是不是說明整個行業(yè)對FPGA的使用比較廣泛呢?實際上，F(xiàn)PGA是個硬件芯片，它本身不能直接使用，也缺乏類似操作系統(tǒng)這樣的系統(tǒng)軟件支持。長期以來，F(xiàn)PGA行業(yè)在數(shù)據(jù)計算加速方向可以分為以下幾個參與方：

1. 芯片原廠：Xilinx和Altera(已被Intel收購)提供FPGA的芯片，直供或者給代理商分銷。

2. IP提供商：提供各種功能的IP，比如訪問DDR內(nèi)存的IP，支持PCIE設(shè)備的IP，圖片編解碼的IP。一些共同的通用IP由芯片原廠提供。

3. 集成商：集成商提供硬件和軟件的支持。由于直接用戶缺乏硬件設(shè)計和制造能力，往往希望集成商提供成熟完善的硬件，并完成IP的集成，提供驅(qū)動和使用方式，方便最終用戶的使用。

4. 用戶：最終使用者。在數(shù)據(jù)中心領(lǐng)域，用戶一般目的是希望使用FPGA對計算進行加速。

在FPGA行業(yè)，芯片原廠并不提供直接使用的硬件板卡，這個工作由集成商完成。由于硬件板卡使用量小和分擔設(shè)計、生產(chǎn)成本，硬件板卡價格往往高于芯片價格，甚至達到十倍之多。

IP提供商因為擔心產(chǎn)權(quán)泄露，通常不會迅速提供可用的可執(zhí)行文件(網(wǎng)表文件)給用戶，而是需要簽署一系列的協(xié)議和法律文件，甚至有的IP提供商根本不提供給用戶測試的機會。這樣就造成最終用戶很難得到可用的硬件板卡，更難以及時獲得使用***工藝芯片的硬件板卡，造成用戶無法快速對不同IP進行驗證，從而挑選適合自身業(yè)務(wù)的IP。另外，F(xiàn)PGA的開發(fā)使用硬件描述語言，缺乏軟件領(lǐng)域非常廣泛使用的框架概念，導致開發(fā)周期漫長。一般來說，F(xiàn)PGA開發(fā)周期是軟件開發(fā)的三倍左右。

綜上所述的這些問題，決定了云對FPGA行業(yè)的顛覆和革命。

騰訊云FPGA平臺具體能解決哪些問題

騰訊云FPGA平臺解決的是FPGA整個行業(yè)的一些問題。FPGA用戶比較少，屬于一個相對封閉的圈子，F(xiàn)PGA開發(fā)門檻高、開源的優(yōu)質(zhì)IP比較缺乏、芯片價格昂貴等問題一直為大家所詬病。

針對開發(fā)者，騰訊云FPGA平臺提供了FPGA的底層硬件支撐平臺，類似操作系統(tǒng)的部分功能，簡化了開發(fā)者對底層通用設(shè)備的訪問，比如DDR和PCIE這些通用設(shè)備，可以使開發(fā)者更聚焦到業(yè)務(wù)功能的開發(fā)。

FPGA 行業(yè)內(nèi)的IP提供者和使用者缺乏一個公開的交易平臺和信用保證機制，IP交易環(huán)節(jié)冗長，價格不透明，很難達成交易，獲取 IP 后還需要搭建硬件平臺來驗證IP性能，這些都嚴重影響產(chǎn)品上市進程，經(jīng)常耗時幾個月之久。騰訊云提供了FPGA IP商店，IP開發(fā)者和IP提供商可以通過FPGA IP商店為其他客戶無償或有償?shù)靥峁〧PGA IP和對應(yīng)的測試程序。這些IP都是基于騰訊云FPGA的標準硬件來開發(fā)定制的，IP的驗證和測試可以很方便地在云平臺上完成，一個IP的交易可以由幾個月縮短到一天之內(nèi)，提高交易效率，也使得IP交易變得更加透明。

針對一些希望使用低延時的高質(zhì)量計算服務(wù)的小型公司而言，可以使用FPGA云計算加速服務(wù)，不用耗費大量人力進行高性能計算方面的開發(fā)，很簡單地就可以把高性能的云計算服務(wù)集成到自己的網(wǎng)絡(luò)平臺，達到提升用戶體驗的目的。比如：低延時的圖片格式轉(zhuǎn)換、基于深度學習的圖片分類等服務(wù)，類似的服務(wù)后續(xù)還會進一步豐富。

對于學校的FPGA教學而言，以前學校需要為每個學生購買一個開發(fā)板卡，有了騰訊云平臺之后可以節(jié)省學校購買開發(fā)板的成本，現(xiàn)在只需要給每個學生申請一個FPGA云平臺的賬戶即可，學生登錄上去直接可以根據(jù)demo進行學習開發(fā)即可。騰訊云平臺同時會為用戶提供便于學習的操作指導和實驗課程方案，用戶學習的東西更接近企業(yè)的實際應(yīng)用場景，可以很好地跟將來的工作需要對接起來。

此外，大容量的FPGA芯片價格比較昂貴， 一個很重要的原因是FPGA芯片缺少量大的爆款產(chǎn)品，而騰訊云FPGA平臺可以聚集大量的客戶來使用騰訊的標準FPGA硬件設(shè)備，這樣會增大該FPGA芯片的供應(yīng)量，同時也便于芯片廠商降低成本，逐漸緩解FPGA芯片昂貴的問題。

從這些可以看出FPGA云化意義重大，可以推動整個FPGA行業(yè)的發(fā)展，給FPGA產(chǎn)業(yè)鏈的各方帶來收益。

FPGA在互聯(lián)網(wǎng)業(yè)務(wù)中的應(yīng)用優(yōu)勢

• 圖片轉(zhuǎn)碼

隨著移動互聯(lián)網(wǎng)的發(fā)展，用戶每天上傳的圖片量越來越龐大，公司目前用于圖片轉(zhuǎn)碼的業(yè)務(wù)主要有QQ相冊、微信等，而業(yè)務(wù)中使用的圖片格式大都為JPEG格式、WebP格式等，而圖片轉(zhuǎn)碼所帶來的計算消耗需要上萬臺CPU機器支撐。所以FPGA在互聯(lián)網(wǎng)業(yè)務(wù)中***個應(yīng)用場景就是圖片轉(zhuǎn)碼：JPEG圖片格式轉(zhuǎn)成WebP圖片格式。項目取得了FPGA處理延時相比CPU降低了20倍，F(xiàn)PGA處理性能是CPU機器的6倍。

為了更進一步提升圖片的壓縮率，同時隨著HEVC高性能編碼標準的發(fā)展，HEVC的I幀圖片壓縮率和之前的WebP/JPEG等編碼標準有了很大的提升，HEVC的I幀圖片壓縮率和WebP相比提高20~30%左右，和JPEG相比提高更多，平均能到50%左右，因此，無論從下載帶寬節(jié)省還是后臺存儲成本降低，以及用戶下載圖片體驗等角度來看，HEVC標準都有很大優(yōu)勢。而采用HEVC的問題在于HEVC 的幀壓縮計算復雜度非常高，采用CPU進行轉(zhuǎn)碼成本很高，導致很難在業(yè)務(wù)中全面推廣。為了增強圖片轉(zhuǎn)碼能力，騰訊繼續(xù)使用FPGA對圖片轉(zhuǎn)碼進行加速。

經(jīng)測試，完成WebP/JPEG格式圖片轉(zhuǎn)成HEVC格式圖片，測試圖片大小為1920x1080，F(xiàn)PGA處理延時相比CPU降低7倍，F(xiàn)PGA處理性能是CPU機器的10倍，F(xiàn)PGA機型單位成本是CPU機型的1/3。

• 圖片分類

深度學習近年來在語音識別、圖片分類和識別、推薦算法等領(lǐng)域發(fā)揮了越來越大的作用。在移動互聯(lián)時代，為了增強圖片檢測的處理能力，降低圖片檢測成本，騰訊使用FPGA對CNN計算進行加速。

研發(fā)團隊使用FPGA完成CNN算法的Alexnet模型，F(xiàn)PGA處理性能是CPU機器的4倍，F(xiàn)PGA機型單位成本是CPU機型的1/3。

FPGA能讓開發(fā)者/團隊更“任性”

對于外部開發(fā)者和開發(fā)團隊來說，首先，騰訊云FPGA提供統(tǒng)一的硬件平臺。開發(fā)者無需關(guān)注 FPGA 基礎(chǔ)設(shè)施，免去了重復開發(fā)硬件平臺面臨的問題和挑戰(zhàn)，快捷部署，幾分鐘就可以部署完畢一臺全新的FPGA平臺。FPGA芯片豐富的邏輯資源可以為開發(fā)者“任性”實現(xiàn)功能提供保障。統(tǒng)一的平臺也便于開發(fā)團隊快速彈性擴展硬件平臺，從而提高業(yè)務(wù)容災可靠性。

其次，騰訊云FPGA提供完備的開發(fā)環(huán)境，不需要專門人員開發(fā)驅(qū)動環(huán)境。開發(fā)語言多樣性，HLS，OPENCL，RTL滿足不同類別的開發(fā)人員需求，降低學習開發(fā)門檻，簡單易用。

再者，騰訊云FPGA提供豐富的IP功能，不僅有大量免費IP和有償?shù)腎P服務(wù)，而且交易流程透明、安全、可靠。加速開發(fā)者開發(fā)進度的同時也為開發(fā)團隊提供一個將自己開發(fā)的IP進行交易的平臺。

***，騰訊云FPGA提供專業(yè)安全防護。部署到云上，將享受與云服務(wù)器同等的云安全基礎(chǔ)防護和高防服務(wù)。免去傳統(tǒng)FPGA數(shù)據(jù)存儲和傳輸安全所帶來的困擾。

可以看到，傳統(tǒng)的FPGA開發(fā)面臨的硬件平臺穩(wěn)定性、開發(fā)語言門檻高、調(diào)試周期長、驅(qū)動軟件聯(lián)合調(diào)試等問題都將得到改觀，開發(fā)者和開發(fā)團隊能夠從繁雜和重復的工作中快速釋放出來，有更多的時間和精力投入到創(chuàng)新的工作中去，這將為整個技術(shù)研發(fā)的氛圍增加更多的創(chuàng)新因子，創(chuàng)造更多的價值。

未來，F(xiàn)PGA的行業(yè)價值

當前AI火爆，得益于FPGA的高密度計算能力以及低功耗的特性，F(xiàn)PGA率先在深度學習在線預測方向(廣告推薦、圖片識別、語音識別等)得到了較大規(guī)模的部署。用戶也常常將FPGA與GPU進行對比，GPU的易編程性、高吞吐與FPGA的低功耗、易部署等特性也各有千秋。相較于GPU以及ASIC，F(xiàn)PGA的低延時以及可編程性也是其核心競爭能力。

對于行業(yè)來說，云是一種共享服務(wù)的思想，用戶不以占有的方式使用硬件和軟件，而是共享復用，因此大大降低了使用成本，提升了資源的使用效率。FPGA云服務(wù)，可以讓行業(yè)參與方都獲得價值：

1. 芯片原廠：不需要經(jīng)過層層代理，增加成本，而是可以通過云提供硬件板卡復用的服務(wù)。因為硬件統(tǒng)一采購和維護，也大大提升了穩(wěn)定性和可靠性。

2. IP提供商：可以把IP放到云平臺的市場中去，最終用戶使用時，云平臺完成部署和交付，用戶不需要接觸可執(zhí)行文件(網(wǎng)表文件)，因此不存在產(chǎn)權(quán)泄露的風險。這將鼓勵I(lǐng)P提供商的服務(wù)方式，可以提供按時長計費，買斷計費，乃至試用版免費等方式，用戶也可以迅速驗證。

3. 設(shè)計和開發(fā)：云提供框架方式，封裝了常用的系統(tǒng)級操作(DDR內(nèi)存的訪問、DMA、PCIE設(shè)備控制等)，可以支持硬件描述語言，也支持OPENCL以及類似C的高級語言。提供通用的驅(qū)動和調(diào)用庫，不需要用戶編程。對高階用戶而言，也可以使用OPENCL或者硬件描述語言實現(xiàn)自己的功能。

4. FPGA最初的應(yīng)用場景是在通信行業(yè)，那么其高通信帶寬以及實時性處理能力可以為數(shù)據(jù)中心基礎(chǔ)架構(gòu)帶來什么改變呢?當前，F(xiàn)PGA可以在IDC大顯神威的地方，例如低延時網(wǎng)絡(luò)架構(gòu)、網(wǎng)絡(luò)虛擬化、高性能存儲以及網(wǎng)絡(luò)安全等等。可喜的是，我們看到微軟以及亞馬遜等同行已經(jīng)使用FPGA在其公有云網(wǎng)絡(luò)中進行了諸多積極嘗試，騰訊云當前也在多個方向進行積極的探索和實踐。

可以預見的是，借助于FPGA，我們的數(shù)據(jù)中心會更加的綠色高效。

騰訊云FPGA 云服務(wù)器的更多信息：https://www.qcloud.com/product/fpga