日前，國內(nèi)云服務(wù)商騰訊云宣布推出FPGA云服務(wù)器，引起了業(yè)界一陣熱議，這是繼國外亞馬遜以及微軟等企業(yè)在數(shù)據(jù)中心做出部署FPGA的嘗試之后，國內(nèi)首個FPGA云服務(wù)器。短短一年的時間，國內(nèi)外主流云服務(wù)企業(yè)紛紛把目光聚焦在了FPGA上，這顯然不是巧合，整個云服務(wù)行業(yè)似乎已經(jīng)對FPGA在高性能計算上的重要性上達成了一致。
本月早些時候微軟亞洲研究院實習(xí)生李博杰曾在知乎上介紹了FPGA的技術(shù)特點，其優(yōu)勢已是路人皆知。但在FPGA云服務(wù)器大規(guī)模應(yīng)用之前，大家需要思考的是它對產(chǎn)業(yè)鏈的影響是什么，如云服務(wù)商該如何部署FPGA云服務(wù)器?哪些業(yè)務(wù)適合放在FPGA云服務(wù)器上?它對開發(fā)者帶來了什么樣的挑戰(zhàn)?帶著這些問題，雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))采訪了騰訊云FPGA團隊。
據(jù)介紹，騰訊云FPGA團隊由騰訊云基礎(chǔ)產(chǎn)品中心、騰訊架構(gòu)平臺部組成的團隊，該主要負責(zé)FPGA云服務(wù)器的開發(fā)。
雷鋒網(wǎng)：FPGA云服務(wù)器是一個什么樣的概念?
FPGA云服務(wù)器
FPGA云服務(wù)器，一方面它是屬于異構(gòu)計算平臺的硬件體系結(jié)構(gòu)，通過并行計算方式，提高服務(wù)器計算性能、能效比和計算實時性，對應(yīng)用實現(xiàn)底層的硬件加速處理；另一方面，通過云服務(wù)提供給用戶，用戶可按需付費使用FPGA，極大降低FPGA的使用成本。
以騰訊云為例，騰訊云已經(jīng)在國內(nèi)提供了第三方FPGA知識產(chǎn)權(quán)市場，通過騰訊云服務(wù)市場，F(xiàn)PGA開發(fā)者和使用者可以實現(xiàn)高效交易;對于FPGA使用者而言，可以在此購買已開發(fā)并驗證好的FPGA知識產(chǎn)權(quán)功能，可節(jié)約長達數(shù)月的FPGA研發(fā)周期，同時采用按需使用的付費模式，能最大化地幫助使用者節(jié)省硬件投入成本。
雷鋒網(wǎng)：在FPGA云服務(wù)器中，CPU會被替代還是“CPU+FPGA”的異構(gòu)計算模式，它的優(yōu)勢是什么?
FPGA云服務(wù)器并不是要用FPGA替代CPU，而是要將一些CPU做不了的或者不擅長的工作offload到FPGA，讓FPGA和CPU協(xié)同工作，是一個以FPGA為協(xié)處理器的異構(gòu)計算平臺。
FPGA獨特的架構(gòu)帶來了其他處理器無法比擬的優(yōu)勢，主要體現(xiàn)在它在吞吐率，延遲，功耗和靈活性4個維度上達到了很好的平衡，不存在短板。
具體來講，F(xiàn)PGA跟CPU相比，吞吐率、延遲及單位功耗計算性能都有明顯的優(yōu)勢;與GPU相比，則因為FPGA很容易做到流水線并行和數(shù)據(jù)并行，因此能同時做到高吞吐和低延時，而GPU幾乎只能做數(shù)據(jù)并行，因此延遲比較大;ASIC則因為它的長開發(fā)周期和低靈活性，很難適應(yīng)數(shù)據(jù)中心業(yè)務(wù)的變化，也很難完成硬件資源在不同業(yè)務(wù)中的分配和調(diào)度。
另外由于FPGA有高速SERDES等豐富的接口，而且能靈活控制實現(xiàn)的粒度和操作數(shù)據(jù)，因此非常適合進行協(xié)議處理和數(shù)據(jù)格式的轉(zhuǎn)換。比如說FPGA可以很方便的接入以太網(wǎng)數(shù)據(jù)，并對以太網(wǎng)包進行用戶自定義的包過濾等處理，而其他處理器卻很難做到。
雷鋒網(wǎng)：騰訊云使用的是哪家的FPGA芯片?如何部署，一臺服務(wù)器有多少FPGA?
目前騰訊云使用的芯片廠家包括業(yè)界主流的Xilinx和Intel兩大廠商。前期我們推出的FPGA實例是基于Xilinx芯片平臺，基于Intel平臺的服務(wù)會盡快推出。
FPGA云服務(wù)器為了提高單臺服務(wù)器計算密度和加強FPGA之間通信，每臺服務(wù)器支持4個FPGA或8個FPGA配置，滿足用戶超大計算需求。一期針對簡單業(yè)務(wù)場景，我們提供單機單實例的FPGA云服務(wù)器;針對更高性能需求的業(yè)務(wù)場景，我們近期也將提供單機多實例的FPGA云服務(wù)器。
雷鋒網(wǎng)：什么業(yè)務(wù)/應(yīng)用場景適合使用FPGA云服務(wù)器?能否舉例說明?
FPGA云化對整個FPGA行業(yè)來講有著革命性的影響，F(xiàn)PGA的云化大大降低了FPGA的使用門檻，完全不需要新的硬件定制，只需要比較少的投入就可以得到較高的收益。會使得之前一些不傾向于使用FPGA或不會使用FPGA的行業(yè)或者業(yè)務(wù)場景，現(xiàn)在重新審視是否需要用FPGA的優(yōu)勢來做點什么。
FPGA的優(yōu)勢是計算的高吞吐量、低延時、低功耗。
1.在機器學(xué)習(xí)領(lǐng)域、金融領(lǐng)域、大數(shù)據(jù)領(lǐng)域、基因檢測領(lǐng)域都存在比較大的數(shù)據(jù)量需要分析計算，這些是FPGA云服務(wù)器可以發(fā)揮高吞吐優(yōu)勢的領(lǐng)域。
2.網(wǎng)絡(luò)安全領(lǐng)域有更安全、更低延時的需求，這些場景也可以發(fā)揮FPGA低延時的優(yōu)勢。
3.超大規(guī)模圖像處理，這些圖片的處理都使用FPGA來進行處理加速都可以得到滿意的效果。
4. 現(xiàn)在比較熱門的自然語言處理和語音識別這些也都是FPGA可以發(fā)揮優(yōu)勢的場景。
一言以蔽之，F(xiàn)PGA云化之后，F(xiàn)PGA的使用門檻降低，可以極大地拓寬FPGA的使用場景，這些需要我們所有人去進一步探索。
雷鋒網(wǎng)：如何滿足開發(fā)者的需求?
IP(Intellectual Property)即知識產(chǎn)權(quán)，是在FPGA設(shè)計中，使用Verilog等硬件描述語言開發(fā)的功能模塊。一直以來，F(xiàn)PGA行業(yè)內(nèi)的IP提供者和使用者缺乏一個公開的交易平臺和信用保證機制，IP交易環(huán)節(jié)冗長，價格不透明，很難達成交易。
騰訊云現(xiàn)在的做法是為開發(fā)者提供一個FPGA IP商店——騰訊云服務(wù)市場，IP開發(fā)者和IP提供商可以通過該IP商店為其他客戶無償或有償?shù)靥峁〧PGA IP和對應(yīng)的測試程序。當(dāng)然，這些IP都是基于騰訊FPGA的標(biāo)準(zhǔn)硬件來開發(fā)定制的，IP的驗證和測試可以很方便地在云平臺上完成，一個IP的交易可以由幾個月縮短到幾分鐘，提高交易效率，也使得IP交易變得更加透明;另外，騰訊云FPGA提供了FPGA的底層硬件支撐平臺，類似操作系統(tǒng)的部分功能，簡化了開發(fā)者對底層通用設(shè)備的訪問，比如DDR和PCIE這些通用設(shè)備，可以使開發(fā)者更聚焦到業(yè)務(wù)功能的開發(fā)。
從這一點來看，F(xiàn)PGA云化意義重大，可以推動整個FPGA行業(yè)的發(fā)展，給FPGA產(chǎn)業(yè)鏈的各方都可以帶來收益。
雷鋒網(wǎng)：與傳統(tǒng)的FPGA解決方案相比，F(xiàn)PGA云服務(wù)器的費用有什么變化?整體有哪些區(qū)別?
傳統(tǒng)FPGA 解決方案 ：
硬件成本高：高服務(wù)器投資運營成本，F(xiàn)PGA 硬件交易價格不透明;
部署難度大：設(shè)計并大規(guī)模生產(chǎn)需要解決供應(yīng)鏈、制造工藝、可靠性測試等多個環(huán)節(jié)，需耗費數(shù)月甚至數(shù)年;
運維成本高：為保障服務(wù)穩(wěn)定需承受高額的運維IT成本 。
FPGA 云服務(wù)器：
使用成本低：您無需預(yù)先采購 FPGA 或采購硬件資源來運行 FPGA，騰訊云提供按需售賣的方式提供FPGA云服務(wù)器，您可按需購買，無需投入大量資金購置物理服務(wù)器;
部署時間短：部署開發(fā)時間從數(shù)年或數(shù)月縮減到數(shù)天;
運維成本低：低服務(wù)器運維成本，避免本地數(shù)據(jù)中心開發(fā) FPGA 無差別的繁重工作，助您有效降低基礎(chǔ)設(shè)施建設(shè)人力和成本投入。
雷鋒網(wǎng)：之前在微信、QQ等業(yè)務(wù)上已經(jīng)有應(yīng)用，為何選擇在這個時候?qū)ν忾_放?
我們目前內(nèi)部業(yè)務(wù)如微信和QQ等在FPGA的成功應(yīng)用，已經(jīng)驗證了FPGA在互聯(lián)網(wǎng)業(yè)務(wù)中可以起到異構(gòu)加速的作用。對于行業(yè)來說，云是一種共享服務(wù)的思想，用戶不以占有的方式使用硬件和軟件，而是共享復(fù)用，因此大大降低了使用成本，提升了資源的使用效率。
FPGA云服務(wù)能給行業(yè)生態(tài)鏈各方帶來價值：
芯片原廠：不需要經(jīng)過層層代理，增加成本，而是可以通過云提供硬件板卡的服務(wù)。因為硬件統(tǒng)一采購和維護，也大大提升了穩(wěn)定性和可靠性。
IP提供商：可以把IP放到云平臺的市場中去，最終用戶使用時，通過云平臺完成部署和交付，用戶不需要接觸可執(zhí)行文件(網(wǎng)表文件)，因此不存在產(chǎn)權(quán)泄露的風(fēng)險。這將鼓勵I(lǐng)P提供商提供更多的服務(wù)方式，可以提供按時長計費，買斷計費，乃至試用版免費等方式，用戶也可以迅速驗證。
設(shè)計和開發(fā)：云提供框架方式，封裝了常用的系統(tǒng)級操作(DDR內(nèi)存的訪問、DMA、PCIE設(shè)備控制等)，可以支持硬件描述語言，也支持OPENCL以及類似C的高級語言。提供通用的驅(qū)動和調(diào)用庫，不需要用戶編程。對高階用戶而言，也可以使用OPENCL或者硬件描述語言實現(xiàn)自己的功能。
正是云對FPGA行業(yè)的顛覆、革命和價值，所以我們通過云端開放FPGA計算服務(wù)，把FPGA作為云端基礎(chǔ)架構(gòu)的一部分，從硬件層面加速云計算在各個場景中的應(yīng)用，降低大中小型企業(yè)以及用戶的使用門檻和成本。
雷鋒網(wǎng)：如何看待云服務(wù)商開始推FPGA解決方案?騰訊云與其它云服務(wù)企業(yè)的方案有何區(qū)別?
我們樂于看到更多企業(yè)提供FPGA的云服務(wù)，共同加速各行各業(yè)使用FPGA的進程，加快完善FPGA生態(tài)圈。
總結(jié)來看，這次FPGA的發(fā)布，騰訊云在業(yè)內(nèi)有幾點領(lǐng)先的差異化優(yōu)勢：例如，騰訊云的FPGA技術(shù)已經(jīng)在騰訊的QQ、微信業(yè)務(wù)中長期部署和驗證。騰訊云通過解決FPGA云服務(wù)器的部署、知識產(chǎn)權(quán)(IP)提供者分享IP以及應(yīng)用程序開發(fā)者購買IP三大問題，用于建設(shè)與完善FPGA開發(fā)者生態(tài)。
另外值得一提的是，騰訊云和業(yè)界兩大FPGA 廠商(Xilinx 和 Intel)保持著有良好的關(guān)系，這也可以方便開發(fā)者選擇自己熟悉的開發(fā)模式，避免切換平臺。
雷鋒網(wǎng)：騰訊云接下來有什么規(guī)劃?
接下來，一方面在硬件機型上，我們會推出一臺服務(wù)器具有多個FPGA，提供更大的硬件加速性能;另一方面，在軟件層面上，我們進一步完善FPGA開發(fā)框架，該開發(fā)框架支持 C/C++、OpenCL、Verilog/VHDL等開發(fā)語言，F(xiàn)PGA 開發(fā)人員可以選擇自己熟悉的語言方式進行 FPGA 邏輯設(shè)計。同時，該開發(fā)框架提供類似操作系統(tǒng)的支持，可以方便訪問DDR、使用DMA完成主機和FPGA之間通訊，開發(fā)者只需關(guān)注面向應(yīng)用的邏輯設(shè)計。
雷鋒網(wǎng)：為何FPGA云服務(wù)器逐漸受到了主流云服務(wù)商的青睞?是人工智能驅(qū)動?這會是行業(yè)的必然趨勢?
騰訊云包括國內(nèi)外其他同行都在推FPGA云服務(wù)器，這是產(chǎn)業(yè)發(fā)展和市場需求的雙重驅(qū)動。
一方面隨著芯片制程逼近理論極限，可以預(yù)見通用處理器(CPU)性能再也無法按照摩爾定律進行增長，另一方面移動互聯(lián)網(wǎng)帶來的數(shù)據(jù)增長對計算性能要求超過了按“摩爾定律”增長的速度，比如騰訊內(nèi)部業(yè)務(wù)隨著移動互聯(lián)網(wǎng)的快速增長，例如圖片數(shù)據(jù)體量的急劇膨脹，同時伴隨著對這些數(shù)據(jù)的計算需求也在迅猛上漲。從市場看，人工智能的發(fā)展也對數(shù)據(jù)的計算需求凸顯，也是另一個驅(qū)動因素。
騰訊曾在2013年開始考慮如何解決計算需求的增長，而FPGA作為一種可編程的加速硬件彼時進入了大家的視野。騰訊內(nèi)部已經(jīng)對FPGA技術(shù)展開了多年的研究，可以確定的是，F(xiàn)PGA在數(shù)據(jù)中心里可以提供強大的計算能力和足夠的靈活性應(yīng)對數(shù)據(jù)中心對硬件加速的挑戰(zhàn)，把FPGA的技術(shù)積累服務(wù)推廣給更多的企業(yè)，這也是騰訊云推出國內(nèi)首款高性能異構(gòu)計算基礎(chǔ)設(shè)施——FPGA云服務(wù)器的原因之一。
從全球看，亞馬遜等同行已經(jīng)使用FPGA在其公有云網(wǎng)絡(luò)中進行了諸多積極嘗試，可以看出，F(xiàn)PGA在云服務(wù)領(lǐng)域已經(jīng)勢不可擋。
后記
騰訊云FPGA聯(lián)合團隊還告訴雷鋒網(wǎng)，在騰訊云公眾號發(fā)布后的幾小時內(nèi)，他們收到了數(shù)百名開發(fā)者的試用申請以及一些大客戶的咨詢。雖然，F(xiàn)PGA云服務(wù)器對大多數(shù)企業(yè)來說，還是一個相對陌生的概念，但從主流云服務(wù)廠商陸續(xù)開放這一服務(wù)的趨勢來看，F(xiàn)PGA對數(shù)據(jù)中心將會越來越重要，而未來也會有更多的企業(yè)把業(yè)務(wù)部署在FPGA云服務(wù)器上。
