從Vivado到Vitis


https://baijiahao.baidu.com/s?id=1652136993920075903&wfr=spider&for=pc

 

12月3日,賽靈思在北京召開2019賽靈思開發者大會(2019XDF)亞洲站,賽靈思總裁兼CEO Victor Peng及相關高管分享了公司啟動“三大戰略”,推動公司“轉型”一年多來所取得的重大成就。同時,還首度面向亞洲市場正式介紹了最新的Vitis 統一軟件平台 ( 10月初在XDF 美國站首次發布),並推出了針對AI和機器學習推理的統一軟件平台——Vitis AI。此外,來自阿里巴巴、百度、浪潮及中泰證券的重量級嘉賓也登台分享了與賽靈思的合作成果。

三大戰略初見成效

“賽靈思已經不再是一家FPGA的企業,我們已經轉型為一家面向靈活應變、萬物智能世界的平台公司,而且我們這個轉型也要超越FPGA這個器件來打造整個平台,因為這將使得我們能夠更好的滿足客戶的需求,尤其是在當今這個高速變化時代。”賽靈思全球總裁兼CEO Victor Peng在去年的2018賽靈思開發者大會(XDF)上說到。

去年3 月,上任伊始的賽靈思全球總裁兼CEO Victor Peng 在與中國媒體的首次見面會上,重申公司數年來一直在推進的從器件公司向平台公司轉型的戰略,提出打造靈活應變,萬物智能世界的願景和未來發展三大戰略:數據中心有先,加速核心市場發展和驅動自適應計算技術。2018 年10 月XDF2018 賽靈思開發者大會上,Victor 宣布首款自適應計算加速平台Versal ACAP 面世。同期面對數據中心優先戰略推出計算加速平台Alveo 加速卡,同Victor Peng還提出了數據中心優先、從硬件產品上將公司轉型之路推向快速道。

那么直至今日,賽靈思的三大戰略取得了哪些進展,平台轉型戰略又有哪些推進呢?

1、數據中心優先:三季度實現92%增長

隨着人工智能、物聯網技術的發展,數據呈爆炸式的增長,這也直接推動了數據中心市場的高速成長。而在數據中心計算單元當中,雖然目前CPU仍占據主導地位,GPU也占據了很大一塊的AI訓練市場。但是,隨着摩爾定律的推進越來越遲緩,CPU/GPU的迭代越來越慢,爆炸式增長的數據也給數據中心帶來了更大的壓力。

▲賽靈思總裁兼CEO Victor Peng

賽靈思總裁兼CEO Victor Peng表示,這是因為傳統架構對於現在的任務應用已經應付不了,行業亟需架構的創新,而更具靈活性、自適應性更強、支持軟件定義的FPGA則將成為繼續推動數據中心創新的強大動力。

作為賽靈思在數據中心領域的重要合作伙伴,浪潮集團高級副總裁彭震也表示:“FPGA過去在整個IT的生命周期里面,更多是一個階段性的工具,但是雲計算和AI改變了整個IT的發展趨勢,通過軟件去定義硬件架構的可定制計算,變成了一個非常大的發展潮流。在此背景之下,硬件重構加軟件定義,成為了浪潮對未來IT技術架構的一種構想。隨着全新的IT架構變遷,可編程、可定制已經變成了整個IT生命周期一個長期持續化的事情。我們可以看到,包括中國的互聯網,包括北美領先的互聯網公司里面,FPGA將會成為IT技術架構里面一個非常重要的不可缺少的重要構成部分。”

▲浪潮集團高級副總裁彭震

根據Semico Research的數據顯示,全球市場數據中心加速器市場預計將從2018年的28.4億美元增長到2023年的211.9億美元,年復合增長率(CAGR)為49.47% 。預測期內,FPGA預計將是年復合增長率最高的細分市場,該增長將由企業級工作負載加速應用對FPGA越來越多的采用而驅動。

那么在數據中心對於FPGA需求保持高速增長、賽靈思去年就提出數據中心優先戰略的背景之下,賽靈思的數據中心業務又表現如何呢?

根據Victor Peng公布的信息顯示,在截至今年9月底的最新一個季度,賽靈思的數據中心業務同比增長了24%,季度增長了92%。與此同時,賽靈思在數據中心領域的生態系統也發展的非常的快,主要的OEM像浪潮、戴爾、HP都推出了基於賽靈思Alveo加速卡的服務器,業界領先的經銷商Clolfax、Ingram也都加入了Alveo生態系統。當然,對於生態系統來說,光有硬件廠商還不夠,還需要更為豐富的軟件應用廠商的助力。

據介紹,目前,基於賽靈思數據中心生態的企業與學術單位已經有7517家,有834個加速器項目在進行當中,已發布的應用也已超過了95個,這些應用涵蓋了AI、視頻轉碼、數據分析、金融、生命科學等眾多領域。

作為賽靈思在數據中心領域的重要合作伙伴,浪潮通過硬件重構加軟件定義業務模式的創新,在數據中心市場保持了高速成長。據浪潮集團高級副總裁彭震介紹,在過去五年里,浪潮服務器的年平均增長率達到了60%以上。而根據最新的統計數據顯示,浪潮在中國服務器的市場的占有率已達32.9%,排名第一,特別是在國內的互聯網市場,市占率更是超過了50%。在全球服務器市場,浪潮的市占率也進入了全球前三,並且增速保持第一。此外,浪潮AI服務器在中國市場市占率也超過了50%。

“我們和賽靈思一起做了很多的創新,比如F37X,它是面向低延遲的各種AI加速運用;N10X是面向數據中心的智能網卡,用於數據中心的網絡加速,以及多個中心之間流速的定定義,是面向軟件定義網絡的一款產品;在視頻方面AI加速卡,F07V是面向FaaS服務這樣的total solution產品。實際上FaaS已經變成了雲服務提供商標標准的服務,也標志着FPGA變成了IT基礎架構里面一個非常通用的標准化服務。此外,我們還和賽靈思一起也面向大的客戶開展定制化的產品,面向無人駕駛,智慧醫療、智慧金融等,圍繞客戶定義差異化產品。這些差異化產品,隨着這些產品廣泛應用,我們也會帶到通用產品里面來。FPGA定義人工智能、定義存儲、定義網絡,提供標准化的FPGA異構計算,我相信在未來硬件重構加軟件定義的大浪潮里面,浪潮和賽靈思可以為大家提供越來越多的領先產品和全新架構,為大家的業務創新帶來巨大的變遷。”彭震非常興奮的說到。

除了與浪潮之間的合作之外,賽靈思還分享了與生命科學公司illumina、視頻雲處理廠商Aupera(賽靈思有投資)的合作案例。Victor Peng稱,通過與賽靈思的合作,illumina在因組分析應用上提速了90倍,Aupera的每單元每瓦特的性能上升了33倍。此外,存儲加速領域,賽靈思也與IBM、美光、三星都開展了合作,從而可以實現數據在最近的區域進行處理。在智能網卡SmartNIC領域,對於雙插槽DC服務器來說,使用基於賽靈思的智能網卡,數據吞吐量加快了3-6倍,CPU利用率提高了1.5倍。

在賽靈思執行副總裁、數據中心總經理Salil Raje看來,賽靈思的數據中心優先戰略當中,包含了三個細分層面:一是計算,二是網絡,三是存儲。這三個方面的市場增長都非常的快。賽靈思在這三個方面都有着深度的布局,除了前面提到的FPGA加速卡之外,在網絡方面,賽靈思還有SmartNIC產品,會在網絡數據流入過程當中可同時進行處理;在計算存儲方面,數據通常是會從SSD和CPU之間來回轉移,如果采用賽靈思的解決方案可以很好的實現計算存儲能力的一個聚集,不用在SSD和CPU之間來回轉移。

▲賽靈思執行副總裁、數據中心總經理Salil Raje

Salil Raje認為:“在軟件定義人工智能、定義存儲、定義網絡的趨勢之下,分布式自適應計算將成為數據中心的未來。它將使得數據中心大幅提升數據集的利用率、提升性能、減少能耗、降低時延,同時還能夠大幅降低總體擁有成本(TCO)。更重要的是,無需更新芯片即可實現定制化和快速創新。”

2、加速核心市場發展

除了作為優先發展的數據中心業務之外,賽靈思的產品也在工業與視覺、醫療與科學、有線/無線通信、測試測量與仿真、專業A/V與廣播、汽車、消費電子等領域有着廣泛的應用。在當天的會議上,賽靈思也着重介紹了其在汽車、有線/無線通信領域的發展成果。

①汽車領域

眾所周知,在汽車領域,特別是在ADAS/自動駕駛方面,對於數據處理的性能和低延時要求非常的高,另外由於算法的持續更新和優化,對於軟硬件的持續可升級性也提出了新的要求,而在這方面FPGA有着很大的優勢。

據賽靈思介紹,在過去十多年來,賽靈思已經在汽車領域的器件出貨已經超過了1.7億片,其中 ADAS領域就有6700萬片。僅2018年,賽靈思在汽車領域已經擁有29個合作品牌,相關器件也被應用到了111款車型上。

賽靈思汽車戰略與客戶市場營銷總監Dan Isaacs表示:“我們的產品質量和可靠性是同類產品中最好的,產品的PPM值很低,並且還在不斷降低。我們已擁有200家ADAS和自動駕駛客戶群,包括全球主要的一級、原始設備制造商和初創企業。賽靈思是ADAS和自動駕駛的首選芯片供應商,因為我們的產品已經從邊緣傳感器擴展到具有通用架構的域控制器。比如最近發布的ZU7和ZU11 Zynq UtraScale+系列產品完全符合汽車安全、質量和可靠性要求。可滿足客戶從L2到L4自動駕駛對數據聚合、預處理和傳感器數據分發處理的需求。”

▲賽靈思汽車戰略與客戶市場營銷總監Dan Isaacs

可以看到,目前在汽車領域,百度Apollo、比亞迪、戴姆勒、Magna(麥格納)、采埃孚(ZF)和小馬智行都是賽靈思的合作伙伴。其中,小馬智行就利用了賽靈思的自適應產品與汽車上的傳感器進行融合,改進他們的響應以及安全性,獲得了非常好的性能表現,延遲性也非常低。

②通信領域

談到通信領域,我們就不得不提及當下非常火熱的5G。而推動5G部署的推動力則是由於網絡上數據的爆炸式增長,運營商和用戶都希望盡量降低每GB數據傳輸的價格。

那么,為什么5G能夠在提升網絡傳輸速度的同時,降低每GB流量的成本呢?一方面,是提高了頻譜的頻率,獲得更大的帶寬,從而使得傳遞數據的速率提高;另一方面則是Massive MIMO技術,使用64/128/256個天線,可以更有效的利用分配的頻段,提升數據收發頻率。

不過,我們也可以看到,5G的頻譜的復雜性非常的高,從低頻的1GHz以下,到中頻的1-6GHz,再到高頻的24GHz以上,頻段跨度很大;另外 mMIMO大規模天線陣列(AAU部分)增加了無線電管理的復雜性。而賽靈思產品的優勢就是在這方面,其已被應用5G通信的各個領域。

▲賽靈思執行副總裁、有線無線事業部事業部總經理Liam Madden

首先,在射頻方面,據賽靈思執行副總裁、有線無線事業部事業部總經理Liam Madden介紹,早在2012年時候,賽靈思就開始考慮將RF整合到自己產品當中,2017年賽靈思推出了第一代RFSoC產品進入市場,在數據前端等眾多領域使用,2018年賽靈思又推出了首款整合了5G射頻的RFSoC。目前,很多基於賽靈思Zynq US+ RFSoC的5G無線小基站正在部署當中。

其次,在7nm的5G數字前端方面,FPGA也是應用很多,不過如果采用賽靈思全新的ACAP架構可以實現16T/16R,相比傳統的FPGA可實現帶寬增長一倍,同時功耗降低40%。

第三,借助於賽靈思的波束成形(Beamforming)技術可以實現頻譜的復用,而這其中,如果采用賽靈思的具備 AI 引擎陣列的 Versal 器件,則可以實現4倍於傳統FPGA的5G矢量計算量。

第四,在虛擬的電信BUU加速卡方面,Liam Madden表示,一台配備賽靈思加速卡的服務器,可以替代10台英特爾至強商用服務器。

另外,在核心網方面,賽靈思也具有很大的優勢。去年賽靈思就展示了58G PAM4 解決方案以及業界首款 112G PAM4 演示。

Liam Madden表示,賽靈思的產品可幫助運營商實現端到端的通信基礎設施的升級。此外,Liam Madden強調,除了性能之外,賽靈思產品的穩定性和可靠性也是非常好的。另外,安全方面也一項關鍵的優勢,很多保密數據進行輸送的時候,可以既保證加速又保證安全。

3、雙管齊下,驅動靈活應變的計算

①從FPGA到ACAP

雖然FPGA擁有很多的優勢,但是不可否認的是,FPGA的基本單元的計算能力是有限的。為了實現自適應的特性,FPGA內部有大量極細粒度的基本單元,但是每個單元的計算能力(主要依靠LUT查找表)都遠遠低於CPU和GPU中的ALU模塊。另外,在計算的效率和功耗上FPGA也要低於ASIC。

隨着越來越多的應用趨向於既具高速處理又兼具靈活性的系統,FPGA廠商為了彌補單純采用FPGA的缺陷,開始推出整合了CPU/GPU/RF/FPGA的異構SoC的融合性方案。比如賽靈思此前就曾推出了多處理器SoC(MPSoC,在FPGA上整合了Arm的CPU內核,還有Mali系列的GPU等)、RFSoC(將通信級RF采樣數據轉換器、SD-FEC內核、Arm處理器以及 FPGA 架構整合到單芯片器件中)。而為了能夠幫助更多的用戶和開發者提供更為強大的計算平台。

在去年的2018XDF大會上,賽靈思正式發布了全球首款自適應計算加速平台 (Adaptive Compute Acceleration Platform ,ACAP)芯片系列Versal,這是賽靈思在發明FPGA之后的,對於自適應計算的又一次巨大的推動,因為其不再是FPGA類產品,而是一個具有自適應計算能力的全新架構的硬件平台,針對雲端、網絡、無線通信乃至邊緣計算和端點等不同市場的眾多應用提供了豐富的可擴展性和 AI 推理功能。

據Victor Peng介紹,擁有360億晶體管的7nm Versal ACAP目前已經向客戶及合作伙伴發貨。同時賽靈思現在也推出了新的基於Versal的PCIe通用開發板,可以讓開發者以10倍的速度開始構建和加速應用。

“展望未來,只要我們的新型芯片開始出樣,我們很快就能提供開發板,而一旦我們的芯片開始量產,那么量產芯片也就會馬上提供給客戶。但是我們做的不僅僅是硬件創新, 要擁有一個完整的平台,我們也需要軟件上的創新。”Victor Peng說到。

②從Vivado到Vitis

經過多年的開發,2012年賽靈思就推出了針對其FGPA產品的開發套件Vivado,徹底完善了開發堆棧的基礎。隨着賽靈思的芯片架構的每一代的進展,Vivado也在不斷增加了新的功能,比如針對嵌入式開發人員的SDSoC,為數據中心部署而開發的SDAccel,隨后又增了一個加速AI推斷的工具包,隨着功能的不斷的完善,Vivado也越來越成為了一個平台型產品。不過其主要針對的還是硬件,開發人員也需要具備較強的FPGA硬件開發能力,因為涉及到硬件的設計和模擬。但是這類人員卻相對較少,門檻高,薪資成本也高,相比之下軟件開發人員則有上百萬之多。顯然,如果能夠降低開發門檻,使得更多的軟件開發人員能夠參與進來,這無疑將極大豐富賽靈思的應用生態。

賽靈思執行副總裁兼數據中心事業部總經理Salil Raje也認為,計算行業正在經歷着三大變化的趨勢,趨勢之一就是從標准轉向了異構計算架構,第二個趨勢是我們的計算和應用開始從雲端向邊緣遷移,第三個趨勢是AI的無處不在。而這三大趨勢也給開發者帶來了非常大的挑戰。所以我們確實需要一個獨特、全面的開發環境來滿足所有的挑戰,同時降低開發的門檻。

2019年10月,賽靈思正式發布了統一開發軟件平台Vitis,並在Github上免費提供了賽靈思運行時庫的源代碼。Vitis平台無需用戶深入掌握硬件專業知識,即可根據軟件或算法代碼自動適配和使用賽靈思的硬件架構。此外,Vitis平台不限制使用專有開發環境,而是可以插入到通用的軟件開發工具中,並利用豐富的優化過的開源庫,使開發者能夠專注於算法的開發。

具體來說,Vitis提供了一個全面的開發平台來構建、運行和分析應用。所有的這些開發都是在Vitis這個平台上進行的,一個平台是一個固定的提前配置好的系統,包括I/O和存儲,有API和軟件,要建立一個應用,Vitis提供了每一個不同異構的賽靈思器件的編輯器,有Vitis的HLS使用C/C++和RTL的編碼,而且Arm編譯器也可以采用C/C++代碼映射到處理子系統。然后,系統編譯器將這些單獨的代碼塊鏈接在一起,並創建所有互連以優化它們之間的數據移動。將X86的工具鏈用於PCIE為基礎的系統。同時,它還整合了AI引擎的編輯器在Versal的設備上。

對於Vitis和Vivado之間的區別,Salil Raje解釋稱,Vitis實際上是主要針對軟件,它把雲、邊緣、端點全部集合在一起,通過Vitis,開發人員能夠在賽靈思的Zynq SoCial、超大規模FPGA、Alveo開發板和數據中心構建和部署他們的加速應用。而Vivado主要是針對的是硬件。Vitis是獨立於 Vivado設計套件之外的統一軟件平台。對於開發者來說,其仍然可以繼續通過Vivado使用硬件代碼進行編程,但是也能通過Vitis將硬件模塊封裝成軟件可調用的函數,從而提高硬件開發者的工作效率。

Vitis AI正式發布

眾所周知,對於AI計算來說,通用型的CPU並不是最佳的載體,同樣GPU雖然目前被大量應用於深度學習領域,但是相比針對特定AI算法定制的ASIC及半定制的FPGA來說,其在能效上仍有着較大的差距。但是,設計一款ASIC芯片到量產至少需要1年半的時間,而算法模型更新卻非常的頻繁,幾個月就會更新一次。數據顯示,自2012年以來,AI算法模型平均每3個月就會出現一次大的變化,數值精度、能效上的可選擇性也越來越多,同時隨着AI的應用場景快速發展演進,新的解決方案都要去應對在高性能、靈活和上市時間等方面的不同需求。這也意味着,如果我們根據現在最新的AI算法模型來設計一款ASIC芯片,等到商用之時,其固化的算法模型可能就已經落后,雖然可以工作,但是性能、效率、適應性上可能已經是大打折扣。顯然,在此背景之下,更具靈活性的、可編程的FPGA,以及靈活多變的自適應計算平台ACAP,顯然在AI計算上更具優勢。

不過,正如前面所提到的,未來異構計算和邊緣計算是大勢所趨,所以我們不僅需要充分發揮異構系統中的每一個計算單元的AI能力,同時也需要加速AI在雲、邊、端側的部署。而賽靈思Vitis AI的推出則很好的解決了這兩個問題。

據介紹,Vitis AI集成了特定領域架構(DSA)、開發套件、AI模型等,這些都是由賽靈思收購的深鑒開發的。

▲賽靈思軟件與 AI 產品市場營銷副總裁Ramine Roane

最底層的DSA提供了針對AI模型的硬件實現,可以高效在FPGA上運行不同的AI處理器,比如CNN DPU、LSTM DPU、MLP DPU等。賽靈思軟件與 AI 產品市場營銷副總裁Ramine Roane告訴芯智訊,“今年我們焦點放在CNN,以后會有不同DPU的處理器。”開發者可以使用包括 TensorFlow 和 Caffe 等業界領先框架對DSA進行配置與編程。

Vitis AI 提供的工具鏈能在數分鍾內完成優化、量化和編譯操作,在賽靈思器件上高效地運行預先訓練好的AI模型。此外,它也為從邊緣到雲端的部署提供了專用 API,實現業界一流的推斷性能與效率。

此外,賽靈思很快還將推出另一個 DSA(Vitis Video),支持從 FFmpeg 直接進行編碼並提供同樣超級簡單且功能極強大的端到端視頻解決方案。由合作伙伴公司提供的 DSA 包括:與GATK 集成用於基因分析的illumina,與ElasticSearch集成用於大數據分析的BlackLynx,以及當前賽靈思客戶正在使用的專有DSA。

Vitis AI還提供了經過優化AI模型,包括對於行人的檢測、動作捕捉、物體或目標識別、人臉識別、車道線識別等50多個模型,這些都是可以高效在FPGA上運行的模型,所有這些也都是深鑒開源提供的。

特別值得一提的是,Vitis AI還提供了多個通用庫和特定領域庫,400多種性能優化的開源的開箱即用的AI加速功能。借助這些庫和開源功能,軟件開發者可以使用標准的應用編程接口(API)來實現硬件的AI加速。

作為Vitis平台的重要組成部分,Vitis AI在兩周之前才開始小范圍內提供下載,直到12月3日的2019XDF大會上,賽靈思才正式宣布Vitis AI全面開放下載。

總結來說,Vitis AI就是一款類似英特爾OpenVINO的AI工具包,其可以幫助AI開發人員,使用他們選擇的語言,比如C++進行開發,也可以使用相關的架構和庫進行開發,實現AI算法的一次開發,就能夠輕松部署到賽靈思所有硬件平台上。無需再像過往那樣需要根據不同的硬件平台進行重復的開發和部署。另據芯智訊了解,Vitis AI也將會保持每季度一更新的頻率,持續進行優化。

從傳統硬件公司轉型軟件平台公司

作為一家傳統的半導體硬件公司,Vitis及Vitis AI平台可以說是賽靈思有史以來在軟件領域投入最大的項目,據介紹,Vitis歷經五年,投入總計1000個人工/年打造而成。而隨着Vitis及Vitis AI平台的推出,賽靈思開始逐漸轉型為軟件平台公司。正如文章前面所指出的,通過軟件去定義硬件架構的可定制計算,已經變成了一個趨勢,而賽靈思的轉型也正是順應了這一趨勢。同時,開源也成為了賽靈思轉型軟件平台公司的戰略核心。

其實早在2007年的時候,賽靈思就開始成為了開源領域的貢獻者。除了開源的Vitis和Vitis AI之外,賽靈思目前還參與了多個開源項目。

另外,賽靈思還推出了Developer.xilinx.com網站,主要將Vitis相關專家和相關的開發人員建立起聯系,這也是賽靈思轉型戰略的一部分。兩個星期前推出網站的時候,網站有30多篇文章,現在達到了50多篇,這些文章來自於不同領域的開發人員的專家,在編寫應用程序當中所提供的一些經驗,涵蓋汽車行業、智慧城市等領域。

“我們正在進行戰略轉型,從傳統硬件公司轉型成為軟件平台公司。我們理念就是擁抱開源,提供免費工具貢獻給大家,包括Vitis和Vitis AI都是免費開源對外開放的。開發人員可以進入到庫中獲取他們想要的,根據他們的需求進行一些調試、修改和應用。這些開發人員不一定非得有所貢獻才能拿,當然我們也歡迎所有的開發人員來給我們做貢獻。” 賽靈思軟件與 AI 產品市場營銷副總裁Ramine Roane說到。

編輯:芯智訊-浪客劍


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM