人工智能AI智能加速卡技術
一. 可編程AI加速卡
1. 概述:
這款可編程AI加速器卡具備 FPGA 加速的強大性能和多功能性,可部署AI加速器IP(WNN/GNN,直接加速卷積神經網絡,直接運行常見的網絡框架),為應用和加速器函數開發人員提供了完整的開發工具SDK,節省開發時間,支持在多個平台上重復使用代碼。憑借PCIe插槽外形、低功耗和被動式散熱器,可以部署在各種服務器上。采用Xilinx® Ultrascale® VU7P /VU9P FPGA 的多功能可編程加速卡,適用於許多細分領域,如大數據分析、人工智能、基因組學、視頻轉碼、網絡安全和金融交易等。
2. 應用場景
二. 編解碼加速卡
1. 概述
對於H.265/HEVC/VP9編解碼處理,FPGA編解碼加速卡方案有着最完善的功能和preset配置,支持最多的有利於提高畫質和降低bitrate的功能,適合各個場景下編解碼配置。同時具有靈活部署,易於升級的特點,可根據需求,隨時更換成其他協議的編解碼功能。非常容易的在同一塊FPGA上pipeline部署編解碼相關的上下游應用。成本方面,可以顯著降低帶寬成本、存儲成本。
2. 應用場景
三. 智能網卡
1. 概述:
智能網卡提供網絡、存儲、安全等方面的加速,這些功能從服務器CPU卸載到智能網卡上,能夠提升應用程序和虛擬化性能,確保為應用提供最大的處理能力。與此同時,網卡提供異構互聯支持,支持不同類型的服務器,也支持不同的運行模式,包括VM、Container或者Bare Metal等,使得服務器部署更靈活,使用更方便。
2. 目的
卸載計算/存儲外的功能到網卡上,使得服務器更加專注於計算,更加高效。
● 算法:提供智能分析,智能識別等功能;
● 網絡:提供網絡轉發功能加速,例如QoS,NAT,OVS等;
● 存儲:提供存儲管理功能加速,例如Dedupe,NVMe等;
● 安全:提供安全輔助功能,包括加解密、深度報文檢測等。
3. 好處
● 低成本:節省服務器CPU資源用於計算,降低TCO;
● 低時延:FPGA網卡處理報文轉發,高並發,低時延;
● 易擴展:基於網卡的支持,服務器規模可擴展性更好;
● 異構支持:智能網卡兼容支持不同類型的服務器,不同運行模式;
● 縮短TTM:利用現成的智能網卡,縮短業務TTM時間。
4. 使用場景
● 雲計算:卸載網絡及存儲管理功能,提高服務器計算速度。
● CDN:卸載網絡,數據智能化分析處理。
● 數據檢索:提高數據檢索性能,包括特征提取、算法匹配、結果分析等;
● 數據挖掘:提高數據深度學習能力,尤其在邊緣側完成算法分析,可以有效縮短時延,減少交互帶寬。
● 安防:提供安全輔助功能,包括加解密、深度報文檢測等。
● 圖像視頻分析:基於FPGA實現AI算法,提高處理速度。包括圖像視頻編解碼、人臉識別等。
● 存儲管理:分布式存儲管理,以及協議轉換,支持RoCE、iWARP、NVMe over Fabric, etc.