AWS Marketplace是全球規模最大最成功的公有雲生態產品和服務目錄,它使客戶能夠輕松查找、測試、部署和管理他們在AWS全球范圍內當前20個區域(AWS 中國包括北京和寧夏兩個區域)運行系統所需要的第三方軟件和服務。借助AWS Marketplace,客戶可以從這一應用軟件商店查找和比較軟件產品,並在登錄其AWS賬戶后,幾分鍾內快速部署和使用預配置的軟件產品。客戶可以在AWS Marketplace全球官方網站(https://aws.amazon.com/market...)或 AWS Marketplace 中國官方網站(https://awsmarketplace.amazon...)。
優優工場(YOYOWORKS)作為Amazon AWS全球和亞馬遜雲科技(中國)的官方合作伙伴,幫助客戶輕松實現的AI 計算雲原生的GPU虛擬化方案。XPU是優優工場(YOYOWORKS)推出的容器GPU虛擬化產品。XPU核心思想是將GPU在內核層進行切分,向上模擬出統一的XPU設備供容器使用,即多個容器共享一張GPU卡。XPU實現了一套框架能夠很好的屏蔽異構GPU和應用(TensorFlow,PyTorch等)之間的耦合,對GPU進行故障隔離,顯存隔離,算力隔離,從而實現業務的安全隔離,提高GPU硬件資源的利用率並降低使用成本。
XPU 雲原生AI平台解決方案,主要優勢如下:
XPU采用零侵入式架構設計,通過kernel module,services及container runtime為容器提供虛擬的GPU設備,在保證性能的前提下隔離顯存和算力,為充分利用GPU硬件資源進行訓練和推理提供有效保障。
高性能
- 采用本地使用GPU計算資源的架構,有天然的性能優勢,相比於物理GPU,性能損耗幾乎為零。
- 支持將GPU切片為任意大小的XPU,從而允許多AI負載並行運行,提高物理GPU利用率。
- 提高GPU綜合利用率多達3-10倍,1張卡相當於起到N張卡的效果,真正做到昂貴算力平民化。
安全性
- 完美支持GPU單卡和多卡的算力隔離,顯存隔離及故障隔離。
兼容性
- 零侵入設計: 最大的限度保證向后和向前兼容。用戶零開銷在 XPU 平台上運營現有AI應用,無縫兼容已有NGC等容器鏡像。
- 硬件兼容性: 完美支持包括NVIDIA Pascal及以后架構的系列 GPU(GeForce,Quadro/RTX,Tesla);支持裸金屬和虛擬環境,支持物理GPU和vGPU。
- 架構兼容性:依托實現在內核模塊層的通用接口能力,XPU 完美支持CUDA8.0 及以后所有版本的框架和應用。
- 生態兼容性:兼容業界標准的Kubernetes和NVIDIA Docker產品和方案。
AWS Marketplace 全球網站和AWS Marketplace中國網站是用戶使用 AWS 雲產品和服務的統一入口。 下面我一 AWS Marketplace 全球為例介紹用戶使用優優工場 XPU 產品和方法(AWS Marketplace中國的方法非常類似,請通過其訪問)AWS Marketplace官網支持英文關鍵詞搜索。以下我們就向您展示如何通過AWS Marketplace官方網站訂閱以及使用XPU。
第一步:通過AWS Marketplace官方網站搜索框,搜索“yoyoworks”或者“XPU”,點擊產品並選擇右側“Continue to Subscribe”XPU
下拉查看詳細信息:
第二步:進入下一頁閱讀相關內容,以及條款說明后,點擊“Continue to Configuration”按鈕。
第三步:點擊“Continue to Configuration”后進入產品配置軟件步驟,您可以按需選擇Delivery Method、Software Version、Region三個選項,然后點擊“Continue to Launch”按鈕
第四步:在您接受軟件相關條款確認訂閱並確定區域和軟件版本后,您進入“Launch this software”的界面,在此界面中您可以選擇通過網站或者Amazon Elastic Compute Cloud (Amazon EC2)控制台啟動Amazon系統映像(AMI)產品。“Launch from Website”選項使用軟件供應商推薦的軟件配置幫助客戶通過幾次點擊就可以快速啟動一個實例。如下圖所示,在軟件啟動頁面,您可以清楚看到“Launch from Website”選項。在您完成一些基本設置后,例如VPC、安全組、密鑰對和Amazon EC2實例類型,您就可以直接啟動軟件。
如果需要更多的配置選項,您仍可以選擇通過Amazon EC2控制台啟動產品。所有在AWS Marketplace上面的產品都已經經過質量和安全驗證並在 AWS基礎設施上預配置了快速啟動功能。
集中化軟件管理
此次官網上線,AWS Marketplace還配合推出了AWS Marketplace訂閱控制台以幫助您查看和管理所有您在AWS Marketplace上面的訂閱。在這個控制台中,您可以查看每個產品的Amazon EC2實例狀態,啟動一個新實例,或者取消您的軟件訂閱。要訪問這個控制台,您可以在登陸后,在網站的右上角您的用戶名的下拉菜單中選擇您的AWS Marketplace軟件選項,或者您可以在Amazon EC2控制台的左側查找服務中直接輸入AWS Marketplace。如下圖所示,AWS Marketplace訂閱控制台包含所有您訂閱過的產品列表,點擊每項產品,你還可以看到產品概述以及相關管理選項。例如,您可以查看某一個產品正在運行的所有實例信息。
消息來源:優優工場(YOYOWORKS)