資源利用率提高67%，騰訊實時風控平台雲原生容器化之路
導語 隨着部門在業務安全領域的不斷拓展，圍繞着驗證碼、金融廣告等服務場景，騰訊水滴作為支撐業務安全對抗的實時風控系統，上線的任務實時性要求越來越高，需要支撐的業務請求量也隨之增加。對於業務快速上線和資源快速擴縮容的需求，且公司自研上雲項目往全面容器化上雲方向推進，水滴風控平台開始進行自研上雲 ...
原文：成本降低40%、資源利用率提高20%的 AI 應用產品雲原生容器化之路
作者 郭雲龍，騰訊雲高級工程師，目前就職於 CSIG 雲產品三部 AI 應用產品中心，現負責中心后台業務框架開發。 導語 為了滿足 AI 能力在公有雲 SaaS 場景下，服務和模型需要快速迭代交付的需求，保障服務在不穩定高並發時的高成功率，以及進一步提升資源利用率，AI 應用產品中心進行了一系列的調研與實踐，本篇將重點介紹團隊在容器化方面的實踐經驗。 背景和問題 公有雲 AI SaaS 產品 如人 ...
2021-09-22 18:03 0 138 推薦指數：
相關推薦
雲原生的彈性 AI 訓練系列之三：借助彈性伸縮的 Jupyter Notebook，大幅提高 GPU 利用率
Jupyter Notebooks 在 Kubernetes 上部署往往需要綁定一張 GPU，而大多數時候 GPU 並沒有被使用，因此利用率低下。為了解決這一問題，我們開源了 elastic-jupyter-operator，將占用 GPU 的 Kernel 組件單獨部署，在長期空閑的情況下 ...
提高GPU利用率
如何提高GPU利用率（更新中） 核心宗旨：通過調整網絡結構，batcsize大小，worker 數量，讓數據讀取的時間與網絡前向傳播和反向更新時間大致相同 一般的瓶頸就在 I/O 上面，因此可以預先把很多圖片、特征等小文件存儲到 LMDB 數據庫，加快磁盤 I/O 速度，工具傳送門 ...
利用動態資源分配優化Spark應用資源利用率
背景 在某地市開展項目的時候，發現數據采集，數據探索，預處理，數據統計，訓練預測都需要很多資源，現場資源不夠用。 目前該項目的資源3台舊的服務器，每台的資源 內存為128G，cores 為24 （core可暫時忽略，以下僅考慮內存即可） 。 案例分析 我們先對任務分別分析，然后分 ...
使用Elastic Job的分片配置加速任務執行和提高資源利用率
執行時候就一個實例在跑，資源利用率不高。 所以，接下來我們就來繼續介紹，使用Elastic Job的 ...
linux運維、架構之路-k8s監控集群資源利用率
一、查看資源集群狀態 1、集群整體狀態 2、更多集群信息 3、查看資源信息 4、實時查看資源信息 一、Metrics Server介紹 Metrics Server是一個集群范圍的資源使用情況的數據聚合器 ...
python多進程提高cpu利用率
cpu參數： 1個物理cpu，2個邏輯cpu(超線程)，單核 具體 http://blog.csdn.net/dba_waterbin/article/details/8644626 物理CPU ...
如何提高多線程程序的cpu利用率
正如大家所知道的那樣，多核多cpu越來越普遍了，而且編寫多線程程序也是件很簡單的事情。在Windows下面，調用CreateThread函數一次就能夠以你想要的函數地址新建一個子線程運行。然后，事情確實你發現創建多線程根本沒有讓程序快多少，也沒有提高多少cpu利用率，甚至可能讓cpu利用率下降 ...