资源利用率提高67%，腾讯实时风控平台云原生容器化之路
导语 随着部门在业务安全领域的不断拓展，围绕着验证码、金融广告等服务场景，腾讯水滴作为支撑业务安全对抗的实时风控系统，上线的任务实时性要求越来越高，需要支撑的业务请求量也随之增加。对于业务快速上线和资源快速扩缩容的需求，且公司自研上云项目往全面容器化上云方向推进，水滴风控平台开始进行自研上云 ...
原文：成本降低40%、资源利用率提高20%的 AI 应用产品云原生容器化之路
作者 郭云龙，腾讯云高级工程师，目前就职于 CSIG 云产品三部 AI 应用产品中心，现负责中心后台业务框架开发。 导语 为了满足 AI 能力在公有云 SaaS 场景下，服务和模型需要快速迭代交付的需求，保障服务在不稳定高并发时的高成功率，以及进一步提升资源利用率，AI 应用产品中心进行了一系列的调研与实践，本篇将重点介绍团队在容器化方面的实践经验。 背景和问题 公有云 AI SaaS 产品 如人 ...
2021-09-22 18:03 0 138 推荐指数：
相关推荐
云原生的弹性 AI 训练系列之三：借助弹性伸缩的 Jupyter Notebook，大幅提高 GPU 利用率
Jupyter Notebooks 在 Kubernetes 上部署往往需要绑定一张 GPU，而大多数时候 GPU 并没有被使用，因此利用率低下。为了解决这一问题，我们开源了 elastic-jupyter-operator，将占用 GPU 的 Kernel 组件单独部署，在长期空闲的情况下 ...
提高GPU利用率
如何提高GPU利用率（更新中） 核心宗旨：通过调整网络结构，batcsize大小，worker 数量，让数据读取的时间与网络前向传播和反向更新时间大致相同 一般的瓶颈就在 I/O 上面，因此可以预先把很多图片、特征等小文件存储到 LMDB 数据库，加快磁盘 I/O 速度，工具传送门 ...
利用动态资源分配优化Spark应用资源利用率
背景 在某地市开展项目的时候，发现数据采集，数据探索，预处理，数据统计，训练预测都需要很多资源，现场资源不够用。 目前该项目的资源3台旧的服务器，每台的资源 内存为128G，cores 为24 （core可暂时忽略，以下仅考虑内存即可） 。 案例分析 我们先对任务分别分析，然后分 ...
使用Elastic Job的分片配置加速任务执行和提高资源利用率
执行时候就一个实例在跑，资源利用率不高。 所以，接下来我们就来继续介绍，使用Elastic Job的 ...
linux运维、架构之路-k8s监控集群资源利用率
一、查看资源集群状态 1、集群整体状态 2、更多集群信息 3、查看资源信息 4、实时查看资源信息 一、Metrics Server介绍 Metrics Server是一个集群范围的资源使用情况的数据聚合器 ...
python多进程提高cpu利用率
cpu参数： 1个物理cpu，2个逻辑cpu(超线程)，单核 具体 http://blog.csdn.net/dba_waterbin/article/details/8644626 物理CPU ...
如何提高多线程程序的cpu利用率
正如大家所知道的那样，多核多cpu越来越普遍了，而且编写多线程程序也是件很简单的事情。在Windows下面，调用CreateThread函数一次就能够以你想要的函数地址新建一个子线程运行。然后，事情确实你发现创建多线程根本没有让程序快多少，也没有提高多少cpu利用率，甚至可能让cpu利用率下降 ...