原文:Spark on K8S 在有赞的实践

作者:胡加华 amp 冯明潇 部门:数据中台 一 前言 随着近几年业务快速发展与迭代,大数据的成本也水涨船高,如何优化成本,建设低成本高效率的底层服务成为了有赞数据基础平台 年的主旋律。本文主要介绍了随着云原生时代的到来,经历 年发展的有赞离线计算平台如何拥抱云原生,通过容器化改造 弹性伸缩 大数据组件的错峰混部,做到业务成倍增长的情况下成本负增长。 首先介绍一下目前有赞离线计算的一些现状。 万兆 ...

2021-09-22 23:26 0 200 推荐指数:

查看详情

Druid在有实践

转载一篇自己在公司博客上的文章 一、Druid介绍 Druid 是 MetaMarket 公司研发,专为海量数据集上的做高性能 OLAP (OnLine Analysis Processing)而 ...

Tue Jan 22 07:39:00 CST 2019 0 1796
Spark on K8S - Operator

Operator,现在是由 Google 开发的 这个 Operator 使用的 Spark on K8S 方案和 ...

Mon Jan 10 05:20:00 CST 2022 1 2431
k8s部署spark

1.镜像构建打包推送阿里镜像: DockerFile构建: 推送镜像到阿里云 打包镜像相关文件地址:链接:https://pan.baidu.com/s/1OoBuEVcCNjsYZKqBTCMWaw 提取码:ct16 2.k8s 构建spark ...

Sat Jun 19 01:18:00 CST 2021 0 279
Spark on K8S(Standalone)

目录 Spark on K8S 的几种模式 Start Minikube Download Spark Build Spark Image 启动集群 提交 Job Log Spark on K8S 的几种模式 ...

Tue Jul 28 09:33:00 CST 2020 0 867
Spark on K8S (Kubernetes Native)

目录 Spark on K8S 的几种模式 Start Minikube Spark on K8S 官网 Download Spark Build Spark Image 在宿主机提交 Job 在容器里提交 Job Spark ...

Tue Jul 14 10:11:00 CST 2020 0 5771
Spark on K8S环境部署细节

Spark on K8S环境部署细节 spark k8s time: 2020-1-3 Spark on K8S环境部署细节 Spark operator安装 准备kubectl ...

Thu Feb 06 17:20:00 CST 2020 2 6574
Spark on K8S (Kubernetes Native)

Spark on K8S 的几种模式 Standalone:在 K8S 启动一个长期运行的集群,所有 Job 都通过 spark-submit 向这个集群提交 Kubernetes Native:通过 spark-submit 直接向 K8S 的 API Server 提交,申请到资源 ...

Wed Jul 28 17:35:00 CST 2021 0 139
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM