高性能分布式计算与存储系统设计概要（上篇）
高性能分布式计算与存储系统设计概要（上篇） 2012年底，末日之后，看到大家都在写年末总结，我也忍不住想一试。工作已经3年半了，头一次写总结。虽然到现在仍是无名小码农一名，但工作这些年，技术着实有不少积累。成长最大的，当然就是这篇文章标题提到的——高性能分布式 ...
原文：你不知道的开源分布式存储系统 Alluxio 源码完整解析（上篇）
一 前言 目前数据湖已成为大数据领域的最新热门话题之一，而什么是数据湖，每家数据平台和云厂商都有自己的解读。整体来看，数据湖主要的能力优势是：集中式存储原始的 海量的 多来源的 多类型的数据，支持数据的快速加工及计算。相比于传统的数据仓库，数据湖对数据有更大的包容性，支持结构化 半结构化 非结构化数据，能快速进行数据的落地和数据价值发掘。数据湖的技术体系可以分为三个子领域：数据湖存储 数据湖计算 ...
2021-11-15 23:34 0 171 推荐指数：
相关推荐
GlusterFS分布式存储系统
GlusterFS分布式存储系统 一，分布式文件系统理论基础 1.1 分布式文件系统出现 计算机通过文件系统管理，存储数据，而现在数据信息爆炸的时代中人们可以获取的数据成指数倍的增长，单纯通过增加硬盘个数来扩展计算机文件系统的存储容量的方式 ...
分布式存储系统sheepdog
Sheepdog，是由NTT的3名日本研究员开发的开源项目，主要用来为虚拟机提供块设备。 其架构例如以下： 以下，我们将从架构、模块等几个方面来介绍下： 一、架构图 如上图： 採用无中心节点的全对称架构，无单点故障，存储容量和性能 ...
GlusterFS分布式存储系统
一，分布式文件系统理论基础 1.1 分布式文件系统出现 计算机通过文件系统管理，存储数据，而现在数据信息爆炸的时代中人们可以获取的数据成指数倍的增长，单纯通过增加硬盘个数来扩展计算机文件系统的存储容量的方式，已经不能满足目前的需求。 分布式文件系统可以有效解决数据的存储 ...
分布式存储系统简介
从以下三个方面对分布式存储系统进行简单介绍： 1.首先，什么是分布式存储系统呢？ 简单的说，就是将文件存储到多个服务器中。 2.其次，为什么需要分布式存储系统？ 因为单机存储资源和计算资源已经不能满足用户的需求。 3.最后，如何实现一个分布式存储系统或者说实现一个分布式存储系统需要 ...
分布式存储系统-HDFS
1 HDFS 架构 HDFS作为分布式文件管理系统，Hadoop的基础。HDFS整体架构包括：NameNode、DataNode、Secondary NameNode，如图： HDFS采用主从式的分布式架构。 Namenode:是主节点，负责存储文件的元数据，包括目录、文件、权限 ...
Etcd分布式存储系统
介绍 etcd是一款高性能的开源的分布式key-value分布式存储系统，可以用于配置共享和服务的注册与发现等功能。类似于zookeeper和consul。 etcd 诞生于 CoreOS 公司，它最初是用于解决集群管理系统中 OS 升级的分布式并发控制以及配置文件的存储与分发等问题 ...
分布式存储系统: GFS
目录 一. 简介 二. GFS 设计概要 1. 设计预期 2. GFS 架构 3. 单一 Master 节点 4. Chunk 尺寸 ...