免费搭建网站,前端设计模板,重庆手机网站推广价格,网页制作官方网站目录
一、HBase 定义
二、HBase 数据模型
2.1 HBase 逻辑结构
2.2 HBase 物理存储结构
2.3 数据模型
2.3.1 Name Space
2.3.2 Table
2.3.3 Row
2.3.4 Column
2.3.5 Time Stamp
2.3.6 Cell
三、HBase 基本架构
架构角色
3.1 Master
3.2 Region Server
3.3 Zo…目录
一、HBase 定义
二、HBase 数据模型
2.1 HBase 逻辑结构
2.2 HBase 物理存储结构
2.3 数据模型
2.3.1 Name Space
2.3.2 Table
2.3.3 Row
2.3.4 Column
2.3.5 Time Stamp
2.3.6 Cell
三、HBase 基本架构
架构角色
3.1 Master
3.2 Region Server
3.3 Zookeeper
3.4 HDFS 一、HBase 定义
Apache HBase™ 是 以 hdfs 为数据存储的 一种分布式、可扩展的 NoSQL 数据库。
二、HBase 数据模型 HBase 的设计理念依据 Google 的 BigTable 论文论文中对于数据模型的首句介绍 。Bigtable 是一个稀疏的 、 分布式的 、 持久的多维排序 map 。之后对于映射的解释如下该映射由行键、列键和 时间戳索引映射中的每个值都是一个未解释的字节数组。 最终 HBase 关于数据模型和 BigTable 的对应关系如下HBase 使用与 Bigtable 非常相似的数据模型。用户将数据行存储在带标签的表中。数据行具有可排序的键和任意数量的列。该表存储稀疏因此如果用户喜欢同一表中的行可以具有疯狂变化的列。 最终理解 HBase 数据模型的关键在于稀疏、分布式、多维、排序的映射。其中映射 map 指代非关系型数据库的 key-Value 结构。
2.1 HBase 逻辑结构
HBase 可以用于存储多种结构的数据以 JSON 为例存储的数据原貌为
{row_key1:{personal_info:{name:zhangsan,city:北京,phone:131********},office_info:{tel:010-111111,address:qq.com}},
{row_key11:{personal_info:{name:lisi,city:上海,phone:132********},office_info:{tel:010-222222,address:qq.com}},
{row_key11:{······
} 存储数据稀疏数据存储多维不同的行具有不同的列。数据存储整体有序按照 RowKey 的字典序排列RowKey 为 Byte 数组 2.2 HBase 物理存储结构
物理存储结构即为数据映射关系而在概念视图的空单元格底层实际根本不存储。
2.3 数据模型
2.3.1 Name Space 命名空间类似于关系型数据库的 database 概念每个命名空间下有多个表。HBase 两 个自带的命名空间分别是 hbase 和 defaulthbase 中存放的是 HBase 内置的表default 表是用户默认使用的命名空间。
2.3.2 Table 类似于关系型数据库的表概念。不同的是 HBase 定义表时只需要声明列族即可不需 要声明具体的列。 因为数据存储时稀疏的所有往 HBase 写入数据时字段可以动态、按需 指定 。因此和关系型数据库相比HBase 能够轻松应对字段变更的场景。
2.3.3 Row HBase 表中的每行数据都由一个 RowKey 和多个 Column 列组成数据是按照 RowKey 的字典顺序存储的并且查询数据时只能根据 RowKey 进行检索所以 RowKey 的设计十分重 要。
2.3.4 Column HBase 中的每个列都由 Column Family 列族和 Column Qualifier 列限定符进行限定例如 info:nameinfo:age 。建表时只需指明列族而列限定符无需预先定义。
2.3.5 Time Stamp 用于标识数据的不同版本version 每条数据写入时系统会自动为其加上该字段其值为写入 HBase 的时间。
2.3.6 Cell 由 {rowkey, column Family column Qualifier, timestamp} 唯一确定的单元。cell 中的数据全部是字节码形式存贮。
三、HBase 基本架构 Master主要进程具体实现类为 HMaster通常部署在 namenode 上。功能负责通过 ZK监控 RegionServer 进程状态同时是所有元数据变化的接口。内部启动监控执行 region 的故障转移和拆分的线程。RegionServer主要进程具体实现类为 HRegionServer部署在 datanode 上。功能主要负责数据 cell 的处理。同时在执行区域的拆分和合并的时候由 RegionServer 来实际执行。
架构角色
3.1 Master
实现类为 HMaster负责监控集群中所有的 RegionServer 实例。主要作用如下
管理元数据表格 hbase:meta接收用户对表格创建修改删除的命令并执行。监控 region 是否需要进行负载均衡故障转移和 region 的拆分。
通过启动多个后台线程监控实现上述功能
LoadBalancer 负载均衡器周期性监控 region 分布在 regionServer 上面是否均衡由参数 hbase.balancer.period 控制周期时间默认 5 分钟。CatalogJanitor 元数据管理器定期检查和清理 hbase:meta 中的数据。meta 表内容在进阶中介绍。MasterProcWAL master 预写日志处理器把 master 需要执行的任务记录到预写日志 WAL 中如果 master 宕机让 backupMaster 读取日志继续干。
3.2 Region Server
Region Server 实现类为 HRegionServer主要作用如下:
负责数据 cell 的处理例如写入数据 put查询数据 get 等。拆分合并 region 的实际执行者有 master 监控有 regionServer 执行。
3.3 Zookeeper HBase 通过 Zookeeper 来做 master 的高可用、记录 RegionServer 的部署信息、并且存储有 meta 表的位置信息。 HBase 对于数据的读写操作时直接访问 Zookeeper 的在 2.3 版本推出 Master Registry 模式客户端可以直接访问 master。使用此功能会加大对 master 的压力减轻对 Zookeeper 的压力。
3.4 HDFS
HDFS 为 Hbase 提供最终的底层数据存储服务同时为 HBase 提供高容错的支持。 下一篇文章HBase 高可用集群详细图文安装部署-CSDN博客
