Hbase的安装以及相对于redis的对比介绍

男娘i 2023-02-24 08:57 33阅读 0赞

### 简介: ###

分布式的、面向列的开源数据库,一个结构化数据的[分布式存储系统][Link 1]”。HBase在Hadoop之上提供了类似于Bigtable的能力。HBase不同于一般的关系数据库，它是一个适合于非结构化数据存储的数据库(nosql)。另一个不同的是HBase基于列的而不是基于行的模式。

**安装前需要事先搭建好zookeeper集群以及hadoop集群**

hadoop:[https://blog.csdn.net/qq\_41594146/article/details/107194140][https_blog.csdn.net_qq_41594146_article_details_107194140]

zookeeper:[https://blog.csdn.net/qq\_41594146/article/details/100153434][https_blog.csdn.net_qq_41594146_article_details_100153434]

### 首先解压下载的安装包 ###

tar -zxvf hbase-1.3.1-bin.tar.gz -C /opt/module

###  修改HBase对应的配置文件。 ###

**1）hbase-env.sh修改内容：**

export JAVA_HOME=/opt/module/jdk1.8.0_144
    
    export HBASE_MANAGES_ZK=false
    
    JDK1.8需要注释
    
    #export HBASE_MASTER_OPTS。。。。
    
    #export HBASE_REGIONSERVER_OPTS。。。

**2）hbase-site.xml修改内容：**

<configuration>
        <property>   
            <name>hbase.rootdir</name>     #本机的主机名和ip 可以自行修改
            <value>hdfs://hadoop102:9000/hbase</value> </property>
        <property> 
            <name>hbase.cluster.distributed</name>
            <value>true</value>
        </property>   
        
        <property>
            <name>hbase.master.port</name>
            <value>16000</value>
        </property>
        <property> 
            <name>hbase.zookeeper.quorum</name>#zookeeper集群地址      
            <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
        </property>
        <property> 
            <name>hbase.zookeeper.property.dataDir</name>     
            <value>/opt/module/zookeeper-3.4.10/zkData</value>
        </property>
    </configuration>

**3）regionservers：**

#hadoop的集群ip
    hadoop102
    hadoop103
    hadoop104

** 4）软连接hadoop配置文件到hbase：**

ln -s /opt/module/hadoop-2.7.2/etc/hadoop/core-site.xml  /opt/module/hbase/conf/core-site.xml

ln -s /opt/module/hadoop-2.7.2/etc/hadoop/hdfs-site.xml  /opt/module/hbase/conf/hdfs-site.xml

## **HBase远程发送到其他集群** ##

xsync hbase/

如果没有这个指令 可以用scp代替  就是把刚刚修改好配置文件的hbase文件夹复制到其余的集群机器上去

scp -P ssh端口  ./hbase  root@ip:复制的路径

## **HBase服务的启动** ##

**启动方式1:**

bin/hbase-daemon.sh start master
    bin/hbase-daemon.sh start regionserver

提示：如果集群之间的节点时间不同步，会导致regionserver无法启动，抛出ClockOutOfSyncException异常。请将服务器的时间同步

**启动方式2**

bin/start-hbase.sh

停止

bin/stop-hbase.sh

启动成功后，可以通过“host:port”的方式来访问HBase管理页面，例如：

http://服务器ip:16010

# **HBase Shell操作** #

1．进入HBase客户端命令行

**bin/hbase shell**

2．查看帮助命令

**hbase(main):001:0> help**

3．查看当前数据库中有哪些表

**hbase(main):002:0> list**

### 表的操作 ###

**1．创建表**

hbase(main):002:0> create 'student','info'

**2．插入数据到表**

hbase(main):003:0> put 'student','1001','info:sex','male'

hbase(main):004:0> put 'student','1001','info:age','18'

hbase(main):005:0> put 'student','1002','info:name','Janna'

hbase(main):006:0> put 'student','1002','info:sex','female'

hbase(main):007:0> put 'student','1002','info:age','20'

**3．扫描查看表数据**

hbase(main):008:0> scan 'student'

hbase(main):009:0> scan 'student',\{STARTROW => '1001', STOPROW  => '1001'\}

hbase(main):010:0> scan 'student',\{STARTROW => '1001'\}

**4．查看表结构**

hbase(main):011:0> describe 'student'

**5．更新指定字段的数据**

hbase(main):012:0> put 'student','1001','info:name','Nick'

hbase(main):013:0> put 'student','1001','info:age','100'

**6．查看“指定行”或“指定列族:列”的数据**

hbase(main):014:0> get 'student','1001'

hbase(main):015:0> get 'student','1001','info:name'

**7．统计表数据行数**

hbase(main):021:0> count 'student'

**8．删除数据**

删除某rowkey的全部数据：

hbase(main):016:0> deleteall 'student','1001'

删除某rowkey的某一列数据：

hbase(main):017:0> delete 'student','1002','info:sex'

**9．清空表数据**

hbase(main):018:0> truncate 'student'

提示：清空表的操作顺序为先disable，然后再truncate。

**10．删除表**

首先需要先让该表为disable状态：

hbase(main):019:0> disable 'student'

然后才能drop这个表：

hbase(main):020:0> drop 'student'

提示：如果直接drop表，会报错：ERROR: Table student is enabled. Disable it first.

**11．变更表信息**

将info列族中的数据存放3个版本：

hbase(main):022:0> alter 'student',\{NAME=>'info',VERSIONS=>3\}

hbase(main):022:0> get 'student','1001',\{COLUMN=>'info:name',VERSIONS=>3\}

# **HBase数据结构** #

### **RowKey** ###

与nosql数据库们一样,RowKey是用来检索记录的主键。访问HBASE table中的行，只有三种方式：

1.通过单个RowKey访问(get)

2.通过RowKey的range（正则）(like)

3.全表扫描(scan)

RowKey行键 (RowKey)可以是**任意字符串**(最大长度是64KB，实际应用中长度一般为 10-100bytes)，在HBASE内部，RowKey保存为字节数组。存储时，数据按照RowKey的字典序(byte order)排序存储。设计RowKey时，要充分排序存储这个特性，将经常一起读取的行存储放到一起。(位置相关性)

### **Column Family** ###

列族：HBASE表中的每个列，都归属于某个列族。列族是表的schema的一部 分(而列不是)，必须在使用表之前定义。列名都以列族作为前缀。例如 courses:history，courses:math都属于courses 这个列族。

### **Cell** ###

由\{rowkey, column Family:columu, version\} 唯一确定的单元。cell中的数据是没有类型的，全部是字节码形式存贮。

关键字：无类型、字节码

### **Time Stamp** ###

HBASE 中通过rowkey和columns确定的为一个存贮单元称为cell。每个 cell都保存 着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由HBASE(在数据写入时自动 )赋值，此时时间戳是精确到毫秒 的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版 本冲突，就必须自己生成具有唯一性的时间戳。每个 cell中，不同版本的数据按照时间倒序排序，即最新的数据排在最前面。

为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担，HBASE提供 了两种数据版本回收方式。一是保存数据的最后n个版本，二是保存最近一段 时间内的版本（比如最近七天）。用户可以针对每个列族进行设置。

### **命名空间** ###

命名空间的结构:

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxNTk0MTQ2_size_16_color_FFFFFF_t_70][]

**1) Table**：表，所有的表都是命名空间的成员，即表必属于某个命名空间，如果没有指定，则在default默认的命名空间中。

**2****) RegionServer**** ****group：**一个命名空间包含了默认的RegionServer Group。

**3) Permission：**权限，命名空间能够让我们来定义访问控制列表ACL（Access Control List）。例如，创建表，读取表，删除，更新等等操作。

**4) Quota：**限额，可以强制一个命名空间可包含的region的数量。

# 和redis对比优缺点 #

### 读写性能： ###

HBase写快读慢，HBase的读取时长通常是几毫秒，而Redis的读取时长通常是几十微秒。性能相差非常大。

### 数据类型： ###

HBase和Redis都支持KV类型。但是Redis支持List、Set等更丰富的类型。

数据结构有点类型于redis的hash结构 只是这个hash会在创建表的时候规定好hash的属性的前缀 可以这么理解,只是这个key呢 可以重复 不会覆盖数据 即便key和属性一致也不会 会根据时间戳的不同而生成不同的版本号数据

HBase表中有一个重要概念：版本，每个字段的值都有版本信息（通过时间戳指定）

每次修改时都会保留之前的值，就是说可以取到他的旧值

建表时，定义的是表名和列族(列族可以理解为属性的集合,属性的前缀定义)

列族中可以包含任意个字段，字段名不需要预定义，每一行中同一列族中的字段也可以不一致

多维结构，关系数据库的表是二维的，通过指行、列定位一个数据，HBase中需要通过 行健、列族名、字段名、版本号才能定位到具体数据

插入数据时，一次插入一个字段的数据，不是像关系数据库那样一次插入多个字段

### 数据量： ###

Redis支持的数据量通常受内存限制，而HBase没有这个限制，可以存储远超内存大小的数据。

### 部署难易： ###

HBase部署需要依赖hadoop、zookeeper等服务，而Redis的部署非常简单。

### 数据可靠性： ###

HBase采用WAL，先记录日志再写入数据，理论上不会丢失数据。而Redis采用的是异步复制数据，在failover时可能会丢失数据。

### 应用场景： ###

HBase适合做大数据的持久存储，而Redis比较适合做缓存。如果数据丢失是不能容忍的，那就用只能用HBase；如果需要一个高性能的环境，而且能够容忍一定的数据丢失，那完全可以考虑使用Redis。

### 两者的结合： ###

HBase可以用来做数据的固化，也就是数据存储，做这个他非常合适。Redis适合做cache。可以用HBase+Redis实现数据仓库加缓存数据库，速度和扩展性都兼顾。

### 如果对你有帮助,欢迎点赞和加关注 ###

## ##

[Link 1]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E5%AD%98%E5%82%A8%E7%B3%BB%E7%BB%9F/6608875
[https_blog.csdn.net_qq_41594146_article_details_107194140]: https://blog.csdn.net/qq_41594146/article/details/107194140
[https_blog.csdn.net_qq_41594146_article_details_100153434]: https://blog.csdn.net/qq_41594146/article/details/100153434
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxNTk0MTQ2_size_16_color_FFFFFF_t_70]: /images/20230209/a439a17af3bb43a9abe66581f0900431.png