hdfs的异构存储

墨蓝 2024-03-25 20:15 203阅读 0赞

#### 文章目录 ####

*  1 背景
 *  2 hdfs异构存储类型和存储策略
 *   *  2.1 hdfs支持的存储类型
     *  2.2 hdfs如何知道数据存储目录是那种存储类型
     *  2.3 存储策略
     *   *  2.3.1 在hdfs中支持如下存储策略
         *  2.3.2 存储策略表
         *  2.3.4 Storage Policy Resolution
         *  2.3.5 配置存储策略
         *  2.3.6 基于存储策略的数据移动
         *  2.3.7 存储策略命令
         *   *  2.3.7.1 列出所有存储策略
             *  2.3.7.2 为文件或目录设置存储策略
             *  2.3.7.3 取消存储策略
             *  2.3.7.4 获取文件或目录的存储策略。
             *  2.3.7.5 查看文件块分布
 *  3 hdfs异构存储案例
 *   *  3.1 环境准备
     *  3.2 节点 hdfs-site.xml配置文件
     *   *  3.2.1 hadoop01
         *  3.2.2 hadoop02
         *  3.2.3 hadoop03
     *  3.3 重启hdfs集群，并看数据目录存储类型是否正确
     *  3.4 案例演示
 *  4 参考文档

## 1 背景 ##

在我们实际的开发过程中，我们的某些数据可能经常使用，但是过了一段时间，这个数据就不怎么使用了，即我们的数据存在一个`热`、`温`、`冷`等这些特性。那么针对`数据的热度`，我们可以采用不同的策略，存储到不同的存储介质上。  
**比如：**

1.  针对经常访问的数据，我们可以存储在`SSD`上。
2.  针对访问频率不高的，我们可以存储在`DISK`，即普通的硬盘上。
3.  针对几乎不会访问的数据，保存在归档介质上。

`注意：那么hdfs自己知道哪些数据是热数据，哪些数据是冷数据吗，貌似是不知道的，需要我们自己去判断`。

## 2 hdfs异构存储类型和存储策略 ##

### 2.1 hdfs支持的存储类型 ###

`hdfs`支持如下`4`中存储类型

*  `ARCHIVE：` 它具有`高存储密度`（PB级存储）但`计算能力弱`，一般用于归档文件的存储。
 *  `DISK ：` 普通磁盘，`默认的存储类型`
 *  `SSD ：` SSD固态硬盘
 *  `RAM_DISK：` 支持在`内存`中写入单个副本文件

![hdfs支持的存储类型][hdfs]

### 2.2 hdfs如何知道数据存储目录是那种存储类型 ###

`hdfs`是不会自动检测我们指定的数据存储目录是何种存储类型的，需要我们在配置的时候告诉`hdfs`。

`指定目录的存储类型`

**vim hdfs-site.xml**

<property>
        <name>dfs.datanode.data.dir</name>
        <value>[SSD]file:///var/hadoop/dfs/data1,[DISK]file:///var/hadoop/dfs/data2</value>
    </property>

从上面的配置中可以 `/var/hadoop/dfs/data1`前面指定了`[SSD]`，则说明`data1` 这个目录是一个 `SSD`的存储介质，`但是具体是不是真的SSD类型，这个是不会去校验的。`

![hdfs如何知道数据存储目录是那种存储类型][hdfs 1]

### 2.3 存储策略 ###

#### 2.3.1 在hdfs中支持如下存储策略 ####

*  `Hot：` 用于存储和计算。当我们的数据是`热`数据时，可以使用这种存储策略，所有的副本都在DISK中。
 *  `Warm：` 仅适用于计算有限的存储。不再使用的数据或需要归档的数据从热存储移动到冷存储。当一个块`冷`时，所有副本都存储在ARCHIVE中。
 *  `Cold：`部分热和部分冷。当一个块是热的时，它的一些副本存储在DISK中，其余的副本存储在ARCHIVE中。
 *  `All_SSD：`用于将所有副本存储在SSD中。
 *  `One_SSD：`用于将其中一个副本存储在SSD中。其余副本存储在DISK中。
 *  `Lazy_Persist：`用于在内存中写入具有单个副本的块。副本首先用RAM\_DISK写入，然后懒惰地保存在DISK中。
 *  `Provided：`用于在HDFS之外存储数据  
    ![hdfs支持的存储策略][hdfs 2]

#### 2.3.2 存储策略表 ####

![存储策略表][92bade2389934ad5b9f48f380a0dec99.png]

#### 2.3.4 Storage Policy Resolution ####

创建文件或目录时，未指定其存储策略。可以使用`storagePolicy -setStoragePolicy`命令指定存储策略。`文件或目录的有效存储策略由以下规则解析。`

1.  如果文件或目录指定了存储策略，则返回它。
2.  对于未指定的文件或目录，如果是根目录，则返回默认存储策略。否则，返回其父级的有效存储策略。

有效的存储策略可以通过`storagePolicy -getStoragePolicy`命令检索。

#### 2.3.5 配置存储策略 ####

*  `dfs.storage.policy.enabled` 用于启用或禁止存储策略特性，默认值是`true`
 *  `dfs.datanode.data.dir` 在每个数据节点上，逗号分隔的存储位置应标记其存储类型。这允许存储策略根据策略将块放置在不同的存储类型上。

**举例说明**

1.  如果一个datanode 上的存储位置 `/grid/dn/disk0`是 `DISK`类型，应该配置为`[DISK]file:///grid/dn/disk0`
2.  如果一个datanode 上的存储位置 `/grid/dn/disk0`是 `SSD`类型，应该配置为`[SSD]file:///grid/dn/disk0`
3.  如果一个datanode 上的存储位置 `/grid/dn/disk0`是 `ARCHIVE`类型，应该配置为`[ARCHIVE]file:///grid/dn/disk0`

> 如果`没有显式标记`的存储类型，则datanode存储位置的默认存储类型将是`DISK`。

#### 2.3.6 基于存储策略的数据移动 ####

在`已经存在`的`文件/目录`上`设置新的存储策略`将改变命名空间中的策略，`但它不会在存储介质之间物理移动块。`  
此处介绍基于`Mover`来解决这个问题，具体的细节需要看官方文档。

![mover工具的使用][mover]

#### 2.3.7 存储策略命令 ####

##### 2.3.7.1 列出所有存储策略 #####

hdfs storagepolicies -listPolicies

##### 2.3.7.2 为文件或目录设置存储策略 #####

hdfs storagepolicies -setStoragePolicy -path <path> -policy <policy>

`<path>`：需要设置存储策略的文件或目录  
`<policy>`：存储策略的名字

##### 2.3.7.3 取消存储策略 #####

hdfs storagepolicies -unsetStoragePolicy -path <path>

取消对文件或目录的存储策略设置。在unset命令之后，将应用最近祖先的存储策略，如果没有任何祖先的策略，则将应用默认存储策略。

##### 2.3.7.4 获取文件或目录的存储策略。 #####

hdfs storagepolicies -getStoragePolicy -path <path>

##### 2.3.7.5 查看文件块分布 #####

hdfs fsck xxx -files -blocks -locations

## 3 hdfs异构存储案例 ##

### 3.1 环境准备 ###

<table> 
 <thead> 
  <tr> 
   <th>ip地址</th> 
   <th>节点名</th> 
   <th>存储类型</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>192.168.121.140</td> 
   <td>hadoop01</td> 
   <td>DISK,ARCHIVE</td> 
  </tr> 
  <tr> 
   <td>192.168.121.141</td> 
   <td>hadoop02</td> 
   <td>DISK,SSD</td> 
  </tr> 
  <tr> 
   <td>192.168.121.142</td> 
   <td>hadoop03</td> 
   <td>SSD,ARCHIVE</td> 
  </tr> 
 </tbody> 
</table>

### 3.2 节点 hdfs-site.xml配置文件 ###

#### 3.2.1 hadoop01 ####

<property>
    	<name>dfs.replication</name>
    	<value>2</value>
    </property>
    
    <property>
    	<name>dfs.storage.policy.enabled</name>
    	<value>true</value>
    </property>
    
    <property>
    	<name>dfs.datanode.data.dir</name> 
    	<value>[DISK]file:///opt/bigdata/hadoop-3.3.4/data/disk,[ARCHIVE]file:///opt/bigdata/hadoop-3.3.4/data/archive</value>
    </property>

#### 3.2.2 hadoop02 ####

<property>
    	<name>dfs.replication</name>
    	<value>2</value>
    </property>
    
    <property>
    	<name>dfs.storage.policy.enabled</name>
    	<value>true</value>
    </property>
    
    <property>
    	<name>dfs.datanode.data.dir</name> 
    	<value>[DISK]file:///opt/bigdata/hadoop-3.3.4/data/disk,[SSD]file:///opt/bigdata/hadoop-3.3.4/data/ssd</value>
    </property>

#### 3.2.3 hadoop03 ####

<property>
    	<name>dfs.replication</name>
    	<value>2</value>
    </property>
    
    <property>
    	<name>dfs.storage.policy.enabled</name>
    	<value>true</value>
    </property>
    
    <property>
    	<name>dfs.datanode.data.dir</name> 
    	<value>[SSD]file:///opt/bigdata/hadoop-3.3.4/data/ssd,[ARCHIVE]file:///opt/bigdata/hadoop-3.3.4/data/archive</value>
    </property>

### 3.3 重启hdfs集群，并看数据目录存储类型是否正确 ###

![查看数据目录的存储类型][168608f3b3ee4d0bac44b47840176fd5.png]

### 3.4 案例演示 ###

此处仅仅只是演示 `Warm`类型。

由之前的存储策略表(`2.3.2`)可知，`Warm`类型的策略，只有一个块存储在`DISK`存储上，其余的全部存储在`ARCHIVE`存储上。

# hdfs 上创建目录
    [hadoopdeploy@hadoop01 hadoop]$ hadoop fs -mkdir -p /var/data/storage
    # 上传文件到 hdfs 目录中
    [hadoopdeploy@hadoop01 hadoop]$ hadoop fs -put /etc/profile /var/data/storage/profile
    # 设置 /var/data/storage 目录的存储策略为 warm
    [hadoopdeploy@hadoop01 hadoop]$ hdfs storagepolicies -setStoragePolicy -path /var/data/storage -policy WARM
    Set storage policy WARM on /var/data/storage
    # 查看 /var/data/storage 目录的文件块分布，发现还是 2个 DISK，说明历史数据需要迁移，使用 mover 命令
    [hadoopdeploy@hadoop01 hadoop]$ hdfs fsck /var/data/storage -files -blocks -locations
    Connecting to namenode via http://hadoop01:9870/fsck?ugi=hadoopdeploy&files=1&blocks=1&locations=1&path=%2Fvar%2Fdata%2Fstorage
    FSCK started by hadoopdeploy (auth:SIMPLE) from /192.168.121.140 for path /var/data/storage at Sat Mar 18 17:49:48 CST 2023
    
    /var/data/storage <dir>
    /var/data/storage/profile 2098 bytes, replicated: replication=2, 1 block(s):  OK
    0. BP-1760725553-192.168.121.140-1676791226380:blk_1073741858_1036 len=2098 Live_repl=2  [DatanodeInfoWithStorage[192.168.121.141:9866,DS-e86f80ba-6f04-4074-ab96-f58212c3c0e2,DISK], DatanodeInfoWithStorage[192.168.121.140:9866,DS-ca40e8cf-4d38-4a42-bfcb-e636087e9025,DISK]]
    ......
    
    # 将 /var/data/storage 按照存储策略移动数据块
    [hadoopdeploy@hadoop01 hadoop]$ hdfs mover /var/data/storage
    2023-03-18 17:52:04,620 INFO mover.Mover: namenodes = {
        hdfs://hadoop01:8020=null}
    2023-03-18 17:52:04,630 INFO balancer.NameNodeConnector: getBlocks calls for hdfs://hadoop01:8020 will be rate-limited to 20 per second
    2023-03-18 17:52:05,368 INFO net.NetworkTopology: Adding a new node: /default-rack/192.168.121.142:9866
    2023-03-18 17:52:05,368 INFO net.NetworkTopology: Adding a new node: /default-rack/192.168.121.140:9866
    2023-03-18 17:52:05,368 INFO net.NetworkTopology: Adding a new node: /default-rack/192.168.121.141:9866
    2023-03-18 17:52:05,402 INFO balancer.Dispatcher: Start moving blk_1073741858_1036 with size=2098 from 192.168.121.140:9866:DISK to 192.168.121.140:9866:ARCHIVE through 192.168.121.140:9866
    2023-03-18 17:52:05,412 INFO balancer.Dispatcher: Successfully moved blk_1073741858_1036 with size=2098 from 192.168.121.140:9866:DISK to 192.168.121.140:9866:ARCHIVE through 192.168.121.140:9866
    Mover Successful: all blocks satisfy the specified storage policy. Exiting...
    2023-3-18 17:52:15       Mover took 10sec
    # 重新查看 /var/data/storage 目录的文件块分布，发现还是 一个是 DISK 另外一个 ARCHIVE，说明存储策略生效了
    pdeploy@hadoop01 hadoop]$ hdfs fsck /var/data/storage -files -blocks -locations
    Connecting to namenode via http://hadoop01:9870/fsck?ugi=hadoopdeploy&files=1&blocks=1&locations=1&path=%2Fvar%2Fdata%2Fstorage
    FSCK started by hadoopdeploy (auth:SIMPLE) from /192.168.121.140 for path /var/data/storage at Sat Mar 18 17:53:23 CST 2023
    
    /var/data/storage <dir>
    /var/data/storage/profile 2098 bytes, replicated: replication=2, 1 block(s):  OK
    0. BP-1760725553-192.168.121.140-1676791226380:blk_1073741858_1036 len=2098 Live_repl=2  [DatanodeInfoWithStorage[192.168.121.141:9866,DS-e86f80ba-6f04-4074-ab96-f58212c3c0e2,DISK], DatanodeInfoWithStorage[192.168.121.140:9866,DS-cf50253c-ea3f-46f6-bdd9-4ac1ad3907d2,ARCHIVE]]

![查看文件块分布][edc08915424f4f069d4fa4feb4f9e03e.png]

## 4 参考文档 ##

1、[https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/ArchivalStorage.html][https_hadoop.apache.org_docs_current_hadoop-project-dist_hadoop-hdfs_ArchivalStorage.html]  
2、[https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml][https_hadoop.apache.org_docs_current_hadoop-project-dist_hadoop-hdfs_hdfs-default.xml]

[hdfs]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/25/a9dc0c722122468b803c687c1faa9a00.png
[hdfs 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/25/e7b0375f1aa24383bc0adb8bb773c856.png
[hdfs 2]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/25/e2706ef4021a45958435e44c09e8dee7.png
[92bade2389934ad5b9f48f380a0dec99.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/25/4f72e21e51224322a5181177fcd9315e.png
[mover]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/25/3309ac712c42471b996bee67df0608b3.png
[168608f3b3ee4d0bac44b47840176fd5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/25/f1ec0dff95ab449496fadbcc7d371035.png
[edc08915424f4f069d4fa4feb4f9e03e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/25/5b3a30bd333d415ab66f0e189bc57794.png
[https_hadoop.apache.org_docs_current_hadoop-project-dist_hadoop-hdfs_ArchivalStorage.html]: https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/ArchivalStorage.html
[https_hadoop.apache.org_docs_current_hadoop-project-dist_hadoop-hdfs_hdfs-default.xml]: https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml