华为5500v3多路径linux6,CentOS7 DM-Multipath+HUAWEI OceanStor存储多路径配置

忘是亡心i 2023-01-20 08:26 46阅读 0赞

在参看了网上他人的配置，结合RedHat的技术白皮书实现后，自己亲身在CentOS7+HUAWEI OceanStore S2600T的基础上配置了一个DM-Multipath存储多路径的实现，其中碰到了一些小问题和不明白的地方，书上感觉也没有说清除，在此总结，以供自己和大家参考。

1、安装iscsi客户端

CentOS7上安装iscsi-initiator-utils

\# yum install iscsi-initiator-utils

2、在存储器(HUAWEI OceanStor S2600T/S2600 V3)中，创建存储池和LUN

具体可以参考：《OceanStor S2600T&S5500T&S5600T&S5800T&S6800T 存储系统 基础存储业务指南》，以上两个步骤可以按照文档说明进行配置即可。

3、 在CentOS7中，配置启动器

更改启动器的名字，位置/etc/iscsi/initiatorname.iscsi(可选)

IQN命名规则：IQN.yyyy-mm.:

如：

InitiatroName=iqn.2016-07.com.example.foo:77c1157e7af

或

InitiatroName=iqn.2016-07.com.example.foo:myhostname

启动iscsi和设置自启动

\# systemctl start iscsi

\# systemctl enable iscsi

4、在CentOS7中，配置存储器的IP(即存储系统iSCSI主机端口的IP)

命令：iscsiadm -m discovery -t st -p

这里是系统多路径+存储器双控配置，特此说明存储器A控的iSCSI主机端口假设为IP-A，存储器B控的iSCSI主机端口假设为IP-B，则需要分别执行以下两步：

\# iscsiadm -m discovery -t st -p

5、在CentOS7中，登陆存储器

命令为：iscsiadm -m node -p -l

这里是系统多路径+存储器双控配置，特此说明存储器A控的iSCSI主机端口假设为IP-A，存储器B控的iSCSI主机端口假设为IP-B，则需要分别执行以下两步：

\# iscsiadm -m node -p -l

在变更lun的大小后，可能需要重新登陆。

6、在CentOS7中，设置自启动模式和开机自动登陆

将/etc/iscsi/iscsid.conf中，node.startup=设置为automatic(默认，无需修改)

iscsiadm -m node –T LUN\_NAME -p ISCSI\_IP --op update -n node.startup -v automatic

系统多路径+存储器双控配置：

iscsiadm -m node –T LUN\_NAME -p --op update -n node.startup -v automatic

如果只有一个LUN，或者想挂载所有的LUN，则'-T LUN\_NAME'可以省略，执行重启命令并查看是否开机自动登陆(可选)。

7、在存储器控制台中，创建主机和主机组

在此不用关心CentOS7系统具体使用几块网卡与存储器的控制器相连，创建主机名称后，选择使用存储器的机器类型，这里是Linux，然后就可以选择以上创建的两个存储器启动器即可。

8、在存储器控制台中，创建映射视图

参看《OceanStor S2600T&S5500T&S5600T&S5800T&S6800T 存储系统 基础存储业务指南》中的指示来执行，本人在实际使用时没有使用端口组，而是直接将主机和LUN组映射起来。

9、在CentOS7中，查看完整的映射

\# iscsiadm -m node

10、在CentOS7中，查看挂载的磁盘

\# fdisk -l

或

\# cat /proc/partitions

或者使用parted的命令进行查看(进入parted命令的交互模式后输入print)

以上命令执行后可以看到两个路径上挂载的同样大小的磁盘。

11、安装DM-Multipath软件包

\# yum install device-mapper-multipath

12、创建及修改DM-Multipath的配置文件

拷贝配置文件multipath.conf

查看系统中/etc/multipath.conf文件是否存在，如果不存在：

将/usr/share/doc/device-mapper-multipath-/multipath.conf (Red Hat 6/7)

或/usr/share/doc/device-mapper-multipath-/multipath.conf.synthetic (Red Hat 5.x)

或/usr/share/doc/packages/multipath-tools/multipath.conf.synthetic (SuSE11SP1)

或/usr/share/doc/multipath-tools/examples/multipath.conf.synthetic (ubuntu 11.04)

文件拷贝一份，文件命名为multipath.conf放置于/etc/目录下。

\# cp /usr/share/doc/device-mapper-multipath-\*/multipath.conf /etc/multipath.conf(CentOS 6/7)

如果上述CentOS7中的路径不存在，请参看RedHat6的路径，或者find查找一下。

修改配置文件确保如下配置：

此处使用了CentOS7.6来连接SAN，而REHL 7.5开始已经将华为多路径配置(开启ALUA)合入内核中，阵列开启ALUA的场景可以不用修改/etc/multipath.conf配置文件，直接使用默认配置即可，阵列不启用ALUA的场景仍需按要求修改配置文件，注意需要将prio的值改回const，具体如下：

devices \{

device \{

vendor "HUAWEI"

product "XSG1"

path\_grouping\_policy multibus

path\_checker tur

prio const

path\_selector "service-time 0"

failback immediate

注：multibus为负载均衡配置，failover为主备配置

13、在CentOS7中，启动multipathd服务及设置开机自启

\# systemctl start multipathd

\# systemctl enable multipathd

14、查看多路经情况

multipath -ll

启动成功后，可以看见/dev/mapper/mpatha，这是虚拟出来的多路径设备，可以被用来挂载使用。

15、对挂载磁盘进行分区

\# parted /dev/mapper/mpatha

格式化为GPT分区格式：

(parted) mklabel gpt

将所有容量划为一个主分区

(parted) mkpart primary xfs 0% 100%

退出

(parted) q

进行上述分区操作后出现/dev/mapper/mpatha1文件。如果因操作顺序问题导致出现mpathb、mpathc这样的命名，如果看着不习惯或者有洁癖的同学可以关掉multipathd服务器，然后删除/etc/multipath/bindings和/etc/multipath/wwids文件中的mpatha、mpathb等所在的行，然后重启。

16、格式化分区

\# mkfs.xfs /dev/mapper/mpatha1

17、挂载分区

\# mkdir /data (创建挂载目录)

\# mount -t xfs /dev/mapper/mpatha1 /data

\# df -h (查看分区结果)

18、开机自动挂载

1) fstab文件中自动挂载

很多文章说开机挂载修改/etc/fstab文件，并在最后添加

/dev/mapper/mpatha1 /data xfs defaults 0 0

但我在操作过程中发现，如上修改不能成功启动和挂载系统。因为iSCSI是网络设备因此正确的挂载应该如下：

/dev/mapper/mpatha1 /data xfs defaults,\_netdev 0 0