19.3.RAID1 - 镜像

RAID1,或称镜像,是将相同的数据写入一个以上的磁盘驱动器的技术。镜像通常被用来防止因驱动器故障而导致的数据丢失。镜像中的每个驱动器都包含一个相同的数据副本。当一个单独的驱动器发生故障时,镜像继续工作,提供来自仍在运行的驱动器的数据。计算机继续运行,管理员有时间在不影响用户的情况下更换故障驱动器。

这些例子中说明了两种常见的情况。第一个例子是用两个新的驱动器创建一个镜像,用它来替代现有的单个驱动器。第二个例子在一个新的驱动器上创建一个镜像,把旧的驱动器的数据复制到它上面,然后把旧的驱动器插入镜像中。虽然这个过程稍微复杂一些,但它只需要一个新的驱动器。

传统上,镜像中的两个驱动器在型号和容量上是相同的,但是 gmirror(8) 并不要求这样。用不同的驱动器创建的镜像,其容量等于镜像中最小的驱动器的容量。较大驱动器上的额外空间将不被使用。后来插入镜像的硬盘必须至少有与镜像中最小的硬盘一样的容量。

警告:

这里显示的镜像步骤是非破坏性的,但与任何主要的磁盘操作一样,先做一个完整的备份。

警告:

虽然 dump(8) 在这些程序中被用来复制文件系统,但它对有软更新日志的文件系统不起作用。参见 tunefs(8) 以获得关于检测和禁用软更新日志的信息。

19.3.1 元数据问题

许多磁盘系统在每个磁盘的末端存储元数据。在重新使用磁盘做镜像之前,旧的元数据应该被擦除。大多数问题是由两种特殊类型的遗留元数据引起的。GPT 分区表和之前镜像的旧元数据。

GPT 元数据可以用 gpart(8) 来擦除。这个例子删除了 ada8 磁盘上的主分区和备份 GPT 分区表。

  1. # gpart destroy -F ada8

使用 gmirror(8) 可以将一个磁盘从活动镜像中移除,并在一个步骤中擦除元数据。这里,例子中的磁盘 ada8 被从活动镜像 gm4 中移除。

  1. # gmirror remove gm4 ada8

如果镜像没有运行,但是旧的镜像元数据仍然在磁盘上,使用 gmirror clear 来移除它。

  1. # gmirror clear ada8

gmirror(8) 在磁盘的末端存储一个元数据块。由于 GPT 分区方案也在磁盘的末端存储元数据,所以不推荐用 gmirror(8) 来镜像整个 GPT 磁盘。这里使用 MBR 分区,因为它只在磁盘的开始部分存储一个分区表,不会与镜像元数据冲突。

19.3.2. 用两个新磁盘创建一个镜像

在这个例子中,FreeBSD 已经被安装在一个单一的磁盘上,即 ada0 。两个新的磁盘,ada1ada2,已经被连接到系统中。在这两个磁盘上将创建一个新的镜像,用来替换旧的单磁盘。

geom_mirror.ko 内核模块必须被内置到内核中,或者在启动或运行时加载。现在手动加载内核模块。

  1. # gmirror load

用两个新的驱动器创建镜像。

  1. # gmirror label -v gm0 /dev/ada1 /dev/ada2

gm0 是一个用户选择的设备名称,分配给新的镜像。镜像启动后,这个设备名出现在 /dev/mirror/ 中。

现在可以用 gpart(8) 在镜像上创建 MBR 和 bsdlabel 分区表。这个例子使用了传统的文件系统布局,有 / 、 swap 、 /var/tmp/usr 分区。一个单一的/和一个交换分区也可以工作。

镜像上的分区不一定要和现有磁盘上的分区一样大,但它们必须大到足以容纳ada0上已有的所有数据。

  1. # gpart create -s MBR mirror/gm0
  2. # gpart add -t freebsd -a 4k mirror/gm0
  3. # gpart show mirror/gm0
  4. => 63 156301423 mirror/gm0 MBR (74G)
  5. 63 63 - free - (31k)
  6. 126 156301299 1 freebsd (74G)
  7. 156301425 61 - free - (30k)
  1. # gpart create -s BSD mirror/gm0s1
  2. # gpart add -t freebsd-ufs -a 4k -s 2g mirror/gm0s1
  3. # gpart add -t freebsd-swap -a 4k -s 4g mirror/gm0s1
  4. # gpart add -t freebsd-ufs -a 4k -s 2g mirror/gm0s1
  5. # gpart add -t freebsd-ufs -a 4k -s 1g mirror/gm0s1
  6. # gpart add -t freebsd-ufs -a 4k mirror/gm0s1
  7. # gpart show mirror/gm0s1
  8. => 0 156301299 mirror/gm0s1 BSD (74G)
  9. 0 2 - free - (1.0k)
  10. 2 4194304 1 freebsd-ufs (2.0G)
  11. 4194306 8388608 2 freebsd-swap (4.0G)
  12. 12582914 4194304 4 freebsd-ufs (2.0G)
  13. 16777218 2097152 5 freebsd-ufs (1.0G)
  14. 18874370 137426928 6 freebsd-ufs (65G)
  15. 156301298 1 - free - (512B)

通过在 MBR 和 bsdlabel 中安装 bootcode 并设置活动片,使镜像可启动。

  1. # gpart bootcode -b /boot/mbr mirror/gm0
  2. # gpart set -a active -i 1 mirror/gm0
  3. # gpart bootcode -b /boot/boot mirror/gm0s1

格式化新镜像上的文件系统,启用软更新。

  1. # newfs -U /dev/mirror/gm0s1a
  2. # newfs -U /dev/mirror/gm0s1d
  3. # newfs -U /dev/mirror/gm0s1e
  4. # newfs -U /dev/mirror/gm0s1f

现在可以用 dump(8)restore(8) 将原始 ada0 磁盘上的文件系统复制到镜像上。

  1. # mount /dev/mirror/gm0s1a /mnt
  2. # dump -C16 -b64 -0aL -f - / | (cd /mnt && restore -rf -)
  3. # mount /dev/mirror/gm0s1d /mnt/var
  4. # mount /dev/mirror/gm0s1e /mnt/tmp
  5. # mount /dev/mirror/gm0s1f /mnt/usr
  6. # dump -C16 -b64 -0aL -f - /var | (cd /mnt/var && restore -rf -)
  7. # dump -C16 -b64 -0aL -f - /tmp | (cd /mnt/tmp && restore -rf -)
  8. # dump -C16 -b64 -0aL -f - /usr | (cd /mnt/usr && restore -rf -)

编辑 /mnt/etc/fstab 以指向新的镜像文件系统。

  1. # Device Mountpoint FStype Options Dump Pass#
  2. /dev/mirror/gm0s1a / ufs rw 1 1
  3. /dev/mirror/gm0s1b none swap sw 0 0
  4. /dev/mirror/gm0s1d /var ufs rw 2 2
  5. /dev/mirror/gm0s1e /tmp ufs rw 2 2
  6. /dev/mirror/gm0s1f /usr ufs rw 2 2

如果 geom_mirror.ko 内核模块没有被内置到内核中,编辑 /mnt/boot/loader.conf 以在启动时加载该模块。

  1. geom_mirror_load="YES"

重新启动系统以测试新的镜像,并验证所有数据是否已经复制。BIOS 会把镜像看作是两个独立的硬盘,而不是一个镜像。由于这两个硬盘是相同的,所以选择哪一个来启动并不重要。

如果启动有问题,请参见故障排除。关掉电源并断开原始 ada0 磁盘的连接,可以将其作为离线备份保存。

在使用中,镜像的行为就像原来的单盘一样。

19.3.3. 用现有的驱动器创建一个镜像

在这个例子中,FreeBSD 已经被安装在一个单一的磁盘上,即 ada0 。一个新的磁盘,ada1 ,已经被连接到系统中。在新的磁盘上将创建一个单盘镜像,将现有的系统复制到上面,然后将旧的磁盘插入镜像中。这个稍微复杂的过程是需要的,因为 gmirror 需要在每个磁盘的末尾放一个512字节的元数据块,而现有的 ada0 通常已经分配了所有的空间。

加载 geom_mirror.ko 内核模块。

  1. # gmirror load

diskinfo 检查原始磁盘的介质大小。

  1. # diskinfo -v ada0 | head -n3
  2. /dev/ada0
  3. 512 # sectorsize
  4. 1000204821504 # mediasize in bytes (931G)

在新磁盘上创建一个镜像。为了确保镜像的容量不比原来的 ada0 驱动器大,gnop(8) 被用来创建一个大小完全相同的假驱动器。这个驱动器不存储任何数据,只是用来限制镜像的大小。当 gmirror(8) 创建镜像时,它将把容量限制在 gzero.nop 的大小,即使新的 ada1 驱动器有更多的空间。注意,第二行中的 1000204821504 等于上面 diskinfo 显示的 ada0 的介质大小。

  1. # geom zero load
  2. # gnop create -s 1000204821504 gzero
  3. # gmirror label -v gm0 gzero.nop ada1
  4. # gmirror forget gm0

由于 gzero.nop 不存储任何数据,镜像不会将其视为连接。镜像被告知要“忘记”未连接的组件,删除对 gzero.nop 的引用。结果是一个镜像设备只包含一个磁盘,ada1

创建 gm0 后,查看 ada0 的分区表。这个输出是来自一个 1TB 的驱动器。如果在驱动器的末端有一些未分配的空间,内容可以直接从 ada0 复制到新的镜像。

但是,如果输出显示磁盘上的所有空间都被分配了,就像下面的列表一样,那么磁盘末端的 512 字节的镜像元数据就没有可用空间了:

  1. # gpart show ada0
  2. => 63 1953525105 ada0 MBR (931G)
  3. 63 1953525105 1 freebsd [active] (931G)

在这种情况下,必须编辑分区表以减少镜像 /gm0 上一个扇区的容量。这个过程将在后面解释。

在这两种情况下,应首先使用 gpart backupgpart restore来复制主磁盘上的分区表:

  1. # gpart backup ada0 > table.ada0
  2. # gpart backup ada0s1 > table.ada0s1

这些命令创建了两个文件,table.ada0table.ada0s1 。这个例子来自一个 1TB 的硬盘:

  1. # cat table.ada0
  2. MBR 4
  3. 1 freebsd 63 1953525105 [active]
  1. # cat table.ada0s1
  2. BSD 8
  3. 1 freebsd-ufs 0 4194304
  4. 2 freebsd-swap 4194304 33554432
  5. 4 freebsd-ufs 37748736 50331648
  6. 5 freebsd-ufs 88080384 41943040
  7. 6 freebsd-ufs 130023424 838860800
  8. 7 freebsd-ufs 968884224 984640881

如果在磁盘的末端没有显示出自由空间,那么分片和最后一个分区的大小都必须减少一个扇区。编辑这两个文件,将分片和最后一个分区的大小都减少一个。这些是每个列表中的最后数字:

  1. # cat table.ada0
  2. MBR 4
  3. 1 freebsd 63 1953525104 [active]
  1. # cat table.ada0s1
  2. BSD 8
  3. 1 freebsd-ufs 0 4194304
  4. 2 freebsd-swap 4194304 33554432
  5. 4 freebsd-ufs 37748736 50331648
  6. 5 freebsd-ufs 88080384 41943040
  7. 6 freebsd-ufs 130023424 838860800
  8. 7 freebsd-ufs 968884224 984640880

如果在磁盘的末端至少有一个扇区没有被分配,这两个文件可以不加修改地使用。

现在将分区表恢复到 mirror/gm0

  1. # gpart restore mirror/gm0 < table.ada0
  2. # gpart restore mirror/gm0s1 < table.ada0s1

gpart show 检查分区表。这个例子中,gm0s1a 代表 /gm0s1d 代表 /vargm0s1e 代表 /usrgm0s1f 代表 /data1 ,而 gm0s1g 代表 /data2

  1. # gpart show mirror/gm0
  2. => 63 1953525104 mirror/gm0 MBR (931G)
  3. 63 1953525042 1 freebsd [active] (931G)
  4. 1953525105 62 - free - (31k)
  5. # gpart show mirror/gm0s1
  6. => 0 1953525042 mirror/gm0s1 BSD (931G)
  7. 0 2097152 1 freebsd-ufs (1.0G)
  8. 2097152 16777216 2 freebsd-swap (8.0G)
  9. 18874368 41943040 4 freebsd-ufs (20G)
  10. 60817408 20971520 5 freebsd-ufs (10G)
  11. 81788928 629145600 6 freebsd-ufs (300G)
  12. 710934528 1242590514 7 freebsd-ufs (592G)
  13. 1953525042 63 - free - (31k)

分片和最后一个分区都必须在磁盘的末端有至少一个空闲块。

在这些新分区上创建文件系统。分区的数量将有所不同,以配合原始磁盘,即 ada0

  1. # newfs -U /dev/mirror/gm0s1a
  2. # newfs -U /dev/mirror/gm0s1d
  3. # newfs -U /dev/mirror/gm0s1e
  4. # newfs -U /dev/mirror/gm0s1f
  5. # newfs -U /dev/mirror/gm0s1g

通过在 MBR 和 bsdlabel 中安装 bootcode 并设置活动片,使镜像可启动:

  1. # gpart bootcode -b /boot/mbr mirror/gm0
  2. # gpart set -a active -i 1 mirror/gm0
  3. # gpart bootcode -b /boot/boot mirror/gm0s1

调整 /etc/fstab 以使用镜像上的新分区。先把这个文件复制到 /etc/fstab.orig ,以此来备份:

  1. # cp /etc/fstab /etc/fstab.orig

编辑 /etc/fstab ,将 /dev/ada0 替换为 mirror/gm0

  1. # Device Mountpoint FStype Options Dump Pass#
  2. /dev/mirror/gm0s1a / ufs rw 1 1
  3. /dev/mirror/gm0s1b none swap sw 0 0
  4. /dev/mirror/gm0s1d /var ufs rw 2 2
  5. /dev/mirror/gm0s1e /usr ufs rw 2 2
  6. /dev/mirror/gm0s1f /data1 ufs rw 2 2
  7. /dev/mirror/gm0s1g /data2 ufs rw 2 2

如果 geom_mirror.ko 内核模块没有被内置到内核中,编辑 /boot/loader.conf 在启动时加载它:

  1. geom_mirror_load="YES"

现在可以用 dump(8)restore(8) 将原始磁盘的文件系统复制到镜像上。用 dump -L 转储的每个文件系统都会先创建一个快照,这可能需要一些时间:

  1. # mount /dev/mirror/gm0s1a /mnt
  2. # dump -C16 -b64 -0aL -f - / | (cd /mnt && restore -rf -)
  3. # mount /dev/mirror/gm0s1d /mnt/var
  4. # mount /dev/mirror/gm0s1e /mnt/usr
  5. # mount /dev/mirror/gm0s1f /mnt/data1
  6. # mount /dev/mirror/gm0s1g /mnt/data2
  7. # dump -C16 -b64 -0aL -f - /usr | (cd /mnt/usr && restore -rf -)
  8. # dump -C16 -b64 -0aL -f - /var | (cd /mnt/var && restore -rf -)
  9. # dump -C16 -b64 -0aL -f - /data1 | (cd /mnt/data1 && restore -rf -)
  10. # dump -C16 -b64 -0aL -f - /data2 | (cd /mnt/data2 && restore -rf -)

重新启动系统,从 ada1 启动。如果一切正常,系统将从 mirror/gm0 启动,现在 mirror/gm0 包含的数据与 ada0 之前的一样。如果启动有问题,请看故障排除。

在这一点上,镜像仍然只包括单一的 ada1 磁盘。

mirror/gm0 成功启动后,最后一步是将 ada0 插入镜像中。

重要提醒:

ada0 被插入镜像时,它以前的内容会被镜像的数据覆盖。在将 ada0 加入镜像之前,请确定 mirror/gm0 的内容与 ada0 相同。如果之前通过 dump(8)restore(8) 复制的内容与 ada0 上的内容不一致,请重新修改 /etc/fstab ,将文件系统挂载到 ada0 上,重新启动,然后重新开始整个过程。

  1. # gmirror insert gm0 ada0
  2. GEOM_MIRROR: Device gm0: rebuilding provider ada0

两个磁盘之间的同步将立即开始。使用gmirror status来查看进度。

  1. # gmirror status
  2. Name Status Components
  3. mirror/gm0 DEGRADED ada1 (ACTIVE)
  4. ada0 (SYNCHRONIZING, 64%)

一段时间后,同步将结束。

  1. GEOM_MIRROR: Device gm0: rebuilding provider ada0 finished.
  2. # gmirror status
  3. Name Status Components
  4. mirror/gm0 COMPLETE ada1 (ACTIVE)
  5. ada0 (ACTIVE)

mirror/gm0 现在由两个磁盘 ada0ada1 组成,内容会自动相互同步。在使用中,mirror/gm0 的行为就像原来的单硬盘一样。

19.3.4. 故障排除

如果系统不再启动,可能需要改变 BIOS 设置,以便从新的镜像驱动器中的一个启动。任何一个镜像驱动器都可以用来启动,因为它们包含相同的数据。

如果启动停止时出现这个信息,说明镜像设备出了问题。

  1. Mounting from ufs:/dev/mirror/gm0s1a failed with error 19.
  2. Loader variables:
  3. vfs.root.mountfrom=ufs:/dev/mirror/gm0s1a
  4. vfs.root.mountfrom.options=rw
  5. Manual root filesystem specification:
  6. <fstype>:<device> [options]
  7. Mount <device> using filesystem <fstype>
  8. and with the specified (optional) option list.
  9. eg. ufs:/dev/da0s1a
  10. zfs:tank
  11. cd9660:/dev/acd0 ro
  12. (which is equivalent to: mount -t cd9660 -o ro /dev/acd0 /)
  13. ? List valid disk boot devices
  14. . Yield 1 second (for background tasks)
  15. <empty line> Abort manual input
  16. mountroot>

忘记在 /boot/loader.conf 中加载 geom_mirror.ko 模块会导致这个问题。要解决这个问题,从 FreeBSD 安装介质启动,在第一个提示符下选择 Shell 。然后加载镜像模块并安装镜像设备。

  1. # gmirror load
  2. # mount /dev/mirror/gm0s1a /mnt

编辑 /mnt/boot/loader.conf,添加一行来加载镜像模块:

保存该文件并重新启动。

其他导致 error 19 的问题需要更多的努力来解决。尽管系统应该从 ada0 启动,但如果 /etc/fstab 不正确,会出现另一个选择 shell 的提示。在 boot loader提示下输入 ufs:/dev/ada0s1a ,然后按回车键。撤销 /etc/fstab 中的编辑,然后从原始磁盘(ada0)而不是镜像中加载文件系统。重新启动系统并再次尝试该过程。

  1. Enter full pathname of shell or RETURN for /bin/sh:
  2. # cp /etc/fstab.orig /etc/fstab
  3. # reboot

19.3.5. 从磁盘故障中恢复

磁盘镜像的好处是,一个单独的磁盘可以发生故障而不会导致镜像丢失任何数据。在上面的例子中,如果 ada0 发生故障,镜像将继续工作,从剩余的工作驱动器,ada1 提供数据。

要更换故障的硬盘,请关闭系统,用一个容量相同或更大的新硬盘物理替换故障的硬盘。制造商在以千兆字节为单位对硬盘进行评级时,使用了一些任意的数值,真正确定的唯一方法是比较 diskinfo -v 所显示的扇区总数。一个容量大于镜像的驱动器可以工作,尽管新驱动器上的额外空间将不会被使用。

在计算机重新上电后,镜像将以“降级”模式运行,只有一个驱动器。镜像被告知要忘记当前没有连接的驱动器:

  1. # gmirror forget gm0

任何旧的元数据都应该按照元数据问题中的说明从替换磁盘中清除。然后将替换磁盘(本例中为 ada4 )插入镜像中:

  1. # gmirror insert gm0 /dev/ada4

当新的驱动器被插入镜像时,重新同步开始。这个将镜像数据复制到新驱动器的过程可能需要一段时间。在复制过程中,镜像的性能会大大降低,所以插入新的驱动器最好在计算机上的需求较低时进行。

可以用 gmirror status 监控进度,它显示正在同步的驱动器和完成的百分比。在重新同步的过程中,状态将是 DEGRADED ,当这个过程结束时将变为 COMPLETE