User Tools

Site Tools


informatique:linux:raid0_sous_linux

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revisionPrevious revision
Next revision
Previous revision
Next revisionBoth sides next revision
informatique:linux:raid0_sous_linux [2012/09/13 21:11] pteuinformatique:linux:raid0_sous_linux [2013/02/19 20:56] – Augmenter un RAID + LVM pteu
Line 120: Line 120:
  
 =====Divers===== =====Divers=====
- 
-====Monitorer son RAID==== 
- 
-<code> 
-cat /proc/mdstat  
- Personalities : [raid0]  
- md1 : active raid0 sda3[0] sdb3[1] 
-       1945696256 blocks 64k chunks 
-        
- md0 : active raid0 sda2[0] sdb2[1] 
-       5863552 blocks 64k chunks 
-        
- unused devices: <none> 
-</code> 
- 
-On peut avoir plus de détails avec : 
-<code> 
-mdadm --detail /dev/md1 
-    /dev/md1: 
-         Version : 00.90 
-   Creation Time : Sat Feb  7 12:49:57 2009 
-      Raid Level : raid0 
-      Array Size : 1945696256 (1855.56 GiB 1992.39 GB) 
-    Raid Devices : 2 
-   Total Devices : 2 
- Preferred Minor : 1 
-     Persistence : Superblock is persistent 
-  
-     Update Time : Tue Feb 10 20:31:42 2009 
-           State : clean 
-  Active Devices : 2 
- Working Devices : 2 
-  Failed Devices : 0 
-   Spare Devices : 0 
-  
-      Chunk Size : 64K 
-   
-            UUID : 9695e8d2:87d83bd5:e070d1d4:842cdf7e 
-          Events : 0.5 
-   
-     Number   Major   Minor   RaidDevice State 
-        0              3        0      active sync   /dev/sda3 
-        1             19        1      active sync   /dev/sdb3 
-</code> 
  
 ====Créer un volume RAID1 avec un seul disque==== ====Créer un volume RAID1 avec un seul disque====
Line 371: Line 327:
  
 Au redémarrage le volume RAID est monté correctement \o/. Au redémarrage le volume RAID est monté correctement \o/.
 +
 +===D'autres pistes :===
 +
 +<code bash>
 +cat /proc/mdstat
 +Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
 +md126 : inactive sdc[1]
 +      1953514496 blocks
 +
 +md127 : active (auto-read-only) raid5 sdd[2] sdb[0]
 +      3907028992 blocks level 5, 64k chunk, algorithm 2 [3/2] [U_U]
 +
 +unused devices: <none>
 +</code>
 +
 +<code bash>
 +mdadm --examine /dev/sdb1
 +/dev/sdb1:
 +          Magic : a92b4efc
 +        Version : 0.90.00
 +           UUID : cc5892bf:a52da5c0:2ddc0efe:cce42a60 (local to host ymir2)
 +  Creation Time : Fri Aug 19 18:22:07 2011
 +     Raid Level : raid5
 +  Used Dev Size : 1953511936 (1863.01 GiB 2000.40 GB)
 +     Array Size : 3907023872 (3726.03 GiB 4000.79 GB)
 +   Raid Devices : 3
 +  Total Devices : 3
 +Preferred Minor : 0
 +
 +    Update Time : Thu Nov 17 19:32:24 2011
 +          State : clean
 + Active Devices : 3
 +Working Devices : 3
 + Failed Devices : 0
 +  Spare Devices : 0
 +       Checksum : 26f6dd32 - correct
 +         Events : 39
 +
 +         Layout : left-symmetric
 +     Chunk Size : 64K
 +
 +      Number   Major   Minor   RaidDevice State
 +this                 17        0      active sync   /dev/sdb1
 +
 +                   17        0      active sync   /dev/sdb1
 +                   33        1      active sync   /dev/sdc1
 +                   49        2      active sync   /dev/sdd1
 +
 +mdadm --examine /dev/sdc1
 +/dev/sdc1:
 +          Magic : a92b4efc
 +        Version : 0.90.00
 +           UUID : cc5892bf:a52da5c0:2ddc0efe:cce42a60 (local to host ymir2)
 +  Creation Time : Fri Aug 19 18:22:07 2011
 +     Raid Level : raid5
 +  Used Dev Size : 1953511936 (1863.01 GiB 2000.40 GB)
 +     Array Size : 3907023872 (3726.03 GiB 4000.79 GB)
 +   Raid Devices : 3
 +  Total Devices : 3
 +Preferred Minor : 0
 +
 +    Update Time : Thu Nov 17 19:32:24 2011
 +          State : clean
 + Active Devices : 3
 +Working Devices : 3
 + Failed Devices : 0
 +  Spare Devices : 0
 +       Checksum : 26f6dd44 - correct
 +         Events : 39
 +
 +         Layout : left-symmetric
 +     Chunk Size : 64K
 +
 +      Number   Major   Minor   RaidDevice State
 +this                 33        1      active sync   /dev/sdc1
 +
 +                   17        0      active sync   /dev/sdb1
 +                   33        1      active sync   /dev/sdc1
 +                   49        2      active sync   /dev/sdd1
 +
 +mdadm --examine /dev/sdd1
 +/dev/sdd1:
 +          Magic : a92b4efc
 +        Version : 0.90.00
 +           UUID : cc5892bf:a52da5c0:2ddc0efe:cce42a60 (local to host ymir2)
 +  Creation Time : Fri Aug 19 18:22:07 2011
 +     Raid Level : raid5
 +  Used Dev Size : 1953511936 (1863.01 GiB 2000.40 GB)
 +     Array Size : 3907023872 (3726.03 GiB 4000.79 GB)
 +   Raid Devices : 3
 +  Total Devices : 3
 +Preferred Minor : 0
 +
 +    Update Time : Thu Nov 17 19:32:24 2011
 +          State : clean
 + Active Devices : 3
 +Working Devices : 3
 + Failed Devices : 0
 +  Spare Devices : 0
 +       Checksum : 26f6dd56 - correct
 +         Events : 39
 +
 +         Layout : left-symmetric
 +     Chunk Size : 64K
 +
 +      Number   Major   Minor   RaidDevice State
 +this                 49        2      active sync   /dev/sdd1
 +
 +                   17        0      active sync   /dev/sdb1
 +                   33        1      active sync   /dev/sdc1
 +                   49        2      active sync   /dev/sdd1
 +</code>
 +
 +<code bash>
 +egrep -v "^$|^#" /etc/mdadm/mdadm.conf
 +DEVICE partitions
 +CREATE owner=root group=disk mode=0660 auto=yes
 +HOMEHOST <system>
 +MAILADDR root
 +ARRAY /dev/md0 level=raid5 num-devices=3 metadata=0.90 UUID=cc5892bf:a52da5c0:2ddc0efe:cce42a60
 +   devices=/dev/sdb1,/dev/sdc1,/dev/sdd1
 +</code>
 +
 +<code bash>
 +mdadm --detail --scan
 +ARRAY /dev/md/0_0 metadata=0.90 UUID=c50da923:2bb088ef:2ddc0efe:cce42a60
 +ARRAY /dev/md/0_1 metadata=0.90 UUID=cb278753:2d171315:2ddc0efe:cce42a60
 +</code>
 +
 +<code bash>
 +mdadm --stop /dev/md126
 + mdadm: stopped /dev/md126
 +mdadm --stop /dev/md127
 + mdadm: stopped /dev/md127
 +mdadm --assemble /dev/md0
 + mdadm: /dev/md0 has been started with 3 drives.
 +</code>
 +
 +<code bash>
 +mdadm --detail --scan
 +ARRAY /dev/md0 metadata=0.90 UUID=cc5892bf:a52da5c0:2ddc0efe:cce42a60
 +</code>
 +
 +<code bash>
 +cat /proc/mdstat
 +Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
 +md0 : active raid5 sdb1[0] sdd1[2] sdc1[1]
 +      3907023872 blocks level 5, 64k chunk, algorithm 2 [3/3] [UUU]
 +
 +unused devices: <none>
 +</code>
 +
  
 ====LVM==== ====LVM====
Line 416: Line 524:
   swap_1  ymir2  -wi-ao  2,47g   swap_1  ymir2  -wi-ao  2,47g
 </code> </code>
 +
 =====Management du raid===== =====Management du raid=====
 +
 +====Monitorer son RAID====
 +
 +<note warning>
 +Attention les commandes qui vont suivre ne proviennent pas toutes du même RAID !
 +</note>
 +
 +<code>
 +cat /proc/mdstat 
 + Personalities : [raid0] 
 + md1 : active raid0 sda3[0] sdb3[1]
 +       1945696256 blocks 64k chunks
 +       
 + md0 : active raid0 sda2[0] sdb2[1]
 +       5863552 blocks 64k chunks
 +       
 + unused devices: <none>
 +</code>
 +
 +On peut avoir plus de détails avec :
 +<code>
 +mdadm --detail /dev/md1
 +    /dev/md1:
 +         Version : 00.90
 +   Creation Time : Sat Feb  7 12:49:57 2009
 +      Raid Level : raid0
 +      Array Size : 1945696256 (1855.56 GiB 1992.39 GB)
 +    Raid Devices : 2
 +   Total Devices : 2
 + Preferred Minor : 1
 +     Persistence : Superblock is persistent
 + 
 +     Update Time : Tue Feb 10 20:31:42 2009
 +           State : clean
 +  Active Devices : 2
 + Working Devices : 2
 +  Failed Devices : 0
 +   Spare Devices : 0
 + 
 +      Chunk Size : 64K
 +  
 +            UUID : 9695e8d2:87d83bd5:e070d1d4:842cdf7e
 +          Events : 0.5
 +  
 +     Number   Major   Minor   RaidDevice State
 +        0              3        0      active sync   /dev/sda3
 +        1             19        1      active sync   /dev/sdb3
 +</code>
  
 Arrêter/Supprimer le raid : Arrêter/Supprimer le raid :
Line 441: Line 598:
  
  
-=====Management de LVM=====+=====Augmenter un RAID + LVM=====
  
-====Augmenter un lv====+Récemment j'ai ajouté un disque de 2 To à mon RAID 5 de 3x 2 To déjà en place. Voici la procédure que j'ai employée, elle se découpe en 2 étapes : 
 +  * augmenter le RAID 
 +  * augmenter le LV
  
-Synopsis : On a un lv ''/dev/md0_vg/data_lv'' de 2 To et on veut le monter à 4 To (soit la taille de son vg).+====Augmenter le RAID====
  
-Démonter le volume logique (NB : cette étape n'est pas obligatoire avec le système de fichier que j'utilise (ext4), mais vu que mon serveur n'est pas en prod ça ne me coûte pas plus cher) :+Bien sur ce nouveau disque disque a la même taille que les disques déjà inclus dans le RAID. Je créé une partition de type "fd" (Linux RAID auto) de taille max avec fdisk (en somme, exactement pareil que les autres disques) : 
 + 
 +<code bash> 
 +Disk /dev/sdc: 2000.4 GB, 2000398934016 bytes 
 +81 têtes, 63 secteurs/piste, 765633 cylindres, total 3907029168 secteurs 
 +Unités = secteurs de 1 * 512 = 512 octets 
 +Taille de secteur (logique / physique) : 512 octets / 512 octets 
 +taille d'E/S (minimale / optimale) : 512 octets / 512 octets 
 +Identifiant de disque : 0x720b8114 
 + 
 +Périphérique Amorce  Début        Fin      Blocs     Id  Système 
 +/dev/sdc1            2048  3907029167  1953513560   fd  RAID Linux autodétecté 
 +</code> 
 + 
 +Puis on ajoute le disque à la grappe : 
 +<code bash> 
 +mdadm /dev/md0 -a /dev/sdc1 
 +</code> 
 + 
 +Et enfin on augmente le nombre de disque à notre RAID. **Attention** cette étape va automatiquement lancer la resynchronisation du RAID, qui prend beaucoup de temps et ne supporte pas d'arrêt ou de redémarrage électrique (sous peine de perdre vos données). 
 +<code bash> 
 +mdadm --grow /dev/md0 --raid-device=4 
 +mdadm: Need to backup 3072K of critical section.. 
 +</code> 
 + 
 +<note important> 
 +Ne faites pas comme moi qui ai lancé cette commande à peine 3h avant une coupure électrique programmée... D'ailleurs à ce propos (et pour info), en fait on peut arrêter la machine (et donc la synchro) passé un certain temps, le mdadm doit juste passer la section critique (!). Moi les 3h ont suffit, et en rallumant le bousin le lendemain le gentil RAID a poursuivi sa synchronisation comme si de rien n'était ! 
 +</note> 
 + 
 +Vérification de l'état d'avancement : 
 +<code bash> 
 +cat /proc/mdstat 
 +Personalities : [raid6] [raid5] [raid4] [linear] [multipath] [raid0] [raid1] [raid10] 
 +md0 : active raid5 sdc1[3] sdd1[2] sdb1[1] sda1[0] 
 +      3906763776 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/4] [UUUU] 
 +      [>....................]  reshape =  0.1% (3267072/1953381888) finish=1624.4min speed=20007K/sec 
 +</code> 
 + 
 +Une fois la synchro terminée (soit environ <del>28</del> 2 jours plus tard...) mdadm affiche enfin une taille digne de son rang : 6 To ! 
 +<code bash> 
 +mdadm --detail /dev/md0 
 + 
 +/dev/md0: 
 +        Version : 1.2 
 +  Creation Time : Wed Sep 12 21:35:52 2012 
 +     Raid Level : raid5 
 +     Array Size : 5860145664 (5588.67 GiB 6000.79 GB) 
 +  Used Dev Size : 1953381888 (1862.89 GiB 2000.26 GB) 
 +   Raid Devices : 4 
 +  Total Devices : 4 
 +    Persistence : Superblock is persistent 
 + 
 +    Update Time : Tue Feb 19 06:03:31 2013 
 +          State : clean 
 + Active Devices : 4 
 +Working Devices : 4 
 + Failed Devices : 0 
 +  Spare Devices : 0 
 + 
 +         Layout : left-symmetric 
 +     Chunk Size : 512K 
 + 
 +           Name : ymir2: (local to host ymir2) 
 +           UUID : 5766333b:7721932e:a40ebe2e:0c6fe1d0 
 +         Events : 14151 
 + 
 +    Number   Major   Minor   RaidDevice State 
 +                    1        0      active sync   /dev/sda1 
 +                   17        1      active sync   /dev/sdb1 
 +                   49        2      active sync   /dev/sdd1 
 +                   33        3      active sync   /dev/sdc1 
 +</code> 
 + 
 +C'est déjà bien mais c'est pô fini ; il faut maintenant le dire à LVM ! 
 + 
 +====Prise en compte par LVM==== 
 + 
 +1) Première chose : Démonter le volume logique (NB : cette étape n'est pas obligatoire avec le système de fichier que j'utilise (ext4), mais vu que mon serveur n'est pas en prod ça ne me coûte pas plus cher) :
 <code bash> <code bash>
 umount /dev/md0_vg/data_lv umount /dev/md0_vg/data_lv
 </code> </code>
  
-Augmenter la taille du lv ; attention sa taille ne doit pas dépasser la taille de son volume group (vg), ni être inférieur sa taille actuelle (sinon on perd des données). Pour le vérifier :+2) Augmenter la taille du pv :
 <code bash> <code bash>
-# on regarde a quel vg le lv appartient -> md0_vg +pvresize /dev/md0 
-lvdisplay /dev/md0_vg/data_lv +  Physical volume "/dev/md0" changed 
-  --- Logical volume --- +  1 physical volume(s) resized / 0 physical volume(s) not resized
-  LV Name                /dev/md0_vg/data_lv +
-  VG Name                md0_vg +
-  LV UUID                WSTrwM-JLAG-Bu9R-GsHw-XVsT-Dpbo-Zm5imT +
-  LV Write Access        read/write +
-  LV Status              available +
-  # open                 0 +
-  LV Size                2,00 TiB +
-  Current LE             524288 +
-  Segments               1 +
-  Allocation             inherit +
-  Read ahead sectors     auto +
-  - currently set to     4096 +
-  Block device           253:2+
  
-on affiche les caractéristique du vg +vérif : c'est mieux ! 
-vgdisplay md0_vg+pvdisplay 
 +  --- Physical volume --- 
 +  PV Name               /dev/md0 
 +  VG Name               md0_vg 
 +  PV Size               5,46 TiB / not usable 1,50 MiB 
 +  Allocatable           yes (but full) 
 +  PE Size               4,00 MiB 
 +  Total PE              1430699 
 +  Free PE               0 
 +  Allocated PE          1430699 
 +  PV UUID               Cy7Zxe-Src9-5hQi-QQ0W-waMI-yv3V-mECzi8 
 +   
 +# le vg en tient compte immédiatement : 
 +vgdisplay
   --- Volume group ---   --- Volume group ---
   VG Name               md0_vg   VG Name               md0_vg
Line 478: Line 714:
   Format                lvm2   Format                lvm2
   Metadata Areas        1   Metadata Areas        1
-  Metadata Sequence No  2+  Metadata Sequence No  5
   VG Access             read/write   VG Access             read/write
   VG Status             resizable   VG Status             resizable
Line 487: Line 723:
   Cur PV                1   Cur PV                1
   Act PV                1   Act PV                1
-  VG Size               3,64 TiB+  VG Size               5,46 TiB
   PE Size               4,00 MiB   PE Size               4,00 MiB
-  Total PE              953862 +  Total PE              1430699 
-  Alloc PE / Size       524288 2,00 TiB +  Alloc PE / Size       1430699 5,46 TiB 
-  Free  PE / Size       429574 1,64 TiB +  Free  PE / Size       0 
-  VG UUID               1g20v1-7HKi-CWtx-D8IP-GS9P-rTfB-nL9WHr+  VG UUID               AEKER3-SOwc-zwSQ-rR4J-iJw0-IxlI-qP2hd6
 </code> </code>
-On a bien 3.64TiB au total soit 4 To. 
  
-On pourrait déclarer une nouvelle taille de 3.64 TiB (''-L 3.64T''), ou ajouter 1.64 To (''-L +1.64T''- pour toutes les options existantesconsulter le ''man lvresize''mais on veut la taille totale du vg donc on va être précis et utiliser l'option ''-l +100%FREE'' qui indique qu'on ajoute toute la place libre restante du vg :+3) Augmenter la taille du lv ; attention sa taille ne doit pas dépasser la taille de son volume group (vg), ni être inférieur sa taille actuelle (sinon on perd des données). 
 + 
 +On pourrait déclarer une nouvelle taille de 5,46 TiB (''-L 3.64T''), ou même ajouter 1.64 To (''-L +1.64T''), mais on veut la taille totale du vg donc on va être précis et utiliser l'option ''-l +100%FREE'' qui indique qu'on ajoute toute la place libre restante du vg :
 <code bash> <code bash>
 lvresize -l +100%FREE /dev/md0_vg/data_lv lvresize -l +100%FREE /dev/md0_vg/data_lv
-  Extending logical volume data_lv to 3,64 TiB+  Extending logical volume data_lv to 5,46 TiB
   Logical volume data_lv successfully resized   Logical volume data_lv successfully resized
 </code> </code>
  
-On doit ensuite vérifier l'intégrité du volume logique : +4) On doit ensuite vérifier l'intégrité du volume logique : 
-<code bash> +<code bash>e2fsck -f /dev/md0_vg/data_lv 
-e2fsck -f /dev/md0_vg/data_lv + e2fsck 1.42 (29-Nov-2011)
- e2fsck 1.41.12 (17-May-2010)+
  Passe 1 : vérification des i-noeuds, des blocs et des tailles  Passe 1 : vérification des i-noeuds, des blocs et des tailles
  Passe 2 : vérification de la structure des répertoires  Passe 2 : vérification de la structure des répertoires
Line 512: Line 748:
  Passe 4 : vérification des compteurs de référence  Passe 4 : vérification des compteurs de référence
  Passe 5 : vérification de l'information du sommaire de groupe  Passe 5 : vérification de l'information du sommaire de groupe
- /dev/md0_vg/data_lv 11/201326592 fichiers (0.0% non contigus), 12687388/805306368 blocs+ /dev/md0_vg/data_lv 287397/244178944 fichiers (1.0% non contigüs), 950095488/976689152 blocs
 </code> </code>
  
Line 518: Line 754:
 <code bash> <code bash>
 resize2fs /dev/md0_vg/data_lv resize2fs /dev/md0_vg/data_lv
- resize2fs 1.41.12 (17-May-2010+ resize2fs 1.42 (29-Nov-2011
- En train de retailler le système de fichiers sur /dev/md0_vg/data_lv à 976754688 (4k) blocs. + En train de redimensionner le système de fichiers sur /dev/md0_vg/data_lv à 1465035776 (4k) blocs. 
- Le système de fichiers /dev/md0_vg/data_lv a maintenant une taille de 976754688 blocs.+ Le système de fichiers /dev/md0_vg/data_lv a maintenant une taille de 1465035776 blocs.
 </code> </code>
  
-et on remonte le lv :+... et on remonte le lv :
 <code bash> <code bash>
 mount /dev/md0_vg/data_lv mount /dev/md0_vg/data_lv
  
-df -Th /mnt/data +df -hT /mnt/data 
- Sys. fich.    Type  Taille  Uti. Disp. Uti% Monté sur +Sys. de fichiers           Type Taille Utilisé Dispo Uti% Monté sur 
- /dev/mapper/md0_vg-data_lv +/dev/mapper/md0_vg-data_lv ext4   5,4T    3,5T  1,9T  65% /mnt/data
-             ext4    3,6T  196M  3,6T   1% /mnt/data+
 </code> </code>
 +
 +Okaaaay !
 +
 =====Tests et banchmarks===== =====Tests et banchmarks=====
  
informatique/linux/raid0_sous_linux.txt · Last modified: 2024/06/29 14:10 by pteu