ฉันกำลังพยายามกู้คืนอาร์เรย์ raid1 ดิสก์ทั้งสองเป็นแฟลชไดรฟ์ NVMe

ฉันทำสิ่งที่โง่จริงๆ ในตอนท้ายของวันที่ยาวนานและเลวร้าย - ลบ 512 ไบต์แรกของแต่ละไดรฟ์ NVMe - ความตั้งใจที่จะปิดการใช้งานตัวโหลดการบูต ปรากฎว่าฉันลบข้อมูลพาร์ติชั่นและข้อมูล RAID ฉันสำรองข้อมูล 512 ไบต์เหล่านั้น - แต่เดาสิ - ฉันทำอะไรกับดิสก์เดียวกัน ดังนั้นจึงไม่สามารถเข้าถึงได้ในขณะนี้

ฉันทำสำเนาของดิสก์ด้วย dd ไปยังดิสก์อื่น และเริ่มพยายามกู้คืนข้อมูล -- ทำ testdisk ซึ่งพบพาร์ติชั่นทั้งหมด:

Disk /dev/nvme0n1 - 512 GB / 476 GiB - CHS 488386 64 32
Current partition structure:
    Partition                  Start        End    Size in sectors

1 * Linux RAID               1   0  1 32737  63 32   67045376 [rescue:0]
2 P Linux RAID           32769   0  1 33280  63 32    1048576 [rescue:1]
3 P Linux RAID           33281   0  1 488257  63 32  931792896 [rescue:2]

ฉันเขียนข้อมูลพาร์ติชันนี้ลงในดิสก์ทั้งสอง ทำการรีบูต แต่มีเพียง /boot พาร์ติชัน - อันแรก - กู้คืน ฉันพยายามประกอบพาร์ติชันรูท (อันที่สาม) ด้วย mdadm แต่มันล้มเหลวด้วย

[Sun May 27 11:30:40 2018] md: nvme0n1p3 does not have a valid v1.2 superblock, not importing!
[Sun May 27 11:30:45 2018] md: nvme0n1p3 does not have a valid v1.2 superblock, not importing!
[Sun May 27 13:45:32 2018] md: nvme1n1p1 does not have a valid v1.2 superblock, not importing!
[Sun May 27 13:45:32 2018] md: nvme0n1p1 does not have a valid v1.2 superblock, not importing!
[Sun May 27 13:45:32 2018] md: nvme1n1p3 does not have a valid v1.2 superblock, not importing!
[Sun May 27 13:45:32 2018] md: nvme0n1p3 does not have a valid v1.2 superblock, not importing!

แผนของฉันคือการติดตั้งพาร์ติชั่นรูทจากดิสก์ตัวใดตัวหนึ่ง รับข้อมูลสำรองของเซกเตอร์ และกู้คืนทุกอย่าง

แต่ฉันไม่สามารถเมานต์ /dev/nvme1n1p3 มันล้มเหลว

# mount /dev/nvme0n1p3  /mnt/arr2
mount: unknown filesystem type 'linux_raid_member'

# mount /dev/nvme0n1p3  /mnt/arr2 -t ext4
mount: /dev/nvme0n1p3 is already mounted or /mnt/arr2 busy

สิ่งที่สามารถทำได้เพื่อเข้าถึงไฟล์ใน /dev/nvme0n1p3?

UPDATE:ขอบคุณคำแนะนำจาก Peter Zhabin ฉันพยายามกู้คืนระบบไฟล์บนไดรฟ์ตัวใดตัวหนึ่ง /dev/nvme1n1 โดยกู้คืนพาร์ติชั่นด้วยความช่วยเหลือของ testdisk:

ฉันทำการออฟเซ็ตจากเซิร์ฟเวอร์อื่นที่มีดิสก์และการแบ่งพาร์ติชันที่คล้ายกัน (แต่ไม่ตรง):

 losetup --find --show --read-only --offset $((262144*512)) /dev/nvme1n1p3 

Fsck บ่นเรื่องการแบ่งพาร์ติชันที่ไม่ถูกต้อง (หรือ superblock) และให้สถิติ FS ซึ่งดูใกล้เคียงกับสิ่งที่อยู่ในไดรฟ์จริงๆ:

 fsck.ext3 -n -v /dev/loop1

    e2fsck 1.43.3 (04-Sep-2016)
    Warning: skipping journal recovery because doing a read-only filesystem check.
    The filesystem size (according to the superblock) is 116473936 blocks
    The physical size of the device is 116441344 blocks
    Either the superblock or the partition table is likely to be corrupt!
    Abort? no

    /dev/loop1 contains a file system with errors, check forced.
    Pass 1: Checking inodes, blocks, and sizes
    Inode 26881053 extent tree (at level 2) could be narrower.  Fix? no

    Pass 2: Checking directory structure
    Pass 3: Checking directory connectivity
    Pass 4: Checking reference counts
    Pass 5: Checking group summary information
    Free blocks count wrong (20689291, counted=20689278).
    Fix? no

    Free inodes count wrong (25426857, counted=25426852).
    Fix? no


         3695703 inodes used (12.69%, out of 29122560)
           30256 non-contiguous files (0.8%)
             442 non-contiguous directories (0.0%)
                 # of inodes with ind/dind/tind blocks: 0/0/0
                 Extent depth histogram: 3616322/1294/3
        95784645 blocks used (82.24%, out of 116473936)
               0 bad blocks
              29 large files

         3510238 regular files
          107220 directories
               2 character device files
               0 block device files
              53 fifos
            1248 links
           78147 symbolic links (77987 fast symbolic links)
              39 sockets
    ------------
         3696947 files

อย่างไรก็ตาม ฉันไม่สามารถเมานต์ระบบไฟล์ได้:

 [email protected] /mnt/backups # mount -o ro /dev/loop1 /mnt/reco/
 mount: wrong fs type, bad option, bad superblock on /dev/loop1,
   missing codepage or helper program, or other error

สิ่งที่สามารถทำได้ต่อไป? รู้สึกว่าข้อมูลใกล้ตัว...

answer

โอเค ในที่สุดฉันก็สามารถกู้คืน MBR ได้ ดังที่ได้กล่าวไว้ข้างต้น ฉันได้สำรองข้อมูล MBR ของไดรฟ์ RAID ทั้งสองตัวแล้ว - ไปยังตัวไดรฟ์เอง มันทำด้วยความช่วยเหลือของคำสั่ง dd:

dd if=/dev/nvme0n1 bs=512 count=1 of=nvme0n1.bootsector.backup
dd if=/dev/nvme1n1 bs=512 count=1 of=nvme1n1.bootsector.backup 

ฉันคิดว่าจะสามารถค้นหาไฟล์สำรอง MBR ในอิมเมจของไดรฟ์ได้ ฉันได้บันทึกภาค MBR บนเซิร์ฟเวอร์ที่คล้ายกันไปยังไฟล์ mbrb.backup และมีสตริง:

 "GRUB\20\0Geom\0Hard\20Disk\0Read\0\20Error"

เนื่องจากฉันไม่ได้จัดการวิธีค้นหาสตริงที่มี null ไบต์ในอิมเมจ 512Gb ฉันจึงทำการค้นหา grep ซึ่งค้นหาสตริงแต่ละรายการ เช่นนี้ใน MBR ที่ใช้งานได้:

#dd if=/dev/sdb of=mbrb.backup bs=512 count=1
#strings -t d mbr.backup | grep -4 -iE 'GRUB' | grep -4 'Geom' | grep -4 'Hard Disk' | grep -4 'Read' | grep -4 'Error'
392 GRUB
398 Geom
403 Hard Disk
413 Read
418  Error

ฉันเริ่มค้นหาสตริงนี้ในไดรฟ์ดิบ:

#strings -t d /dev/nvme1n1 | grep -4 -iE 'GRUB' | grep -4 'Geom' | grep -4 'Hard Disk' | grep -4 'Read' | grep -4 'Error'

และพบออฟเซ็ตมากกว่า 20 รายการกับสตริงนี้ ออฟเซ็ตมีลักษณะดังนี้:

34368320904 GRUB
34368320910 Geom
34368320915 Hard Disk
34368320925 Read
34368320930  Error

34702932360 GRUB
34702932366 Geom
34702932371 Hard Disk
34702932381 Read
34702932386  Error

and some more results....

กว่าที่ฉันบันทึกทั้งหมดด้วย dd คำนวณจำนวนบล็อกด้วย bc:

bc 1.06.95
Copyright 1991-1994, 1997, 1998, 2000, 2004, 2006 Free Software Foundation, Inc.
This is free software with ABSOLUTELY NO WARRANTY.
For details type `warranty'.
34368320904/512
67125626

dd if=/dev/nvme1n1 of=recovery_file.34368320904 bs=512 skip=67125626 count=2

มีไฟล์มากกว่า 20 ไฟล์ ส่วนใหญ่คล้ายกันทุกประการ อาจเป็นไฟล์ GRUB บางไฟล์ จากนั้นฉันก็เริ่มเปรียบเทียบกับ MBR ที่ฉันบันทึกไว้จากเซิร์ฟเวอร์ที่ใช้งานได้ อันสุดท้ายดูคล้ายกันมาก ฉันได้บันทึกไว้ใน MBR ของดิสก์ที่เสียหาย:

 dd if=recovery_file.475173835144 of=/dev/nvme1n1 bs=521 count=1

ตรวจสอบด้วย testdisk ที่น่าสนใจคือมันบ่นว่าพาร์ติชั่นผิด แต่ทุกอย่างดูมีแนวโน้มมาก:

Disk /dev/nvme1n1 - 512 GB / 476 GiB - CHS 488386 64 32
Current partition structure:
 Partition                  Start        End    Size in sectors

 1 P Linux RAID               1   0  1 32768  63 32   67108864 [rescue:0]

Warning: Bad starting sector (CHS and LBA don't match)
 2 P Linux RAID           32769   0  1 33280  63 32    1048576 [rescue:1]

Warning: Bad starting sector (CHS and LBA don't match)
 3 P Linux RAID           33281   0  1 488385  21 16  932053680 [rescue:2]

Warning: Bad starting sector (CHS and LBA don't match)
No partition is bootable

ดังนั้นฉันจึงเสี่ยงและใส่ MBR เดียวกันกับ /dev/nvme0n1 raid หลังจากรีบูตอุปกรณ์ md ก็ขึ้นและข้อมูลของฉันก็กลับมา ดูเหมือนปาฏิหาริย์