सवाल माध्यमिक में drbd स्विच नहीं कर सकते हैं


मैं चल रहा हुँ drbd83 साथ में ocfs2 में centos 5 और उपयोग करने की योजना बना रहा है packemaker उनके साथ। कुछ समय बाद, मुझे सामना करना पड़ रहा है drbd विभाजित मस्तिष्क की समस्या।

version: 8.3.13 (api:88/proto:86-96)
GIT-hash: 83ca112086600faacab2f157bc5a9324f7bd7f77 build by mockbuild@builder10.centos.org, 2012-05-07 11:56:36

 1: cs:StandAlone ro:Primary/Unknown ds:UpToDate/DUnknown   r-----
    ns:0 nr:0 dw:112281991 dr:797551 al:99 bm:6401 lo:0 pe:0 ua:0 ap:0 ep:1 wo:b oos:60

मैं अपने drbd माध्यमिक में स्विच नहीं कर सकता।

drbdadm secondary r0
1: State change failed: (-12) Device is held open by someone
Command 'drbdsetup 1 secondary' terminated with exit code 11

मेरे drbd संसाधन विन्यास:

resource r0 {
        syncer { 
                rate 1000M; 
                verify-alg sha1;
        }

        disk {
                on-io-error detach;
        }

        handlers {
           pri-lost-after-sb "/usr/lib/drbd/notify-split-brain.sh root";
        }

        net {
                allow-two-primaries;
                after-sb-0pri discard-younger-primary;
                after-sb-1pri call-pri-lost-after-sb;
                after-sb-2pri call-pri-lost-after-sb;
        }
        startup { become-primary-on both; }

        on serving_4130{
                device          /dev/drbd1;
                disk            /dev/sdb1;
                address         192.168.4.130:7789;
                meta-disk       internal;
        }
        on MT305-3182 {
                device          /dev/drbd1;
                disk            /dev/xvdb1;
                address         192.168.3.182:7789;
                meta-disk       internal;
        }
}

Ocfs2 स्थिति की स्थिति:

service ocfs2 status
Configured OCFS2 mountpoints:  /data

lsof दिखाएं कि, डीबीबी के साथ एक प्रक्रिया है।

lsof | grep drbd
COMMAND     PID      USER   FD      TYPE             DEVICE     SIZE       NODE NAME
drbd1_wor  7782      root  cwd       DIR              253,0     4096          2 /
drbd1_wor  7782      root  rtd       DIR              253,0     4096          2 /
drbd1_wor  7782      root  txt   unknown                                        /proc/7782/exe

और यह एक मृत सिम्लिंक है:

# ls -l /proc/7782/exe
ls: cannot read symbolic link /proc/7782/exe: No such file or directory
lrwxrwxrwx 1 root root 0 May  4 09:56 /proc/7782/exe

# ps -ef | awk '$2 == "7782" { print $0 }'
root      7782     1  0 Apr22 ?        00:00:20 [drbd1_worker]

ध्यान दें कि यह प्रक्रिया स्क्वायर ब्रैकेट में लिपटे है:

man ps:

args       COMMAND  command with all its arguments as a string. Modifications to the arguments may be shown. The
                    output in this column may contain spaces. A process marked <defunct> is partly dead, waiting to
                    be fully destroyed by its parent. Sometimes the process args will be unavailable; when this
                    happens, ps will instead print the executable name in brackets.

तो, अंतिम सवाल यह है कि हम इस मामले में डीआरबीडी को मैन्युअल रूप से कैसे पुनर्प्राप्त कर सकते हैं रिबूट किए बिना?


@Andreask को उत्तर दें:

मेरी विभाजन तालिका:

# df -h
Filesystem            Size  Used Avail Use% Mounted on
/dev/mapper/VolGroup00-LogVol00
                       35G  6.9G   27G  21% /
/dev/xvda1             99M   20M   74M  22% /boot
tmpfs                 1.0G     0  1.0G   0% /dev/shm
/dev/drbd1            100G  902M  100G   1% /data

डिवाइस का नाम:

# dmsetup ls --tree -o inverted
 (202:2)
 ├─VolGroup00-LogVol01 (253:1)
 └─VolGroup00-LogVol00 (253:0)

ब्लॉक डिवाइस पर ध्यान दें (253:0), यह उत्पादन के समान है lsof:

# lvdisplay 
  --- Logical volume ---
  LV Name                /dev/VolGroup00/LogVol00
  VG Name                VolGroup00
  LV UUID                vCd152-amVZ-GaPo-H9Zs-TIS0-KI6j-ej8kYi
  LV Write Access        read/write
  LV Status              available
  # open                 1
  LV Size                35.97 GB
  Current LE             1151
  Segments               1
  Allocation             inherit
  Read ahead sectors     auto
  - currently set to     256
  Block device           253:0

@Doug को उत्तर दें:

# vgdisplay 
  --- Volume group ---
  VG Name               VolGroup00
  System ID             
  Format                lvm2
  Metadata Areas        1
  Metadata Sequence No  3
  VG Access             read/write
  VG Status             resizable
  MAX LV                0
  Cur LV                2
  Open LV               2
  Max PV                0
  Cur PV                1
  Act PV                1
  VG Size               39.88 GB
  PE Size               32.00 MB
  Total PE              1276
  Alloc PE / Size       1276 / 39.88 GB
  Free  PE / Size       0 / 0   
  VG UUID               OTwzII-AP5H-nIbH-k2UA-H9nw-juBv-wcvmBq

अद्यतन शुक्र मई 17 16:08:16 आईसीटी 2013

यहाँ हैं कुछ  विचारों से लार्स एलेनबर्ग:

अगर फाइल सिस्टम अभी भी आरोहित है ... ओह ठीक है। इसे अनमाउंट करें। आलसी नहीं,   लेकिन वास्तव में।

मुझे यकीन है, ओसीएफएस 2 पहले से ही अनमाउंट किया गया था।

अगर एनएफएस शामिल था, तो कोशिश करें

killall -9 nfsd
killall -9 lockd
echo 0 > /proc/fs/nfsd/threads

नहीं, एनएफएस शामिल नहीं था।

यदि lvm / dmsetup / kpartx / multipath / udev शामिल है, तो कोशिश करें

dmsetup ls --tree -o inverted

और जांच करें कि क्या DRbd से निर्भरताएं हैं।

जैसा कि आप मेरे उपरोक्त आउटपुट से देख सकते हैं, एलवीएम डीआरबीडी से संबंधित नहीं है:

pvdisplay -m

  --- Physical volume ---
  PV Name               /dev/xvda2
  VG Name               VolGroup00
  PV Size               39.90 GB / not usable 20.79 MB
  Allocatable           yes (but full)
  PE Size (KByte)       32768
  Total PE              1276
  Free PE               0
  Allocated PE          1276
  PV UUID               1t4hkB-p43c-ABex-stfQ-XaRt-9H4i-51gSTD

  --- Physical Segments ---
  Physical extent 0 to 1148:
    Logical volume      /dev/VolGroup00/LogVol00
    Logical extents     0 to 1148
  Physical extent 1149 to 1275:
    Logical volume      /dev/VolGroup00/LogVol01
    Logical extents     0 to 126

fdisk -l

Disk /dev/xvda: 42.9 GB, 42949672960 bytes
255 heads, 63 sectors/track, 5221 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes

    Device Boot      Start         End      Blocks   Id  System
/dev/xvda1   *           1          13      104391   83  Linux
/dev/xvda2              14        5221    41833260   8e  Linux LVM

Disk /dev/xvdb: 107.3 GB, 107374182400 bytes
255 heads, 63 sectors/track, 13054 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes

    Device Boot      Start         End      Blocks   Id  System
/dev/xvdb1               1       13054   104856223+  83  Linux

यदि लूप / क्रिप्टोलोप / आदि शामिल है, तो जांचें कि उनमें से कोई अभी भी है या नहीं   उन्हें एक्सेस करना

अगर कुछ वर्चुअलाइजेशन टेक्निकिक उपयोग में है, तो सभी को बंद / नष्ट करें   कंटेनर / वीएम जो कि उनके दौरान उस drbd तक पहुंच रहे हैं   जीवन काल।

नहीं, यह नहीं करता है।

कभी-कभी यह केवल udev या समकक्ष दौड़ कर रहा है।

मैंने अक्षम कर दिया है multipath नियम और यहां तक ​​कि रोको udevd, और कुछ भी नहीं बदलता है।

कभी-कभी यह एक यूनिक्स डोमेन सॉकेट या समान अभी भी खुला रहता है (नहीं   lsof / fuser में आवश्यक शो)।

यदि हां, तो हम इस यूनिक्स सॉकेट को कैसे ढूंढ सकते हैं?


अद्यतन बुध 22 मई 22:10:41 आईसीटी 2013

डंपिंग करते समय डीआरबीडी कार्यकर्ता प्रक्रिया का स्टैकट्रैक यहां दिया गया है जादू SysRq कुंजी:

kernel: drbd1_worker  S ffff81007ae21820     0  7782      1          7795  7038 (L-TLB)
kernel:  ffff810055d89e00 0000000000000046 000573a8befba2d6 ffffffff8008e82f 
kernel:  00078d18577c6114 0000000000000009 ffff81007ae21820 ffff81007fcae040 
kernel:  00078d18577ca893 00000000000002b1 ffff81007ae21a08 000000017a590180 
kernel: Call Trace: 
kernel:  [<ffffffff8008e82f>] enqueue_task+0x41/0x56 
kernel:  [<ffffffff80063002>] thread_return+0x62/0xfe 
kernel:  [<ffffffff80064905>] __down_interruptible+0xbf/0x112 
kernel:  [<ffffffff8008ee84>] default_wake_function+0x0/0xe 
kernel:  [<ffffffff80064713>] __down_failed_interruptible+0x35/0x3a 
kernel:  [<ffffffff885d461a>] :drbd:.text.lock.drbd_worker+0x2d/0x43 
kernel:  [<ffffffff885eca37>] :drbd:drbd_thread_setup+0x127/0x1e1 
kernel:  [<ffffffff800bab82>] audit_syscall_exit+0x329/0x344 
kernel:  [<ffffffff8005dfb1>] child_rip+0xa/0x11 
kernel:  [<ffffffff885ec910>] :drbd:drbd_thread_setup+0x0/0x1e1 
kernel:  [<ffffffff8005dfa7>] child_rip+0x0/0x11 

मुझे यकीन नहीं है कि क्या यह ओसीएफएस 2 दिल की धड़कन क्षेत्र डीआरबीडी को माध्यमिक पर स्विच करने से रोक रहा है:

kernel: o2hb-C3E41CA2 S ffff810002536420     0  9251     31                3690 (L-TLB)
kernel:  ffff810004af7d20 0000000000000046 ffff810004af7d30 ffffffff80063002
kernel:  1400000004000000 000000000000000a ffff81007ec307a0 ffffffff80319b60
kernel:  000935c260ad6764 0000000000000fcd ffff81007ec30988 0000000000027e86
kernel: Call Trace:
kernel:  [<ffffffff80063002>] thread_return+0x62/0xfe
kernel:  [<ffffffff8006389f>] schedule_timeout+0x8a/0xad
kernel:  [<ffffffff8009a41d>] process_timeout+0x0/0x5
kernel:  [<ffffffff8009a97c>] msleep_interruptible+0x21/0x42
kernel:  [<ffffffff884b3b0b>] :ocfs2_nodemanager:o2hb_thread+0xd2c/0x10d6
kernel:  [<ffffffff80063002>] thread_return+0x62/0xfe
kernel:  [<ffffffff800a329f>] keventd_create_kthread+0x0/0xc4
kernel:  [<ffffffff884b2ddf>] :ocfs2_nodemanager:o2hb_thread+0x0/0x10d6
kernel:  [<ffffffff800a329f>] keventd_create_kthread+0x0/0xc4
kernel:  [<ffffffff80032632>] kthread+0xfe/0x132
kernel:  [<ffffffff8005dfb1>] child_rip+0xa/0x11
kernel:  [<ffffffff800a329f>] keventd_create_kthread+0x0/0xc4
kernel:  [<ffffffff80032534>] kthread+0x0/0x132
kernel:  [<ffffffff8005dfa7>] child_rip+0x0/0x11

10
2017-07-18 06:08


मूल


यह एक प्रोग्रामिंग मंच है, पढ़ें सामान्य प्रश्न; इसलिए यह सवाल एक बेहतर फिट होगा सुपर उपयोगकर्ता। बंद करने के लिए वोटिंग। - t0mm13b
क्या तुमने किया umount  ocfs इसे माध्यमिक में स्थानांतरित करने की कोशिश करने से पहले? - Nils
@Nils: हां, ओसीएफएस 2 को पहले से ही डिमोट करने की कोशिश करने से पहले अनमाउंट किया गया था। - quanta


जवाब:


मुझे यकीन नहीं है कि क्या यह ओसीएफएस 2 दिल की धड़कन क्षेत्र डीआरबीडी को रोक रहा है   माध्यमिक में स्विचिंग:

शायद। क्या आपने उस क्षेत्र को मारने की कोशिश की है इस मार्गदर्शक?

# /etc/init.d/o2cb offline serving
Stopping O2CB cluster serving: Failed
Unable to stop cluster as heartbeat region still active

ठीक है, सबसे पहले आपको ओसीएफएस 2 वॉल्यूम्स को उनके लेबल और यूयूड्स के साथ सूचीबद्ध करना चाहिए:

# mounted.ocfs2 -d
Device                FS     Stack  UUID                              Label
/dev/sdb1             ocfs2  o2cb   C3E41CA2BDE8477CA7FF2C796098633C  data_ocfs2
/dev/drbd1            ocfs2  o2cb   C3E41CA2BDE8477CA7FF2C796098633C  data_ocfs2

दूसरा, यह देखने के लिए जांचें कि क्या आपके पास इस डिवाइस का कोई संदर्भ है या नहीं:

# ocfs2_hb_ctl -I -d /dev/sdb1
C3E41CA2BDE8477CA7FF2C796098633C: 1 refs

इसे मारने की कोशिश करो:

# ocfs2_hb_ctl -K -d /dev/sdb1 ocfs2

फिर क्लस्टर स्टैक को रोकें:

# /etc/init.d/o2cb stop
Stopping O2CB cluster serving: OK
Unmounting ocfs2_dlmfs filesystem: OK
Unloading module "ocfs2_dlmfs": OK
Unmounting configfs filesystem: OK
Unloading module "configfs": OK

और डिवाइस को माध्यमिक भूमिका में वापस लाएं:

# drbdadm secondary r0
# drbd-overview 
  1:r0  StandAlone Secondary/Unknown UpToDate/DUnknown r----- 

अब आप सामान्य रूप से विभाजित मस्तिष्क को पुनर्प्राप्त कर सकते हैं:

# drbdadm -- --discard-my-data connect r0
# drbd-overview 
  1:r0  WFConnection Secondary/Unknown UpToDate/DUnknown C r----- 

अन्य नोड (विभाजित मस्तिष्क उत्तरजीवी) पर:

# drbdadm connect r0
# drbd-overview                                                                                                
  1:r0  SyncSource Primary/Secondary UpToDate/Inconsistent C r---- /data ocfs2 100G 1.9G 99G 2% 
        [>....................] sync'ed:  3.2% (753892/775004)K delay_probe: 28

विभाजित मस्तिष्क पीड़ित पर:

# /etc/init.d/o2cb start
Loading filesystem "configfs": OK
Mounting configfs filesystem at /sys/kernel/config: OK
Loading filesystem "ocfs2_dlmfs": OK
Mounting ocfs2_dlmfs filesystem at /dlm: OK
Starting O2CB cluster serving: OK

# /etc/init.d/ocfs2 start
Starting Oracle Cluster File System (OCFS2)                [  OK  ]

सत्यापित करें कि यह माउंट पॉइंट ऊपर और चल रहा है:

# df -h /data/
Filesystem            Size  Used Avail Use% Mounted on
/dev/drbd1            100G  1.9G   99G   2% /data

3
2018-05-22 16:11



अच्छा कार्य! आप मुझे डीआरबीडी के साथ निराशा से बचाते हैं। लगभग एक साल के बाद समस्या हल हो जाती है। धन्यवाद! - favadi


डीआरबीडी संसाधन को कम करने में असमर्थ होने का एक आम कारण एक सक्रिय डिवाइस-मैपर डिवाइस है ... वॉल्यूम समूह की तरह। आप इसे देख सकते हैं उदा। साथ में:

dmsetup ls --tree -o inverted

4
2017-07-25 21:38



dmsetup ls --tree -o inverted     (8: 2) ├─VolGroup00-LogVol01 (253: 1) └─VolGroup00-LogVol00 (253: 0) तो मैं इससे कैसे निपट सकता हूं? - favadi
या तो इसे डिवाइस मैपर से हटा दें या वॉल्यूम समूह को निष्क्रिय करें (vgchange -an volume_group)। - Doug
डीआरबीडी लॉजिकल वॉल्यूम का उपयोग बैकिंग डिवाइस के रूप में नहीं करता है। - quanta
और यदि यह डिवाइस को लटक रहा है, तो आप डिवाइस को हटा सकते हैं dmsetup remove। - Igor Galić