Re: Дискова подсист ема перегружена?
Pavel Ammosov пишет: Схема включения такая: DS4000 с 2 адаптерами --- Коммутатор (1) -- сервер (с 1 адаптером). По правильному, должно быть два коммутатора и два HBA в сервере. http://www-03.ibm.com/systems/resources/systems_storage_disk_ds3000_pdf_config.pdf Увы, что есть то есть. Вот это меня и озадачило: почему то, что лежит на LUN0 , оно же sda && sdc - multipath не видит. См вывод Был какой-то способ подтолкнуть multipath переделать map'ы для device-mapper. Но вообще линуксовый мультпас оставляет желать много лучшего :( В мире мало идеальных вещей ... Вот придумал обходной путь, чтобы не играться с multipath. Попробую перенести раздел с /boot в отдельный LUN и загрузиться оттуда. Возможно, multipath не подхватывает LUN, с которого грузились. -- To UNSUBSCRIBE, email to debian-russian-requ...@lists.debian.org with a subject of "unsubscribe". Trouble? Contact listmas...@lists.debian.org Archive: http://lists.debian.org/4b98d276.6070...@generali.garant.ua
Re: Дискова подсист ема перегружена?
Pavel Ammosov пишет: -куть- Спасибо за исправления. ;) За счет доступа к дискам через multipath (не настроенный, поднялся автоматически) наблюдается такое: 1. система видит не 2 диска, а 4 (sda == sdc, sdb == sdd). Правильно говоря, операционная система на сервере видит два пути к каждому LUN. Почему два? Должна четыре, если есть коммутаторы. Еcли включено напрямую (массив - сервер), то всё правильно, два пути к каждому LUN. Схема включения такая: DS4000 с 2 адаптерами --- Коммутатор (1) -- сервер (с 1 адаптером). 2 пути, возражений нет ;) 2. 2 диск (который не загрузочный) multipath таки опознал, как хитрое комбинированное устройство. multipath -ll 3600a0b800013d0170aef4ac1afc1dm-0 IBM ,1722-600 [size=20G][features=0][hwhandler=0] \_ round-robin 0 [prio=1][active] \_ 0:0:0:2 sdb 8:16 [active][ready] \_ round-robin 0 [prio=1][enabled] \_ 0:0:1:2 sdd 8:64 [active][ready] Если в массиве два контроллера, то это премлимо. Но лучше включить friendly names в multipath.conf, тогда они будут называться mpath1, mpath2,..mpathN Некритично, но попробую. 3. На обоих дисках созданы тома LVM. pvdisplay Found duplicate PV HfDG08XeW9i1r3IfPM4iYK702a65oDIT: using /dev/sdc4 not /dev/sda4 Это неправильно. LVM не должен смотреть на компоненты multipath, только на полный путь - /dev/mappper/mpathX. В противном случае мультипас не работает, скорости нет, и возможно повреждение данных - когда часть софта пишет на sdaX, вторая часть на sdcX, а на массиве это один и тот же LUN, то естественно ФС будет повреждена. Вот это меня и озадачило: почему то, что лежит на LUN0 , оно же sda && sdc - multipath не видит. См вывод multipath -ll Надо редактировать /etc/lvm/lvm.conf и менять там директиву filter, которая по дефолту выставлена в [ "a/.*/" ] Попробую. Не подскажете, какими заклинаниями заставить lvm перечитать его конфигурацию? А то сервер перезагружается очень долго. Хочется загрузиться в single mode, отмонтировать файловую систему что на lvm и поэкспериментировать. Разница в скорости записи на логические разделы LVM, физически находящиеся на /dev/dm-1 и /dev/sdc* почти в 10 раз! Ничего удивительного. Вот и хочется на это повлиять. -- To UNSUBSCRIBE, email to debian-russian-requ...@lists.debian.org with a subject of "unsubscribe". Trouble? Contact listmas...@lists.debian.org Archive: http://lists.debian.org/4b963a68.1060...@generali.garant.ua
Re: Дискова подсист ема перегружена?
Denis Feklushkin пишет: On Wed, 03 Mar 2010 15:17:21 +0200 Игорь Чумак wrote: Очень странно. Множество случайных записей, причём на все винты... А если сделать lsof|grep init там много? Всё значительно проще ;) Сдохла батарейка в SAN - кеш отключился - скорость записи резко уменьшилася. Как узнали? Что сдохла батарейка и что кеш отключился - видно через консоль управления SAN ;). Заодно обнаружил кучу странностей. В SAN (IBM DS4000) 2 fiberchannel адаптера, в одном из них (адаптер B) сдохла батарейка. В SAN выделено 2 логических диска (sda и sdb). За счет доступа к дискам через multipath (не настроенный, поднялся автоматически) наблюдается такое: 1. система видит не 2 диска, а 4 (sda == sdc, sdb == sdd). 2. 2 диск (который не загрузочный) multipath таки опознал, как хитрое комбинированное устройство. multipath -ll 3600a0b800013d0170aef4ac1afc1dm-0 IBM ,1722-600 [size=20G][features=0][hwhandler=0] \_ round-robin 0 [prio=1][active] \_ 0:0:0:2 sdb 8:16 [active][ready] \_ round-robin 0 [prio=1][enabled] \_ 0:0:1:2 sdd 8:64 [active][ready] 3. На обоих дисках созданы тома LVM. pvdisplay Found duplicate PV HfDG08XeW9i1r3IfPM4iYK702a65oDIT: using /dev/sdc4 not /dev/sda4 Found duplicate PV hHn9kguklPI3t0LMOnX5fNheCXjhuIrj: using /dev/sdc6 not /dev/sda6 Found duplicate PV eEvj1AUT0cjcDvGEGpKnRmNO3STESU8d: using /dev/sdc8 not /dev/sda8 Found duplicate PV 6oFwuJjuNbd0DBAhLaD8LtytmOWW3zAc: using /dev/sdc9 not /dev/sda9 --- Physical volume --- PV Name /dev/sdc9 VG Name vg00 PV Size 2.00 GB / not usable 225.00 KB Allocatable yes (but full) PE Size (KByte) 4096 Total PE 513 Free PE 0 Allocated PE 513 PV UUID 6oFwuJ-juNb-d0DB-AhLa-D8Lt-ytmO-WW3zAc --- Physical volume --- PV Name /dev/sdc6 VG Name vg00 PV Size 4.66 GB / not usable 1.27 MB Allocatable yes (but full) PE Size (KByte) 4096 Total PE 1192 Free PE 0 Allocated PE 1192 PV UUID hHn9kg-uklP-I3t0-LMOn-X5fN-heCX-jhuIrj --- Physical volume --- PV Name /dev/sdc4 VG Name vg00 PV Size 5.00 GB / not usable 1.38 MB Allocatable yes (but full) PE Size (KByte) 4096 Total PE 1279 Free PE 0 Allocated PE 1279 PV UUID HfDG08-XeW9-i1r3-IfPM-4iYK-702a-65oDIT --- Physical volume --- PV Name /dev/sdc8 VG Name vg00 PV Size 4.50 GB / not usable 390.50 KB Allocatable yes (but full) PE Size (KByte) 4096 Total PE 1153 Free PE 0 Allocated PE 1153 PV UUID eEvj1A-UT0c-jcDv-GEGp-KnRm-NO3S-TESU8d --- Physical volume --- PV Name /dev/dm-1 VG Name vg00 PV Size 20.00 GB / not usable 3.98 MB Allocatable yes (but full) PE Size (KByte) 4096 Total PE 5119 Free PE 0 Allocated PE 5119 PV UUID Dciy54-Jbu1-0rHr-i12W-GBUo-xAuJ-P8iqkl Разница в скорости записи на логические разделы LVM, физически находящиеся на /dev/dm-1 и /dev/sdc* почти в 10 раз! -- To UNSUBSCRIBE, email to debian-russian-requ...@lists.debian.org with a subject of "unsubscribe". Trouble? Contact listmas...@lists.debian.org Archive: http://lists.debian.org/4b90c625.2090...@generali.garant.ua
Re: Дискова подсист ема перегружена?
George Shuklin пишет: В Втр, 23/02/2010 в 15:24 +0200, Игорь Чумак пишет: Наблюдаю странную картину: сервер ощутимо тормозит, top показывает 90.7%wa (многовато), pidstat -d показывает много процессов с kB_ccwr/s > 0 . Непонятно, почему в рекордсменах init (у остальных эта величина значительно ниже (<1, в сумме 44.7 не получится). Что init может писать на диск? top - 14:24:31 up 1 day, 2:56, 3 users, load average: 12.95, 12.42, 10.97 Tasks: 294 total, 2 running, 292 sleeping, 0 stopped, 0 zombie Cpu(s): 4.7%us, 2.3%sy, 0.0%ni, 0.0%id, 90.7%wa, 0.7%hi, 1.7%si, 0.0%st Linux 2.6.29-bpo.2-686 (gate) 02/23/2010 _i686_ 02:23:07 PM PID kB_rd/s kB_wr/s kB_ccwr/s Command 02:23:07 PM 1 13.17189.95 44.17 init Что atop по винтам показывает? (если их больше одного). DSK | sda | busy 82% | read 4 | write115 | avio 68 ms | DSK | sdc | busy 50% | read 0 | write 17 | avio 292 ms | DSK | sdb | busy 35% | read 6 | write132 | avio 25 ms | Но физически эти диски - это 1 аппаратное зеркало из 2 дисков, размещенное в SAN. Очень странно. Множество случайных записей, причём на все винты... А если сделать lsof|grep init там много? Всё значительно проще ;) Сдохла батарейка в SAN - кеш отключился - скорость записи резко уменьшилася. -- To UNSUBSCRIBE, email to debian-russian-requ...@lists.debian.org with a subject of "unsubscribe". Trouble? Contact listmas...@lists.debian.org Archive: http://lists.debian.org/4b8e6161.8010...@generali.garant.ua
Re: Дискова подсист ема перегружена?
George Shuklin пишет: В Втр, 23/02/2010 в 14:34 +0200, Игорь Чумак пишет: Добрый день! Наблюдаю странную картину: сервер ощутимо тормозит, top показывает 90.7%wa (многовато), pidstat -d показывает много процессов с kB_ccwr/s > 0 . Непонятно, почему в рекордсменах init (у остальных эта величина значительно ниже (<1, в сумме 44.7 не получится). Что init может писать на диск? top - 14:24:31 up 1 day, 2:56, 3 users, load average: 12.95, 12.42, 10.97 Tasks: 294 total, 2 running, 292 sleeping, 0 stopped, 0 zombie Cpu(s): 4.7%us, 2.3%sy, 0.0%ni, 0.0%id, 90.7%wa, 0.7%hi, 1.7%si, 0.0%st Linux 2.6.29-bpo.2-686 (gate) 02/23/2010 _i686_ 02:23:07 PM PID kB_rd/s kB_wr/s kB_ccwr/s Command 02:23:07 PM 1 13.17189.95 44.17 init Что atop по винтам показывает? (если их больше одного). DSK | sda | busy 82% | read 4 | write115 | avio 68 ms | DSK | sdc | busy 50% | read 0 | write 17 | avio 292 ms | DSK | sdb | busy 35% | read 6 | write132 | avio 25 ms | Но физически эти диски - это 1 аппаратное зеркало из 2 дисков, размещенное в SAN. -- To UNSUBSCRIBE, email to debian-russian-requ...@lists.debian.org with a subject of "unsubscribe". Trouble? Contact listmas...@lists.debian.org Archive: http://lists.debian.org/4b83d709.3090...@generali.garant.ua
