from:"Anton Yuzhaninov"


On 12/23/14 14:44, Eugene Grosbein wrote:

Вместе с watchdog timeout похоже на баги в драйвере. Версия какая?


Или железе. Что в случае re вполне вероятно.

Re: [freebsd] full duplex


On 12/23/14 14:40, Vasiliy P. Melnik wrote:

Страшно - мне до сервера 500 км :)  и он от киева за 25 км. Кроме меня его
починить не то чтобы не кому, но напряжно


Если это сервер, то я бы по возможности заменил re на что то более серверное 
(em/igb/bge). Хотя сейчас почти все мамки имеют набортные сетевухи, поэтому 
купить сетевую в виде отдельной карты сложно (но можно).

Re: [freebsd] full duplex


On 12/23/14 14:27, Vasiliy P. Melnik wrote:


Надо сотку, потому что на гигабите сетевуха валится
re0 watchdog timeout


Я бы попробовал покрутить
hw.re.msi_disable
hw.re.msix_disable

Re: [freebsd] full duplex


On 12/23/14 14:06, Vasiliy P. Melnik wrote:

media: Ethernet 100baseTX  (100baseTX )
status: active


Насколько понимаю 1-е это то что задано в настройках, второе - до чего сетевуха 
договорилась со свитчём.


re это умеет 1Gbit, зачем нужно 100 Mbit?

Re: [freebsd] HP Blade c7000 + FreeBSD 7.2 + HP 6125G/XG Blade Switch

2014-12-16 Пенетрантность Anton Yuzhaninov

On 12/15/14 16:38, Alexandr Khomenko wrote:

Но вот для FreeBSD случился коллапс по сетевой подсистеме.
Сервер ProLiant BL260c G5, сетевая - HP NC326i Dual Port PCI-E Gigabit
Adapter (драйвер bge). ifconfig bge0 - no carrier.
На порту коммутатора interface down. Если перезагрузить сервак и мониторить логи
коммутатора, то видно, что после перезагрузки интерфейс поднимается. По мере
подгрузки драйверов, наверное при загрузке сетевого, порт свича переходит в
down.
Пробовал загрузить FreeBSD 10.1 - картина не изменилась. Версия микрокода
для драйвера - последняя (старая), серваку больше 5 лет.
Пробовал насильно указать media type, но:
ifconfig -m bge0
supported media:
media autoselect
media 1000baseSX mediaopt full-duplex

Подскажите, куда капнуть.

Я попробовал:

1. загрузить конкретно на этом лезвии Linux чтобы исключить вариант с
неработающим железом.

2. поделать ifconfig bge0 down / ifconfig bge0 up на загруженном сервере.
Паралельно смотреть логи коммутатора.

3. попробовал бы покрутить hw.bge.allow_asf и dev.bge.%d.msi

Re: [freebsd] HP Blade c7000 + FreeBSD 7.2 + HP 6125G/XG Blade Switch

2014-12-15 Пенетрантность Anton Yuzhaninov


On 12/15/14 16:38, Alexandr Khomenko wrote:


ifconfig -m bge0
 supported media:
 media autoselect
 media 1000baseSX mediaopt full-duplex

Подскажите, куда капнуть.


А патчкорды при замене коммутатора не менялись?
Может банально перепутны RX и TX волокна?

Re: [freebsd] squid: kern.maxfilesperproc


On 12/03/14 15:51, Golub Mikhail wrote:

Добавление в стартовый срипт помогло:
eval `/usr/bin/limits -e -C daemon` 2>/dev/null



IMHO стоит написать об этом мейнтенеру порта squid.

Более радикальное решение проблемы - добавить это в /etc/rc

Re: [freebsd] squid: kern.maxfilesperproc


On 12/03/14 15:11, Golub Mikhail wrote:

При загрузке системы имеем  "limits -a":
openfiles   28737

А после загрузки от рута "limits -a":
openfiles  10

В /etc/login.conf классы default и daemon не менял.


https://www.freebsd.org/doc/handbook/security-resourcelimits.html
"Processes started at system startup by /etc/rc are assigned to the daemon login 
class."


Возможно handbook ошибается.
Или где то есть баг и лимиты от daemon login class не применяются (или 
применяются до /etc/rc.d/sysctl).


Можно попробовать как в стартовом скрипте апача в precmd сделать

eval `/usr/bin/limits -e -C daemon`

Re: [freebsd] squid: kern.maxfilesperproc


On 12/03/14 13:40, Lystopad Aleksandr wrote:

В /etc/sysctl.conf указано:
kern.maxfilesperproc=10


Попробуйте это указать в /boot/loader.conf -- возможно это решение.


kern.maxfilesperproc это именно sysctl, а не loader tunable. Из loader.conf не 
должно читаться совсем.

Re: [freebsd] squid: kern.maxfilesperproc


On 12/03/14 13:26, Golub Mikhail wrote:

Через rcorder показывает, что /etc/rc.d/sysctl стартует в самом начале.
/usr/local/etc/rc.d/squid гораздо позже.


Я бы для отладки добавил в /usr/local/etc/rc.d/squid (в precmd если она там 
есть)

set -x
limits -a
sysctl kern.maxfilesperproc
set +x

Re: [freebsd] squid: kern.maxfilesperproc


On 12/03/14 13:26, Golub Mikhail wrote:

Доброго времени суток.

Еще один вопрос, который решаю перезапуском сквида. Но это не правильно :)

Мне мало дескрипторов, с которыми сквид запускается при старте системы
(именно после перезагрузки сервера).

В /etc/sysctl.conf указано:
kern.maxfilesperproc=10


Этот sysctl задает значение по умолчанию для RLIMIT_NOFILE (man setrlimit).

На уже запущенные процессы это не влияет.

Текущий лимит можно посмотреть через
ulimit -n

Когда из шелла запускается squid - он наследует лимит, который был в запускающем 
шелле.


Именно по этому в конфиге nginx есть такая опция:

http://nginx.org/r/worker_rlimit_nofile

Если у squid такой опции нет, то можно попробовать выйти с сервера и залогинится 
по новой. Возможно лимит применится новый - проверить через ulimit -n / ulimit -a

Если лимит поменялся - можно перезапускать squid.

Re: [freebsd] Re: [freebsd] Re: [freebsd] Перевод времени в MSK зоне

2014-10-29 Пенетрантность Anton Yuzhaninov


On 10/29/14 13:48, Anton Sayetsky wrote:

Да, кстати, zoneinfo при установке говорит, что tzsetup надо запускать. Нет бы
симлинк сделать вместо копирования файла...


Копирование делается на тот случай если / и /usr живут на разных файловых 
системах и когда смотирован / а /usr ещё нет, правильно время уже нужно.

Re: [freebsd] Перевод времени в MSK зоне

2014-10-29 Пенетрантность Anton Yuzhaninov


On 10/29/14 13:33, greenh wrote:


Хотя на самом деле в России в msk на час меньше, т.е. он просто игнорирует 
перевод.


А файлы tzdata обновлены?
http://ru-freebsd.livejournal.com/239548.html

а лучше обновить FreeBSD любым доступным методом (freebsd-update или 
buildworld).

Re: [freebsd] порты

2014-10-10 Пенетрантность Anton Yuzhaninov


On 10/10/14 20:25, A. D. M. wrote:


Unknown modifier 't'

Unknown modifier 't'


Скорее всего:
https://svnweb.freebsd.org/ports?view=revision&revision=352986

Можно обновить make отдельно, но лучше обновить FreeBSD целиком.
pkg_install больше не подддерживается, надо переходить на pkg, а он на старых 
(не поддерживаемых) системах может и не собираться.

Re: [freebsd] Яндекс-диск через webdav.yandex.ru

2014-09-30 Пенетрантность Anton Yuzhaninov


On 09/30/14 13:46, Владимир Друзенко wrote:



Начиная с 10.0 fuse в базовой системе, но нет в GENERIC - достаточно kldload
fuse и /dev/fuse появляется.


Но в 10-ке версия fuse более старая, чем в портах и у меня webdav.yandex.ru 
заработал только в 8-ке с fuse из портов. В 10-ке не заработало :(

Re: [freebsd] Вопрос по стартовым скриптам в 10.0 (apache24)

2014-09-29 Пенетрантность Anton Yuzhaninov


On 09/29/14 17:12, uphol...@mail.ru wrote:

3. Не останавливается:
root@SERVER02:/usr/local/etc/apache24 # sh /usr/local/etc/rc.d/apache24 stop
apache24 not running? (check .pid).


Проверь, что в конфиге апача и стартовом скрипте (etc/rc.d/apache24) путь к 
pid-файлу одинаковый.

Re: [freebsd] Изменения в devd ?

2014-09-12 Пенетрантность Anton Yuzhaninov


On 09/12/14 01:40, Vladislav V. Prodan wrote:

Обновил систему на одном из тазиков -
FreeBSD 10.1-PRERELEASE #0: Thu Sep 11 15:27:07 EEST 2014

в лагах стало сыпаться:
...
Sep 12 00:36:41 mary-teresa devd: Processing notify event
Sep 12 00:36:41 mary-teresa devd: Popping table
Sep 12 00:36:43 mary-teresa devd: Processing event '!system=DEVFS subsystem=CDEV
type=MEDIACHANGE cdev=ada1p3'


В какой файл /var/log/messages или /var/log/debug.log ?


Как понизить уровень активности devd?


Посмотреть /etc/syslog.conf
С дефолтным syslog.conf от 10-ки такое не наблюдается, но если не сделать 
mergemaster или сделать но что то не так смержить, то подобный эффект возможен.

Re: [freebsd] sshd и setfib

2014-08-22 Пенетрантность Anton Yuzhaninov


On 08/20/14 19:03, kry...@ukr.net wrote:

cd /usr/sbin
ln -s sshd sshd_fib1


Это лишнее. Бинарник можно использовать один. Только скрипты нужны разные.

Конфиг тоже можно один. А pid файл задать через опцию командной строки

sshd_fib1_flags=" -o PidFile=/var/run/sshd2.pid"

Re: [freebsd] hadoop и cloudera manager

2014-07-08 Пенетрантность Anton Yuzhaninov

On 07/08/14 18:41, greenh wrote:

Господа, а кто нить приручал cloudera manager под FreeBSD и возможно ли это? или
придется ставить и настраивать hadoop врукопашную?

C hadoop на FreeBSD всё достаточно грустно...

Сейчас в нашей конторе пока еще используется Hadoop 0.20.2 CDH3 под FreeBSD (но
есть планы по миграции на Linux). Поставлен из самописного порта, без cloudera
manager.

Работает он только с java/jdk16 который из портов уже давно удалили (мы таскаем
патченый /usr/ports с этим портом).

С openjdk и 1.6 и 1.7 работает только HDFS, а MapReduce под нагрузкой плодит
зависшие процессы из за чего довольно быстро превращается в тыкву.

Проблема внутри одной из используемых библиотек - вроде бы Jetty но точно не
помню (могу поискать если интересно). В Hadoop используется очень старая версия
этой библиотеки (с кучей известных багов, исправленных в более свежих версиях).
Смотрел свежие версии Hadoop - там такая же старая версия этой библиотеки.
Видимо под Linux все эти баги проявляются достаточно редко и разработчики Hadoop
уже несколько лет игнорируют тикет в Hadoop JIRA по обновлению этой самой
библиотеки. Заменить эту библиотеку на свежую версию сходу не получится - за
прошедшие N лет у неё успел измениться API.

Пробовал на FreeBSD запускать более свежие версии Hadoop - та же проблема в том
же месте.

Re: [freebsd] В чем хранить статистику

2014-05-22 Пенетрантность Anton Yuzhaninov


On 05/22/14 16:01, greenh wrote:

Народ, вот подскажите, а в чем естьсмысл хранить статистику, при условии что
дневной прирост составляет 30-100 лямов записей
Желательно иметь возможность пусть и медленно, но огромным массивам, типа "за
последний месяц"
То есть, грубо говоря, нужен способ хранения примерно 500гиг-1тб базы,  при этом
с возможностью быстрой вставки данных, вменяемой устойчивостью к отказам и
рассыпанию. Есть что нить вменяемое для таких задач? SQL/noSQL - не имеет 
значения


Сильно зависит о того, какие операции потом с этой статистикой выполняются.

Можно и просто текстовые логи писать, если почти любая выборка данные требует 
full scan.

Re: [freebsd] обновление системы до 8.4 или выше

2014-05-12 Пенетрантность Anton Yuzhaninov


On 05/12/14 19:26, Mstyslav Dubchak wrote:

имеется система - 8.2-RELEASE, кастом ядро.
в связи с известной ситуацией со сборкой и установкой портов, решил наконец
обновить. минимум до 8.4, максимум - 9.2 или 10. правда подозреваю, возможно
сразу до 10 не выйдет...


IMHO для начала до 8.4, а потом можно и сразу до 10.
с 8.4 до 10-ки обновлял, а с более ранними 8-ками были проблемы при попытке 
обновить.



исходники стянуть по cvsup не могу (возможно уже не работает этот метод?)


cvsup больше нет.


установить svn из портов не могу, т.к. не собираются порты.


можно сделать svn export на другой машине, и потом скопировать исходники через 
scp на обновляемую.

[freebsd] FreeBSD 10 and nss_ldap

2014-04-28 Пенетрантность Anton Yuzhaninov


Кто нибудь использует nss_ldap под FreeBSD 10?

У меня не работает, причем не везде, а в некоторых местах.
Например не работает в crontab:
:~> crontab -l
crontab: your UID isn't in the passwd file, bailing out

svn:~> sudo crontab -l -u svn
crontab: user `svn' unknown
svn:~> pw user show svn
svn:*:1003:1003::0:0:svn pseudo-user:/home/svn:/bin/tcsh

Re: [freebsd] mysql на linux таки быстрее или я не умею что то готовить?

2014-03-14 Пенетрантность Anton Yuzhaninov

On 03/14/14 02:25, greenh wrote:

Пытаюсь все это перенести на freebsd сервер с 2 по CPU E5-2420 (24 ядра) и тех
же 16 гиг (то есть машинка существенно более мощная)

Какой CPU был на старой машине не указано, и не факт что E5-2420 быстрее.
Кинь ссылку на ark.inetl.com для старого CPU.
Кроме CPU еще и память может работать на другой частоте или иметь другие
задержки.

базу кладу на софтварный raid-0
nginx+php_fpm через unix socket

Для теста включаю проксирование через старый сервер на новый и получаю
1. первые 2-3 минут база отъедает до 1500% cpu, затем РЕЗКО падает до 70-100
2. LA в районе 2
нагрузка на винты (судя по gstat) около нуля
Сайты отдаются существенно медленее (ожидание до открытия до 7-9 секунд против
2-3 на старом).
3. Среднее потребление user cpu > 20-30% (в основном php) и куча долгих запросов
к базе (по 1-2 секунды) чего на старом сервере нет.

А почему ты думаешь, что тормозит именно mysql а не что то ещё?

Например разница может быть из за отсутствия persisten connections на одном из
серверов. Или кэширование данных в memcached (если есть) забыли включить на
новом сервере.

Если процессор загружен на 30% а диски совсем не загружены и при этом сервер
отвечает очень медленно, то что наверняка настроено не правильно.

Что касается mysql то:
1. нужно строить в мониторинге графики разных параметров mysql, включая index
cache hit rate. Я когда использовал mysql строил rrd-графики с помощью mysqlstat
(но проект похоже не сдох - www.mysqlstat.org не работает). Наверняка есть 1001
софтина помимо mysqlstat, чтобы строить подобные графики.

И потом нужно сравнить графики на двух серверах.

2. Можно поставить логгирование запросов дольше 1 секунды и потом посравнить
slow log через pt-query-digest из percona-toolkit

2014-03-05 Пенетрантность Anton Yuzhaninov


On 03/05/14 10:55, Alexey Markov wrote:

ÐÐ¼ÐµÐµÑÑÑ ÑÐµÑÐ²ÐµÑ Ð½Ð° FreeBSD 8.4-RELEASE-p6, Ð½Ð° Ð¸Ð½ÑÐµÑÑÐµÐ¹ÑÐµ em1
ÑÐ¾Ð·Ð´Ð°Ð½ VLAN #66 Ñ ÑÐµÑÐºÐ¾Ð¹ 172.16.96.0/22 (Ð¸Ð¼ÐµÐ½Ð½Ð¾ /22!), Ð´ÑÑÐ³Ð¸Ñ
Ð°Ð´ÑÐµÑÐ¾Ð² Ð½Ð° ÑÐµÑÐ²ÐµÑÐµ Ð½ÐµÑ.


172.16.96.0/22 ÑÑÐ¾ 172.16.96.0 -
172.16.99.255

ÐÑÑÐ°ÑÑÑ Ð½Ð°ÑÑÑÐ¾Ð¸ÑÑ Ð½Ð° Ð½ÑÐ¼ OpenVPN 2.3.2
ÑÐ°Ðº, ÑÑÐ¾Ð±Ñ Ð¾Ð½ Ð²ÑÐ´Ð°Ð²Ð°Ð» ÐºÐ»Ð¸ÐµÐ½ÑÐ°Ð¼ Ð°Ð´ÑÐµÑÐ° Ð¸Ð· ÑÐµÑÐºÐ¸ 172.16.97.0/22,


Ð ÑÐ°ÐºÐ¾Ð¹ ÑÐµÑÐ¸ Ð±ÑÑÑ Ð½Ðµ Ð¼Ð¾Ð¶ÐµÑ. ÐÐ°Ð²ÐµÑÐ½Ð¾ 172.16.97.0/24 ?


Ñ Ð¸ÑÐ¿Ð¾Ð»ÑÐ·Ð¾Ð²Ð°Ð½Ð¸ÐµÐ¼ proxy-arp. ÐÐ¾ Ð¿ÑÐ¸ Ð¿Ð¾Ð¿ÑÑÐºÐµ Ð´Ð¾Ð±Ð°Ð²Ð»ÐµÐ½Ð¸Ñ Ð·Ð°Ð¿Ð¸ÑÐ¸
Ð² ARP ÑÐ°Ð±Ð»Ð¸ÑÑ Ñ Ð¿Ð¾Ð»ÑÑÐ°Ñ:

/usr/sbin/arp -s 172.16.97.2 00:1e:67:03:14:f4 pub
cannot intuit interface index and type for 172.16.97.2

...skip...

vlan66: flags=8843 metric 0 mtu 1500
options=103
ether 00:1e:67:03:14:f4
inet 172.16.96.2 netmask 0xfc00 broadcast 172.16.99.255
media: Ethernet autoselect (100baseTX )
status: active
vlan: 66 parent interface: em1
tun0: flags=8051 metric 0 mtu 1500
options=8
inet 172.16.97.1 --> 172.16.97.1 netmask 0xff00
Opened by PID 97556


ÐÐ¾Ð¿ÑÐ¾Ð±ÑÐ¹ Ð¿ÑÐ¾Ð¿Ð¸ÑÐ°ÑÑ 72.16.97.1 (tunnel endpoint) ÐºÐ°Ðº alias Ð½Ð° vlan66 Ð° ÐºÐ»Ð¸ÐµÐ½ÑÐ°Ð¼ 
Ð²ÑÐ´Ð°Ð²Ð°ÑÑ ip Ð½Ð°ÑÐ¸Ð½Ð°Ñ Ñ 72.16.97.2


Ð§ÑÐ¾Ð±Ñ Ð¿Ð¾Ð»ÑÑÐ°Ð»Ð¾ÑÑ ÑÑÐ¾ ÑÐ¾ Ð²Ð¸Ð´Ð°
tun0: flags=8051 metric 0 mtu 1500
 options=8
 inet 172.16.97.1 --> 172.16.97.2 netmask 0xff00
Ð mtu Ð½Ð° tun0 Ð´Ð¾Ð»Ð¶ÐµÐ½ Ð±ÑÑÑ Ð½Ðµ 1500 Ð° Ð¼ÐµÐ½ÑÑÐµ.

Ð Ð²Ð¾Ð¾Ð±ÑÐµ Ð·ÑÑ Ð² ÑÐ²Ð¾Ñ Ð²ÑÐµÐ¼Ñ ARP-ÑÑÑÐº Ð² ÐºÐ¾Ð´Ðµ ÑÐ¾Ð²Ð¼ÐµÑÑÐ¸Ð»Ð¸ Ñ L3 ÑÐ°Ð±Ð»Ð¸ÑÐµÐ¹ 
Ð¼Ð°ÑÑÑÑÑÐ¸Ð·Ð°ÑÐ¸Ð¸. ÐÑÐ¾ Ð½ÐµÐ¼Ð½Ð¾Ð³Ð¾ ÑÐ¼ÐµÐ½ÑÑÐ¸Ð»Ð¾ Ð¾Ð±ÑÐµÐ¼ copy-paste Ð² ÐºÐ¾Ð´Ðµ (ÑÐ¾ÑÑ Ð²Ð¾Ð·Ð¼Ð¾Ð¶Ð½Ñ Ð¸ 
Ð´ÑÑÐ³Ð¸Ðµ Ð¼ÐµÑÐ¾Ð´Ñ ÑÐ¼ÐµÐ½ÑÑÐ¸ÑÑ Ð´ÑÐ±Ð»Ð¸ÑÐ¾Ð²Ð°Ð½Ð¸Ðµ ÐºÐ¾Ð´Ð°), Ð½Ð¾ Ð¿Ð¾ÑÐ¾Ð´Ð¸Ð»Ð¾ Ð²Ð¾ÑÐ¾Ñ ÑÐ°Ð·Ð½ÑÑ Ð¿ÑÐ¾Ð±Ð»ÐµÐ¼.


ÐÐµÐºÐ¾ÑÐ¾ÑÐ¾Ðµ Ð²ÑÐµÐ¼Ñ Ð½Ð°Ð·Ð°Ð´ ARP Ð¸ L3 routing Ð½ÐµÐ¼Ð¾Ð¶ÐºÐ¾ ÑÐ°ÑÐ¿Ð»ÐµÐ»Ð¸, Ð½Ð¾ Ð½Ðµ Ð´Ð¾ ÐºÐ¾Ð½ÑÐ°, ÑÐ°Ðº ÑÑÐ¾ 
ÑÐºÐ¾ÑÐµÐ¹ Ð²ÑÐµÐ³Ð¾ Ð¸ Ð² 10-ÐºÐµ Ð±ÑÐ´ÑÑ ÑÐ°ÐºÐ¸Ðµ Ð¶Ðµ Ð³ÑÐ°Ð±Ð»Ð¸ :( Ð¯ Ð² ÑÐ²Ð¾Ðµ Ð²ÑÐµÐ¼Ñ ÑÑÐ¾ Ð¼ÐµÑÑÐ¾ Ð² ÐºÐ¾Ð´Ðµ 
ÑÐ¼Ð¾ÑÑÐµÐ» - ÑÐ°Ð¼ Ð½Ð°Ð³ÑÐ¾Ð¼Ð¾Ð¶Ð´ÐµÐ½Ð¸Ðµ Ð³ÑÑÐ·Ð½ÑÑ ÑÐ°ÐºÐ¾Ð², Ð´ÑÐ¼Ð°Ñ ÐµÐ³Ð¾ Ð¿ÑÐ¾ÑÑÐ¾ Ð±Ð¾ÑÑÑÑ ÑÑÐ¾Ð³Ð°ÑÑ, 
ÑÑÐ¾Ð±Ñ Ð½Ðµ ÑÐ»Ð¾Ð¼Ð°ÑÑ ÑÐ¾ ÑÑÐ¾ ÑÐµÐ¹ÑÐ°Ñ ÑÐ°Ð±Ð¾ÑÐ°ÐµÑ.

Re: [freebsd] конфигурация gmirror

2014-03-05 Пенетрантность Anton Yuzhaninov


On 03/05/14 12:45, Yuriy B. Borysov wrote:

Подскажите, а в каком виде и где gmirror хранит информацию о hdd, из
которых он состоит.


Блок метаданных в конце провайдера (диска, раздела или другого geom).


Использует ли он названия устройств, adN/adaN или
какие-то свои метки?


Зависит от того, как gmirror создавался.
man gmirror
/ardcode


Собственно, есть система 8.4-RELEASE-p7 на gmirror, необходимо оба hdd
перенести на другой hardware. Номера устройств, скорей всего,
изменятся. Нужно ли как-то рассказать gmirror про новые названия? Если
да, то как?


Если при gmirror label ключик -h не добавлялся, то ничего рассказывать не нужно.
Если добавлялся, то нужно сделать
gmirror configure -d youmirrorname

Re: [freebsd] Хочу подгрузить cc_htcp.ko в 9.1

2014-02-14 Пенетрантность Anton Yuzhaninov


On 02/14/14 18:22, Vladislav V. Prodan wrote:


# kldload -v cc_htcp.ko
kldload: cc_htcp.ko will be loaded from /boot/kernel, not the current directory
kldload: can't load cc_htcp.ko: Exec format error


А в make.conf нет случаем MODULES_WITH_WORLD ?
Похоже на рассинхронизация модулей и ядра или модулей и world.

Re: [freebsd] Re: [freebsd] ÐÐ¿ÑÑÑ Ð¿ÑÐ¾ ÐºÐ¾Ð½ÑÑÐ¾Ð»Ð»ÐµÑÑ 3ware: Ð° ÐºÐ°Ðº Ð¾Ð½Ð¸ Ð¶Ð¸Ð²ÑÑ Ñ SSD?

2014-02-14 Пенетрантность Anton Yuzhaninov


On 02/14/14 15:59, Alexey Markov wrote:


ÐÐ°Ð±Ð¾ÑÑÐ½ÑÐµ SATA Ð½Ð° Ð¼Ð°Ð¼ÐºÐµ ÑÐµÑÐ²ÐµÑÐ° - ÐµÑÑ 3 Gb/s, Ð½Ð° ICH10R. ÐÐµ Ð·Ð½Ð°Ñ Ð´Ð°Ð¶Ðµ,
Ð¿Ð¾Ð´Ð´ÐµÑÐ¶Ð¸Ð²Ð°ÐµÑ Ð»Ð¸ Ð¾Ð½ TRIM.


ÐÐ°ÑÐºÐ¾Ð»ÑÐºÐ¾ Ð¿Ð¾Ð½Ð¸Ð¼Ð°Ñ Ð¼Ð½Ð¾Ð³Ð¸Ðµ SSD Ð²ÑÐµ ÑÐ°Ð²Ð½Ð¾ Ð½Ðµ ÑÐ°Ð±Ð¾ÑÐ°ÑÑ Ð±ÑÑÑÑÐµÐµ 3 Gb/s.

Ð¡ TRIM ÑÐ¾Ð¶Ðµ Ð¿ÑÐ¾Ð±Ð»ÐµÐ¼ Ð±ÑÑÑ Ð½Ðµ Ð´Ð¾Ð»Ð¶Ð½Ð¾ (Ð² ÑÑÐ´ÑÐµÐ¼ ÑÐ»ÑÑÐ°Ðµ Ð¿ÑÐ¸Ð´ÐµÑÑÑ Ð¾Ð±Ð½Ð¾Ð²Ð¸ÑÑ 
BIOS/firmware).

Re: [freebsd] Re:[freebsd] ÐÑÐ¸Ð±ÐºÐ¸ Ð½Ð° 3ware 9690SA-4I Ð¿ÑÐ¸ Ð¾Ð±ÑÑÐ½Ð¾Ð¼ ÐºÐ¾Ð¿Ð¸ÑÐ¾Ð²Ð°Ð½Ð¸Ð¸

2014-02-06 Пенетрантность Anton Yuzhaninov


On 02/06/14 16:47, Sergey Rudenko wrote:


ÐÑÐ¾ Ð¼Ð¾Ð¶ÐµÑ Ð±ÑÑÑ ÑÐ²ÑÐ·Ð°Ð½Ð¾ Ñ spanning-tree Ð½Ð° ÑÐ²Ð¸ÑÐµ Ð¸ Ð¿Ð¾ÑÑ Ð½Ðµ ÑÑÐ¿ÐµÐ²Ð°ÐµÑ Ð¿Ð¾Ð´Ð½ÑÑÑÑÑ
Ð¿Ð¾ÑÐ»Ðµ ÑÐµÐ±ÑÑÐ°, Ð¿Ð¾Ð¼Ð°Ð³Ð°ÐµÑ
spanning-tree portfast Ð½Ð° Ð¿Ð¾ÑÑÑ


ÐÐ°Ð¶Ðµ ÐµÑÐ»Ð¸ Ð½Ð° Ð¿Ð¾ÑÑÑ ÑÑÐ¾Ð¸Ñ spanning-tree portfast ÐµÑÐ»Ð¸ Ð¸ÑÐ¿Ð¾Ð»ÑÐ·Ð¾Ð²Ð°ÑÑ Ð¾Ð´Ð¸Ð½ Ð¸ ÑÐ¾Ñ Ð¶Ðµ 
ÑÐµÑÐµÐ²Ð¾Ð¹ Ð¸Ð½ÑÐµÑÑÐµÐ¹Ñ Ð´Ð»Ñ IPMI Ð¸ OS, ÑÐ¾ Ð²Ð¾ Ð²ÑÐµÐ¼Ñ Ð¿ÐµÑÐµÐ·Ð°Ð³ÑÑÐ·ÐºÐ¸ ÑÐ²ÑÐ·Ñ Ñ IPMI Ð½Ð° Ð²ÑÐµÐ¼Ñ 
Ð¿ÑÐ¾Ð¿Ð°Ð´Ð°ÐµÑ.
ÐÑÐ¾ Ð»ÐµÑÐ¸ÑÑÑ Ð¸ÑÐ¿Ð¾Ð»ÑÐ·Ð¾Ð²Ð°Ð½Ð¸ÐµÐ¼ Ð²ÑÐ´ÐµÐ»ÐµÐ½Ð½Ð¾Ð³Ð¾ ÑÐµÑÐµÐ²Ð¾Ð³Ð¾ Ð¸Ð½ÑÐµÑÑÐµÐ¹ÑÐ° Ð½Ð° Ð¿Ð»Ð°ÑÐµ BMC (ÑÐ°ÐºÐ¸Ðµ 
ÐµÑÑÑ ÐºÐ°Ðº Ð¼Ð¸Ð½Ð¸Ð¼ÑÐ¼ Ð½Ð° Ð¡ÑÐ¿ÐµÑÐ¼Ð¸ÐºÑÐ°Ñ), Ð½Ð¾ Ð² ÑÑÐ¶Ð¾Ð¼ ÐÐ¦ Ð½Ðµ Ð²ÑÐµÐ³Ð´Ð° Ð²Ð¾Ð·Ð¼Ð¾Ð¶Ð½Ð¾ Ð·Ð°Ð´ÐµÐ¹ÑÑÐ²Ð¾Ð²Ð°ÑÑ 
Ð´Ð²Ð° Ð¿Ð¾ÑÑÐ° Ð½Ð° ÐºÐ¾Ð¼Ð¼ÑÑÐ°ÑÐ¾ÑÐµ.

2014-02-06 Пенетрантность Anton Yuzhaninov


On 02/06/14 11:23, Alexey Markov wrote:

ÐÐ¾ÑÐ¼Ð¾ÑÑÐµÐ» ÑÐµÑÐµÐ· gstat, iostat Ð¸ top -m io, ÑÑÐ¾ Ð±Ð¾Ð»ÑÑÐµ Ð²ÑÐµÐ³Ð¾ Ð²Ð¸Ð½Ñ Ð³ÑÑÐ·Ð¸Ñ.
ÐÐºÐ°Ð·Ð°Ð»Ð¾ÑÑ, ÐÐ¾ÑÑÐ³ÑÐµÑ Ð¿Ð¾ÑÑÐ¾ÑÐ½Ð½Ð¾ ÑÑÐ¾-ÑÐ¾ Ð¿Ð¸ÑÐµÑ Ð½Ð° Ð´Ð¸ÑÐº, Ð¿ÑÐ¸ÑÑÐ¼ Ñ ÑÐ¾ÑÐ¾ÑÐµÐ¹
ÑÐºÐ¾ÑÐ¾ÑÑÑÑ - Ð´Ð¾ 15-20 Ð¼ÐµÐ³Ð°Ð±Ð°Ð¹Ñ Ð² ÑÐµÐºÑÐ½Ð´Ñ. Ð¡ÐºÐ¾ÑÐµÐµ Ð²ÑÐµÐ³Ð¾, ÑÑÐ¾ WAL-Ñ Ð´Ð»Ñ
ÑÐµÐ¿Ð»Ð¸ÐºÐ°ÑÐ¸Ð¸ ÑÐ¾ Ð²ÑÐ¾ÑÑÐ¼ ÑÐµÑÐ²ÐµÑÐ¾Ð¼ Ð¸ ÑÐµÑÑÐ¸Ð¸ Ð²ÐµÐ±-Ð´Ð²Ð¸Ð¶ÐºÐ°. ÐÐ¾Ð´Ð¾Ð·ÑÐµÐ²Ð°Ñ, ÑÑÐ¾ Ð¿ÑÐ¸
Ð·Ð°Ð¿ÑÑÐºÐµ dd Ð²Ð¸Ð½ÑÑ Ð¿ÑÐ¾ÑÑÐ¾ "Ð·Ð°ÑÐ»ÑÐ±ÑÐ²Ð°ÑÑÑÑ", ÑÐ¿Ð¸ÑÐ°ÑÑÑ Ð² Ð¿Ð¾ÑÐ¾Ð»Ð¾Ðº Ð¿Ð¾ IOPS.
ÐÐµÐ¿Ð¾Ð½ÑÑÐ½Ð¾, Ð¿ÑÐ°Ð²Ð´Ð°, Ð¿Ð¾ÑÐµÐ¼Ñ ÐºÐ¾Ð½ÑÑÐ¾Ð»Ð»ÐµÑ Ð¸Ð·-Ð·Ð° ÑÑÐ¾Ð³Ð¾ Ð´Ð¾ÑÐ½ÐµÑ. :-(


ÐÐ»Ñ Ð½Ð°Ð³ÑÑÐ¶ÐµÐ½Ð½Ð¾Ð³Ð¾ PostgreSQL Ð»ÑÑÑÐµ WAL Ð²ÑÐ½Ð¾ÑÐ¸ÑÑ Ð½Ð° Ð¾ÑÐ´ÐµÐ»ÑÐ½ÑÐ¹ HDD.
ÐÐ»Ð¸ Ð¼Ð¾Ð¶Ð½Ð¾ fsync Ð´Ð»Ñ WAL Ð¾ÑÐºÐ»ÑÑÐ¸ÑÑ, Ð½Ð¾ ÑÑÐ¾ ÑÑÐµÐ²Ð°ÑÐ¾ Ð¿Ð¾ÑÐµÑÐµÐ¹ Ð¿Ð¾ÑÐ»ÐµÐ´Ð½Ð¸Ñ ÐºÐ¾Ð¼Ð¼Ð¸ÑÐ¾Ð² Ð¿ÑÐ¸ 
Ð¿Ð¾ÑÐµÑÐ¸ Ð¿Ð¸ÑÐ°Ð½Ð¸Ñ Ð¸Ð»Ð¸ hard reset.



ÐÑÑÐ°ÑÐ¸, Ð° Ð¼Ð¾Ð¶Ð½Ð¾ Ð»Ð¸ ÐºÐ°Ðº-ÑÐ¾ Ð¾Ð³ÑÐ°Ð½Ð¸ÑÐ¸ÑÑ ÑÐ¸ÑÐ»Ð¾ Ð¾Ð¿ÐµÑÐ°ÑÐ¸Ð¹ Ð²Ð²Ð¾Ð´Ð°/Ð²ÑÐ²Ð¾Ð´Ð° Ð´Ð»Ñ
Ð¿ÑÐ¾ÑÐµÑÑÐ°? ÐÑ, ÑÐ¸Ð¿Ð° nice, ÑÐ¾Ð»ÑÐºÐ¾ Ð½Ðµ Ð´Ð»Ñ Ð¦ÐÐ£, Ð° Ð´Ð»Ñ Ð²Ð²Ð¾Ð´Ð°/Ð²ÑÐ²Ð¾Ð´Ð°. ÐÐ»Ð¸
ÑÐ¾ÑÑ Ð±Ñ Ð¸Ð·Ð¼ÐµÑÐ¸ÑÑ Ð¸Ñ ÑÐ¸ÑÐ»Ð¾ Ð·Ð° Ð¾Ð¿ÑÐµÐ´ÐµÐ»ÑÐ½Ð½ÑÐ¹ Ð¿ÑÐ¾Ð¼ÐµÐ¶ÑÑÐ¾Ðº Ð²ÑÐµÐ¼ÐµÐ½Ð¸?


1. Ð²Ð¾Ð·Ð¼Ð¾Ð¶Ð½Ð¾ Ð¾Ð±ÑÑÐ½ÑÐ¹ nice ÑÐ½Ð¸Ð¶Ð°ÐµÑ Ð¿ÑÐ¸Ð¾ÑÐ¸ÑÐµÑ Ð¿ÑÐ¾ÑÐµÑÑÐ° Ð² ÑÐ¾Ð¼ ÑÐ¸ÑÐ»Ðµ Ð´Ð»Ñ i/o Ð½Ð¾ ÑÐ¾ÑÐ½Ð¾ 
Ð½Ðµ Ð·Ð½Ð°Ñ, Ð½Ð°Ð´Ð¾ ÑÐ¼Ð¾ÑÑÐµÑÑ Ð¸ÑÑÐ¾Ð´Ð½Ð¸ÐºÐ¸. ÐÑÐ´ÐµÐ»ÑÐ½Ð¾Ð³Ð¾ ionice ÐºÐ°Ðº Ð² ÐÐ¸Ð½ÑÑÐµ Ñ Ð½Ð°Ñ Ð½ÐµÑ.


2. ÐµÑÑÑ geom sched, Ð½Ð¾ Ð¸Ð· ÑÐµÐ°Ð»Ð¸Ð·Ð¾Ð²Ð°Ð½Ð½ÑÑ ÑÐµÐ´ÑÐ»ÐµÑÐ¾Ð² ÑÐ¾Ð»ÑÐºÐ¾ round robin, Ð±ÐµÐ· 
Ð¿ÑÐ¸Ð¾ÑÐ¸ÑÐµÑÐ¾Ð²:

http://www.bsdcan.org/2009/schedule/attachments/100_gsched.pdf

Re: [freebsd] ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ ï¿½ï¿½ 3ware 9690SA-4I ï¿½ï¿½ï¿½ ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½ï¿½

2014-02-06 Пенетрантность Anton Yuzhaninov


On 02/06/14 13:46, Volodymyr Kostyrko wrote:

Ð½Ðµ Ð¿Ð¾Ð»ÑÑÐ°ÐµÑÑÑ
Ð¿Ð¾Ð¿Ð°ÑÑÑ Ð² ÐÐÐÐ¡ ÑÐµÑÐµÐ· ÑÐ´Ð°Ð»ÑÐ½Ð½ÑÑ IPMI-ÐºÐ¾Ð½ÑÐ¾Ð»Ñ. Ð¢Ð°Ðº ÑÑÐ¾ Ð² ÑÐ»ÑÑÐ°Ðµ
Ð½ÐµÑÐ´Ð°ÑÐ½Ð¾Ð¹ Ð¿ÑÐ¾ÑÐ¸Ð²ÐºÐ¸ ÐºÐ¾Ð½ÑÑÐ¾Ð»Ð»ÐµÑÐ° Ñ Ð¿Ð¾Ð»ÑÑÑ Ð¾ÑÐµÐ½Ñ Ð´Ð¾ÑÐ¾Ð³Ð¾Ð¹ "ÐºÐ¸ÑÐ¿Ð¸Ñ"
Ð² Ð¾ÑÐµÐ½Ñ Ð´Ð°Ð»ÑÐºÐ¾Ð¹ ÑÑÑÐ°Ð½Ðµ. :-/


ÐÐ¾Ð¶Ð½Ð¾ Ð¿Ð¾ÑÐ¾Ð±Ð¾Ð²Ð°ÑÑ Ð½Ð°ÑÑÑÐ¾Ð¸ÑÑ Ð´Ð¾ÑÑÑÐ¿ Ðº IPMI ÑÐµÑÐµÐ· ipmitools. Ð¢Ð°Ð¼ ÐµÑÑÑ bmc-config Ñ
Ð¿Ð¾Ð¼Ð¾ÑÑÑ ÐºÐ¾ÑÐ¾ÑÐ¾Ð³Ð¾ Ð¼Ð¾Ð¶Ð½Ð¾ Ð¿Ð¾ÐºÐ¾Ð²ÑÑÑÑÑ Ð½Ð°ÑÑÑÐ¾Ð¹ÐºÐ¸ IPMI Ð½Ðµ Ð¿ÐµÑÐµÐ³ÑÑÐ¶Ð°ÑÑÑ.


Ð¯ Ð´ÑÐ¼Ð°Ñ Ð¿ÑÐ¾Ð±Ð»ÐµÐ¼Ð° Ð² Ð´ÑÑÐ³Ð¾Ð¼ - ÑÐµÑÐµÐ· IPMI SOL Ð¼Ð¾Ð¶Ð½Ð¾ Ð¿Ð¾Ð»ÑÑÐ¸ÑÑ Ð´Ð¾ÑÑÑÐ¿ Ðº ÐºÐ¾Ð½ÑÐ¾Ð»Ð¸ 
FreeBSD, Ð½Ð¾ BIOS setup ÑÐ°Ð±Ð¾ÑÐ°ÐµÑ Ð½Ðµ Ð²ÑÐµÐ³Ð´Ð°, Ð·Ð°Ð²Ð¸ÑÐ¸Ñ Ð¾Ñ ÐºÐ¾Ð½ÐºÑÐµÑÐ½Ð¾Ð¹ ÑÐµÐ°Ð»Ð¸Ð·Ð°ÑÐ¸Ð¸ 
IPMI. ÐÐ¿ÑÐ¾ÑÐµÐ¼ ÐµÑÐ»Ð¸ Ð½Ðµ Ð¾Ð±Ð½Ð¾Ð²Ð»ÑÑÑ ÑÐ°Ð¼ BIOS ÑÐ¾ Ð·Ð°ÑÐ¾Ð´Ð¸ÑÑ Ð² BIOS Setup Ð²ÑÑÐ´ Ð»Ð¸ 
Ð¿Ð¾ÑÑÐµÐ±ÑÐµÑÑÑ.

2014-02-05 Пенетрантность Anton Yuzhaninov


On 02/05/14 14:30, Alexey Markov wrote:

RAID: 3ware 9690SA-4I (512 Mb, BBU)
ÐÐ¸ÑÐºÐ¸: 2 x WDC WD5002ABYS

Ð¡ÐµÐ³Ð¾Ð´Ð½Ñ Ð² Ð¿ÑÐ¾ÑÐµÑÑÐµ Ð¿Ð¾Ð´Ð³Ð¾ÑÐ¾Ð²ÐºÐ¸ Ðº Ð¿ÑÐ¾ÑÐ¸Ð»Ð°ÐºÑÐ¸ÐºÐµ Ð¿Ð¾Ð½Ð°Ð´Ð¾Ð±Ð¸Ð»Ð¾ÑÑ ÑÐºÐ¾Ð¿Ð¸ÑÐ¾Ð²Ð°ÑÑ
Ð¾Ð´Ð¸Ð½ Ð¸Ð· Ð½ÐµÐ±Ð¾Ð»ÑÑÐ¸Ñ ÑÐ°Ð·Ð´ÐµÐ»Ð¾Ð² (80 ÐÐ±) Ð² ÐºÐ¾Ð½ÐµÑ Ð´Ð¸ÑÐºÐ°. ÐÐ°Ð¿ÑÑÑÐ¸Ð» dd, Ð¸ Ð¿Ð¾ÑÑÐ¸
ÑÑÐ°Ð·Ñ ÑÐ°Ð¹Ñ Ð¾ÑÐ²Ð°Ð»Ð¸Ð»ÑÑ. Ð /var/log/messages Ð² ÑÑÐ¾ Ð²ÑÐµÐ¼Ñ Ð²Ð¸Ð¶Ñ:
twa0: Request 0 timed out!
twa0: INFO: (0x16: 0x1108): Resetting controller...:
twa0: INFO: (0x04: 0x005E): Cache synchronization completed: unit=0
twa0: INFO: (0x04: 0x0001): Controller reset occurred: resets=2


Ð Ð¿ÐµÑÐ²ÑÑ Ð¾ÑÐµÑÐµÐ´Ñ Ð¸Ð¼ÐµÐµÑ ÑÐ¼ÑÑÐ» Ð¿Ð¾ÑÐ¼Ð¾ÑÑÐµÑÑ SMART Ð½Ð° Ð´Ð¸ÑÐºÐ°Ñ, ÐµÑÐ»Ð¸ Ð´Ð°Ð½Ð½ÑÐµ 3ware 
Ð¿Ð¾Ð·Ð²Ð¾Ð»ÑÐµÑ ÑÑÐ¾ Ð´ÐµÐ»Ð°ÑÑ.


ÐÐ¾ÑÐ¾Ð¼ Ð·Ð°Ð¿ÑÑÑÐ¸ÑÑ Ð¿Ð¾ Ð¾ÑÐµÑÐµÐ´Ð¸ Ð½Ð° ÐºÐ¾Ð¶Ð´Ð¾Ð¼ Ð¸Ð· Ð´Ð¸ÑÐºÐ¾Ð² ÑÐµÑÑ (smartctl -t long) Ð¸ ÐµÑÐµ ÑÐ°Ð· 
Ð¿Ð¾ÑÐ¼Ð¾ÑÑÐµÑÑ.


Ð ÑÐ»ÑÑÐ°Ðµ ÐºÐ¾Ð³Ð´Ð° Ð´Ð¸ÑÐºÐ¸ Ð½Ð°ÑÐ¸Ð½Ð°ÑÑ ÑÐ¼Ð¸ÑÐ°ÑÑ, RAID ÐºÐ¾Ð½ÑÑÐ¾Ð»Ð»ÐµÑÑ Ð¼Ð¾Ð³ÑÑ Ð¿Ð¸ÑÐ°ÑÑ Ð² Ð»Ð¾Ð³Ð°Ñ 
ÑÐ°Ð·Ð½ÑÐµ Ð½ÐµÐ¿Ð¾Ð½ÑÑÐ½ÑÐµ ÑÐ¾Ð¾Ð±ÑÐµÐ½Ð¸Ñ, Ð¾Ñ ÐºÐ¾ÑÐ¾ÑÑÑ Ð¼Ð°Ð»Ð¾ ÑÐ¾Ð»ÐºÑ.

Re: [freebsd] Много файлов, тормоза ФС

On 03.02.2014 19:12, Slawa Olhovchenkov wrote:

>Смысл sendfile в уменьшении оверхеда на ненужные переключения контекста 
во-первых,
>и на копирование данных из kernel space в user-space и обратно во-вторых,
>и на mmap в третьих. Выигрыш вполне заметен, я замерял.

нынче уже не копируется, оверхед на сискол тоже невелик на современных
процах.

И как данные из адресного пространства пользователя без копирования 
попадают в адресное пространство ядра?

Overhead на syscall относительно небольшой, а на копирование есть. 
Особенно если данных много.

Re: [freebsd] Много файлов, тормоза ФС


On 02/03/14 14:21, Slawa Olhovchenkov wrote:

UFS и ZFS память жрут примерно одинаково. только в случае UFS никто не
говорит что это UFS память сожрала, а говорят "на кеш ушло". для
хорошей производительности размеры будт сопоставимы


Разница в то, что память занятая кэшем на уровне VM отдается приложениям, при 
необходимости (active/inactive/cache queue). А память которую однажды скушал ZFS 
никому кроме ZFS уже не достанется (wired memory).

Re: [freebsd] Много файлов, тормоза ФС


On 02/03/14 13:52, Eugene Grosbein wrote:

On 03.02.2014 16:34, Anton Yuzhaninov wrote:


Что же касается крэша в процессе fsck, то с таким не сталкивался больше чем за
10 лет использования UFS. Возможно мне повезло.


Креши в fsck бывают либо в background-режиме, либо в ранних версиях,
где в single user mode был низкий лимит на память для процессов
и на крупных файловых системах fsck не хватало памяти.



background режим всегда отключаю. Кроме крешей с background хорошо проявляется 
другой недостаток UFS - относительно дорогое создание снапшотов (особенно хорошо 
заметно на больших FS - 1Tb и больше). Ну и пока работает background сервер, 
который активно работает с диском, всё равно не будет работать достаточно быстро.

Re: [freebsd] Много файлов, тормоза ФС


On 02/03/14 10:44, Vladimir Sharun wrote:


fsck может длиться бесконечно долго на ufs и в итоге можно получить в
процессе fsck (хорошо еще если не в процессе repair'а) еще один крэш и
потерять еще стопицот часов на downtime, копируя файлы со смонтированной RO
FS.


fsck длится бесконечно долго либо на FS с очень большим количеством очень мелких 
файлов. Либо если взять N дисков и сделать из них одну большую FS на десятки 
террабайт.

Такие задачи конечно бывают, но далеко не у всех.

У нас на большинстве серверов средний размер файлов около 10Мб, а размер одной 
FS в пределах 1 Tb или 2 Tb - fsck конечно длится какое то время, но не 
настолько долго, чтобы это напрягало (поэтому время и не засекал).


При таких ограничениях (на кол-во файлов и размер FS) UFS работает хорошо и не 
жрет память гигабайтами в отличие от ZFS (размер ARC кэша можно уменьшать, но 
хорошая производительность только с большим ARC кэшем).


Что же касается крэша в процессе fsck, то с таким не сталкивался больше чем за 
10 лет использования UFS. Возможно мне повезло.

Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Anton Yuzhaninov


On 01.02.2014 02:47, Pavel Astakhov wrote:

диски SATA3 Seagate Constellation


А на старом сервере модель дисков точно такая же?

Когда несколько лет назад работал в Рамблер-почте, мы несколько раз 
пытались использовать SATA диски Seagate для хранения почты - на 
синтетических тестах диски вели себя хорошо, а на той нагрузке, что была 
в продакшене - работали раза в 2 медленнее, чем Hitachi (при сходных 
характеристиках самих дисков - одинаковом размере кэша и т. д.).


Тесты проводили раза два или три с интервалом около года, с текущими на 
тот момент дисками. Модели были разными - результат один и тот же. Такое 
подозрение, что при определенном соотношении мелких и крупных запросов 
софт в Seagate управляет диском неэффективно (или происходит 
фрагментация памяти под буфер диска). При другом характере нагрузки диск 
при этом может работать быстро.


Кстати, не написал ли кто geom-класс, пропускающий через себя все 
запросы к диску, чтобы составить статистику по запросам, и потом на 
основе этой статистики делать бенчмарки дисков?

Re: [freebsd] Много файлов, тормоза ФС

2014-02-02 Пенетрантность Anton Yuzhaninov


On 01.02.2014 02:34, Pavel Astakhov wrote:

Господа, а кто держит большие файлохранилища на фре? Досталось тут одно
хозяйство, веб-хайлоад, более 1.2Т картинок (>4М файлов), порядка 80qps
(все нормально разнесено по каталогам <1000 файлов), пробую перевести
сервер статики под топик - безбожные тормоза, gstat показывает задержки
порядка 40-60мс, на линупсе неправославном все работает нормально при
сравнимых дисках и их конфигурации. Что посоветуете покрутить?


В дополнение к тому, что написал Eugene Grosbein можно:

1. Собрать ядро с увеличенным MAXPHYS, например:
options MAXPHYS=(512*1024)

2. Увеличить vfs.read_max
sysctl vfs.read_max=256

3. А настройки аппаратного RAID такие же как были, NCQ он использует при 
общении с дисками? Хотя для зеркала (RAID1) лучше вообще без аппаратного 
рейда.

[freebsd] ищется OMAPI с человеческим лицом

2014-01-22 Пенетрантность Anton Yuzhaninov


Подскажите, есть ли какая то удобная утилита, для управления ISC DHCPD через 
OMAPI?

Чтобы одной командой можно было почистить lease например, что типа

cmd_remove 192.168.30.40
а сервер, порт и ключик читались бы из dot-файла.

Судя по описанию net/omcmd это примерно то, что нужно, но он написан для dhcp 
4.1.* и с 4.2.* не собирается.

Re: [freebsd] [freebsd] Отдача больших файлов по HTTP

2014-01-20 Пенетрантность Anton Yuzhaninov


On 01/20/14 14:55, Slawa Olhovchenkov wrote:

On Mon, Jan 20, 2014 at 02:51:06PM +0400, Anton Yuzhaninov wrote:


On 01/20/14 13:55, Slawa Olhovchenkov wrote:

не совсем. на таких мелких объемах начинают играть другие эффекты и в
результате с производительностью оказывается не так все хорошо, как
хотелось, а геморой с контентом уже есть.


А можно на этом месте подробней?


ну если делать по FS на диск, то закон больших чисел начинает плохо
работать и отдельные диски могут стать перегруженными обращениями
вдобавок контент начинает быть привязанным своими именами к физической
структуре. геморойчик!



В задаче раздачи контента с дисков всё обычно упирается в диски, а не другие 
ресурсы сервера или сетевой интерфейс (мало гигабита - можно сделать два 
гигабита в ether channel), так что дальше - про диски.


Если один большой массив распределяет данные по дискам, так что один файл лежит 
на одном (паре) дисков, то все происходит так же как и с несколькими отдельными 
FS - если на диске (паре дисков) лежит популярный файл, этот диск(и) будет 
загружен сильнее других.


Если один большой файл раскидывается по N дискам, то все еще хуже.

У современных HDD достаточно большая пропускная способность, но при этом 
относительно больше время seek time. Когда мы читаем большой кусок данных с 
одного диска - seek происходит только на одном диске, а если он рассыпан по 
N-дискам, то seek-и делают N-дисков. Общее число seek-ов в системе растёт, а 
значит и в пересчёте на один диск тоже будет больше seek-ов.


Да, это N дисков будут загружены очень равномерно, но при этом в среднем они 
будут загружены сильнее.


Распределение данных по N дисков может быть полезно в случае мелких файлов 
(размер файла меньше размера stripe size или его аналога), но исходная задача 
была про большие файлы.


Что же касается закона больших чисел, то он как раз работает за разбиение. На 4 
Tb диск нормально поместится 350 - 3500 файлов. При достаточно случайном 
распределении файлов по серверам/дискам, они скорее всего будут загружены 
равномерно.

Re: [freebsd] [freebsd] Отдача больших файлов по HTTP

2014-01-20 Пенетрантность Anton Yuzhaninov


On 01/20/14 13:55, Slawa Olhovchenkov wrote:

не совсем. на таких мелких объемах начинают играть другие эффекты и в
результате с производительностью оказывается не так все хорошо, как
хотелось, а геморой с контентом уже есть.


А можно на этом месте подробней?

Re: [freebsd] [freebsd] Отдача больших файлов по HTTP

2014-01-20 Пенетрантность Anton Yuzhaninov

On 01/19/14 01:09, Anton Sayetsky wrote:

Размер хранилища - 100+ ТиБ, средний размер файлов - от 1 до 10 ГиБ,
трафик - 4-5 Гбит/с, ~400 сессий, до 3-х коннектов на каждую.
Требуемый протокол отдачи - HTTP.
В плане софта выбор пал на FreeBSD 9.2-RELEASE amd64, ZFS, nginx. В
связи с вышеизложенным возникли некоторые вопросы:
1. Правильно ли я понимаю, что для данных параметров о UFS можно
забыть? (Боюсь даже представить, сколько времени на устройстве такого
размера может выполняться fsck, например.)

В данной постановке задачи - хранить 100+ ТиБ в _одной_ файловой системе ZFS
пожалуй подойдет лучше.

Но если задача ставится более обще - хранить и быстро раздавать 100+ Tb файлов,
я бы вместо одного хранилища сделал много маленьких.

Например поставил бы несколько серверов по 12 HDD по 4 Tb в каждом. С учётом
зеркалирования (повышает и скорость отдачи и надёжность) это будет 5 серверов.
Если 100+Тиб это не сейчас а в перспективе то сервера можно добавлять по одному.

Внутри одного сервера так же делать не одну большую файловую систему, а
несколько независимых.

Управление контентом конечно усложнится, придётся написать немного софта или
допилить существующий, но зато надёжность и производительность такого решения
будет выше.

Да и UFS можно будет использовать даже без SUJ - когда все диски проверяются
параллельно времени на это уходит заметно меньше, чем в случае одной большой FS
из всех дисков.

Re: [freebsd] Проблема со сборкой пакетов

2014-01-13 Пенетрантность Anton Yuzhaninov


On 01/12/14 05:29, Eugene Grosbein wrote:

Питон никогда не может появиться в базе, из-за лицензии.


Проблема не только в лицензии.
Python приходится относительно часто обновлять, а обновлять base system так 
часто было бы не удобно.
Собственно это одна из причин, почему perl в свое время убрали из base - 
портовый perl обновлять проще и быстрее.

Re: [freebsd] Яндекс-диск через webdav.yandex.ru


On 12/24/13 19:01, George L. Yermulnik wrote:

>А как на вашей 8-ке выглядит vfs.fuse целиком?

Вообще никак не выглядит - вообще нету oid'ов, начинающихся на vfs.fuse %-\


Возможно версия исходников в /usr/src не совпадает с версией ядра...

И не было ли ошибок в dmesg при загрузке модуля fuse?

Re: [freebsd] Яндекс-диск через webdav.yandex.ru


On 12/24/13 18:20, George L. Yermulnik wrote:

>sysctl oid-ы в 8.3 и 10-ке разные.

Вы просто про 8.4 писали:
--- cut ---
На FreeBSD 8.4-STABLE работает.

fusefs-kmod-0.3.9.p1.20080208_11
fusefs-libs-2.9.3_1
fusefs-wdfs-1.4.2_4

vfs.fuse.fuse4bsd_version: 0.3.9-pre1
--- cut ---



В 8-ке с fuse из портов у меня есть sysctl vfs.fuse.fuse4bsd_version
В 10-ке есть sysctl vfs.fuse.version

А как на вашей 8-ке выглядит vfs.fuse целиком?

Re: [freebsd] Яндекс-диск через webdav.yandex.ru


On 12/24/13 17:58, George L. Yermulnik wrote:

Хм-м, у меня на 8.3 такого oid'а нет %-\


sysctl oid-ы в 8.3 и 10-ке разные.


Может, мне чего-то в конфиге кернела не хватает?


Для 8.3 должно хватить GENERIC плюс /usr/ports/sysutils/fusefs-kmod/ - чтобы не 
прописывать руками проще поставить опцию AUTOSETUP

Re: [freebsd] Яндекс-диск через webdav.yandex.ru


On 12/23/13 17:04, Anton Yuzhaninov wrote:


В таком варианте
wdfs https://webdav.yandex.ru /mnt/ -o
accept_sslcert,username=...@yandex.ru,password=... -o
allow_other,uid=МОЙ_UID

и читается и пишетсят. FreeBSD 9.1


Попрообовал от root с -o allow_other,uid=МОЙ_UID (если запускать wdfs от себя,
эти опции не нужны) - ничего не изменилось.

У меня FreeBSD 10.0-PRERELEASE #10 r259719
vfs.fuse.version: 0.4.4

fusefs-libs-2.9.3_1
fusefs-wdfs-1.4.2_4

Возможно что то сломали...


На FreeBSD 8.4-STABLE работает.

fusefs-kmod-0.3.9.p1.20080208_11
fusefs-libs-2.9.3_1
fusefs-wdfs-1.4.2_4

vfs.fuse.fuse4bsd_version: 0.3.9-pre1

Re: [freebsd] Яндекс-диск через webdav.yandex.ru

On 12/24/13 00:12, George L. Yermulnik wrote:

>Видимо такого:
>  > ls -l /dev/fuse
>crw-rw  1 root  operator  0x34 Dec 23 13:34 /dev/fuse

А откуда его берут? %-\
ls: /dev/fuse: Нет такого файла или каталога

В 8-ке это работает по другому чем в 10-к.

/dev/fuse нет, а динамически создается /dev/fuseN

:~> ls -l /dev/fuse0
crw-rw  1 root  operator0, 140 Dec 24 13:29 /dev/fuse0

Чтобы его создавать надо быть в группе operator (или монтировать под рутом).

Но в любом случае ошибка странная, если не хватает прав, должно быть:
fuse: failed to open fuse device: Permission denied

Re: [freebsd] Чтение файлов без прав, рутом


On 12/24/13 14:59, Alexander Yerenkow wrote:

То есть, руту даётся возможность прочитать файл без прав. Тест показал что
поведение одинаковое на zfs и ufs.*
*
Кто-то может подсказать хотя бы где это описано, и можно ли это поведение как-то
контролировать?


Где это написано сходу не нашел, но насколько знаю так сложилось исторически во 
времена старых UNIX-систем, и все современные UNIX-like OS это поведение сохраняют.


А вообще тесты лучше запускать не от рута.

Re: [freebsd] Яндекс-диск через webdav.yandex.ru

2013-12-23 Пенетрантность Anton Yuzhaninov


On 23.12.2013 21:14, George L. Yermulnik wrote:

fuse: failed to open fuse device: No such file or directory

Какого ему девайса не хватает?


Видимо такого:
> ls -l /dev/fuse
crw-rw  1 root  operator  0x34 Dec 23 13:34 /dev/fuse

Чтобы использовать fuse не из под root нужно либо добавить пользователя 
в группу operator, либо поменять группу у /dev/fuse

Re: [freebsd] Яндекс-диск через webdav.yandex.ru

2013-12-23 Пенетрантность Anton Yuzhaninov


On 12/23/13 16:39, Andrey Blochintsev wrote:

Кому нибудь удалось примонтировать Yandex-диск через WebDAV под FreeBSD?

http://help.yandex.ru/disk/webdav/webdav-linux.xml

В портах для монтирования webdav нашёл только sysutils/fusefs-wdfs

Примонтировал:
wdfs https://webdav.yandex.ru /mnt/yandex_disk/ -o username=m...@yandex.ru -o
umask=0022


В таком варианте
wdfs https://webdav.yandex.ru /mnt/ -o 
accept_sslcert,username=...@yandex.ru,password=... -o 
allow_other,uid=МОЙ_UID

и читается и пишетсят. FreeBSD 9.1


Попрообовал от root с -o allow_other,uid=МОЙ_UID (если запускать wdfs от себя, 
эти опции не нужны) - ничего не изменилось.


У меня FreeBSD 10.0-PRERELEASE #10 r259719
vfs.fuse.version: 0.4.4

fusefs-libs-2.9.3_1
fusefs-wdfs-1.4.2_4

Возможно что то сломали...

[freebsd] Яндекс-диск через webdav.yandex.ru

2013-12-23 Пенетрантность Anton Yuzhaninov


Кому нибудь удалось примонтировать Yandex-диск через WebDAV под FreeBSD?

http://help.yandex.ru/disk/webdav/webdav-linux.xml

В портах для монтирования webdav нашёл только sysutils/fusefs-wdfs

Примонтировал:
wdfs https://webdav.yandex.ru /mnt/yandex_disk/ -o username=m...@yandex.ru -o 
umask=0022


Читать файлы из примонтированной папки получается, а писать туда - нет.
$ cp ttt /mnt/yandex_disk/
cp: /mnt/yandex_disk/ttt: Invalid argument

Если запустить с wdfs дебагом, то пишет:

unique: 378, opcode: LOOKUP (1), nodeid: 1, insize: 44, pid: 90574
LOOKUP /ttt
getattr /ttt
>> wdfs_getattr(/ttt)
**  cache hit for '/ttt'
## PROPFIND error in wdfs_getattr(): 404 Object Not Found
   unique: 378, error: -2 (No such file or directory), outsize: 16
unique: 379, opcode: LOOKUP (1), nodeid: 1, insize: 44, pid: 90574
LOOKUP /ttt
getattr /ttt
>> wdfs_getattr(/ttt)
**  cache hit for '/ttt'
## PROPFIND error in wdfs_getattr(): 404 Object Not Found
   unique: 379, error: -2 (No such file or directory), outsize: 16

И дальше непонятно - то ли это это баг где то в fuse/wdfs толи webdav у них не 
настоящий, хотя PROPFIND должен поддерживаться:

http://api.yandex.ru/disk/doc/dg/reference/propfind.xml
и 404 тут насколько понимаю потому что такого файла еще нет в Яндекс-диске.

Посмотреть что именно передается по сети сложно, т. к. используется HTTPS (и 
wdfs не умеет передавать debug flags в neon).

Re: [freebsd] ÐÑÐ¾-Ð½Ð¸Ð±ÑÐ´Ñ Ð¸Ð´ÑÑ Ð² ÑÑÐ±Ð±Ð¾ÑÑ Ð½Ð° ruBSD 2013?

2013-12-20 Пенетрантность Anton Yuzhaninov


On 12.12.2013 17:20, Alexey Markov wrote:


Ð¡Ð¾Ð±ÑÑÐ²ÐµÐ½Ð½Ð¾, ÑÐ°Ð±Ð¶. ÐÑÐ¾Ð³ÑÐ°Ð¼Ð¼Ð° Ð¾Ð±ÐµÑÐ°ÐµÑ Ð±ÑÑÑ Ð¸Ð½ÑÐµÑÐµÑÐ½Ð¾Ð¹:
http://tech.yandex.ru/events/yagosti/ruBSD/


Ð¢ÐµÐ¼ Ð²ÑÐµÐ¼ÐµÐ½ÐµÐ¼ Ð½Ð° ÑÑÐ¾Ð¹ Ð¶Ðµ ÑÑÑÐ°Ð½Ð¸ÑÐµ Ð¿Ð¾ÑÐ²Ð¸Ð»Ð¸ÑÑ ÑÑÑÐ»ÐºÐ¸ Ð½Ð° ÑÐ»Ð°Ð¹Ð´Ñ Ð¸ 
Ð²Ð¸Ð´ÐµÐ¾Ð·Ð°Ð¿Ð¸ÑÐ¸ (Ð¿Ð¾ÐºÐ° Ð½Ðµ Ð´Ð»Ñ Ð²ÑÐµÑ Ð´Ð¾ÐºÐ»Ð°Ð´Ð¾Ð²).

Re: [freebsd] NO_STAGE=yes

2013-12-20 Пенетрантность Anton Yuzhaninov

On 12/20/13 13:40, Volodymyr Kostyrko wrote:

В порты добавили новомодную хрень - пакет собирается в $WRKDIRPREFIX,
потом ставится. До этого было - пакет не собирается, а сразу ставится
в систему.

Я протестую, никакая это не новомодная хрень. pkgsrc уже больше десяти лет так
работает и если не ошибаюсь MacPorts тоже, хотя не так долго.

И те не менее до сих пор у кучи софта, у которого make install (а иногда даже и
make) работают только от root.

Типичная ошибка - сделать файл с правами 444 а потом попытаться его изменить.
Обычному пользователю выдается EPERM. А руту даёт записать нормально (и видимо
девелоперы девелопят под рутом).

Только вчера столкнулся с тем, что /usr/ports/shells/bash-completion не ставится
если собирать не от root (sudo в SU_CMD для установки).

Сначала подумал, что у линксодиов так принято - писать read-only файл и делать
вид что так надо, но там это тоже не работает:

:~> touch xxx
:~> chmod 444 xxx
:~> echo 1 > xxx
xxx: Permission denied.
:~> uname -rs
Linux 3.2.0-57-generic

Re: [freebsd] PostgreSQL >= 9.3 and shared buffers

2013-12-19 Пенетрантность Anton Yuzhaninov


On 12/19/13 18:05, Vasiliy P. Melnik wrote:

Немного оффтопик, но как-то года 3 тому назад поднимали вопрос о
производительности oracle и постгреса на фре - в итоге все ушло к
тому, что на сильно нагруженных базах лучше использовать линукс или
солярку


Ну в данном случае вопрос не о том, как ускорить, чтобы догнать и перегнать 
[offtopic] а как сделать, что бы не было regsession по сравнению с тем, что было 
раньше.

[freebsd] PostgreSQL >= 9.3 and shared buffers

2013-12-19 Пенетрантность Anton Yuzhaninov

Пишут, что начиная с 9.3 для shared buffers вместо shared memory начал 
использоваться mmap (и ручек для отключения в конфиге не видно):

http://www.postgresql.org/docs/9.3/static/release-9-3.html

Для пользователей freebsd это насколько понимаю приведет к заметному падению 
производительности. Вот сообщение про коллег из Dragonfly, но они пишут что под 
FreeBSD то же самое:

http://lists.dragonflybsd.org/pipermail/kernel/2012-September/04.html

Раньше можно было написать в sysctl.conf
kern.ipc.shm_use_phys=1
и это позволяло оптимизировать работу с этой памятью за счет того, что
1. она никогда не свопится. если повезло и произошел superpage promotion, то 
demotion уже не случился (а долгоживущие буфера, которые можно свопить рано или 
поздно фрагментируются, и никаких superpages там не будет).
2. если N процессов, используют один shared memory segment, то на каждую 
страницу памяти будет N PV entry в случае shm_use_phys=0 и одна PV entry в 
случае shm_use_phys=1 (там почти все и делают для PostgreSQL).


В случае mmap насколько понимаю все будет так же плохо, как с shared memory + 
shm_use_phys=0
а именно на каждую страницу буфера будет много PV entry (по числу процессов), 
что увеличивает расход памяти (и вымывание кешей CPU).


достаточно, чтобы память под shared buffer хотя бы один раз и частично попала в 
сфоп, и в физической памяти она будет фрагментирована, и superpages 
использоваться уже не будут.


Отсюда такой вопросы:

1. Если в master-е сделать mmap + mlock будет ли такой же эффект как 
shm_use_phys=0 ?


2. Нет ли желающих послать разработчикам postgresql патчи с добавлением mlock ?

Re: [freebsd] zpool trouble

2013-12-12 Пенетрантность Anton Yuzhaninov


On 12/12/13 18:39, Anton Sayetsky wrote:

А зачем она тогда вообще нужна? :) НЯП когда анонсировали санки её, то
как раз и говорили, что ФС рассчитана для работы поверх ненадёжных
носителей.


Если пишутся правильные данные, а читаются данные в которых несколько бит 
поменялось, то ZFS это обнаружит это по контрольным суммам и выдаст ошибку.


Но предусмотреть все возможные проблемы с железом малореально, и на очень плохих 
контроллерах, возможно всё.

Re: [freebsd] dns amplification attack

2013-12-10 Пенетрантность Anton Yuzhaninov


On 12/10/13 14:17, greenh wrote:


У меня свои зоны. По идее рекурсию можно отключать и это решит вопросы?


В данномслучае да, прикрытия рекурсии через ACL хватит. (если packetdevil.com 
это не ваш домена, а он похоже не ваш).


Но authoritative DNS тоже могут использоваться для подобных аттак, хоть и менее 
эффективно. И тут поможет Response Rate Limiting, который есть в NSD и bind10

Re: [freebsd] dns amplification attack

2013-12-10 Пенетрантность Anton Yuzhaninov


On 12/10/13 14:05, greenh wrote:

Господа, подскажите плз, как с этой дрянью бороться
мне тут хостер намекнул, что мои ДНС сервера для этого используют, и tcpdump
намекает, что они похоже правы

Как с этим можно бороться? Гугление что то не дало вменяемых результатов.

# tcpdump -i em1 port 53
tcpdump: verbose output suppressed, use -v or -vv for full protocol decode
listening on em1, link-type EN10MB (Ethernet), capture size 65535 bytes
14:01:10.112093 IP n11212086169.netvigator.com.41033 > 92.241.171.233.domain:
37722+ [1au] A? a.packetdevil.com . (46)


У вас открта рекурсия для всех? Откройте только для localhost и сетей в которых 
живут другие ваши сервера (если такие есть).


Если у вас bind, то что то вроде

acl "mynet" {
127.0.0.0/8;
10.0.0.0/8;
};

options {
   ...
   allow-recursion { mynet; };
   ...
}

Если своих зон на этом сервере нет, то и
allow-query { mynet; };

Если же есть свои зоны, то лучше перенести их на nsd (и настроить там rate 
limit).

Re: [freebsd] Boot device name

2013-11-28 Пенетрантность Anton Yuzhaninov


On 11/28/13 15:09, Anton Sayetsky wrote:

>секторами и надо бы выравнивать разделы под 4K...

И не просто gpart, а GPT, ибо:http://www.freebsd.org/cgi/query-pr.cgi?pr=169542


Это ограничение не gpart, а MBR, где для совместимости разделы выравнивают по 
границе цилиндров (которые к физическим цилиндрам на диске уже давно не имеют 
отношения).


http://lists.freebsd.org/pipermail/freebsd-geom/2013-May/005596.html

Re: [freebsd] Boot device name

2013-11-28 Пенетрантность Anton Yuzhaninov


On 11/28/13 14:04, Anton Sayetsky wrote:

В каком месте переполнению взяться?
MBR позволяет адресовать 2^32*512=2 ТиБ (Тебибайта, основание - 1024).
Объём диска - 2 ТБ (Терабайта, основание - 1000).


До недавнего времени fdisk умел работать с разделами до 1 Tb:

http://svnweb.freebsd.org/changeset/base/258686

Re: [freebsd] RE: freebsd 9.2 проверить файловую систему

2013-11-28 Пенетрантность Anton Yuzhaninov


On 11/28/13 12:12, alexander.druz...@raz.ru wrote:

Ну хорошо, а как народ относится к fsck_y_enable="YES" в rc.conf?


Я ставлю. Из каких соображений на вопрос fsck можно ответить no я не знаю 
(номера inode всех файлов на память я все равно не помню, а кроме inode fsck 
ничего не пишет), поэтому лучше использовать fsck -y и не отвечать кучу раз yes



И заодно, что насчёт background_fsck="NO"?
Пишут, что "YES", который по умолчанию, может приводить к нежелательным 
последствиям.


Правильно пишут. background fsck плох хотя бы тем что создает снапшот. А UFS 
снапшоты на больших разделах работают плохо:

- снапшот создается очень долго и диск при этом сильно нагружен
- часть этого времени блокируются любые приложения которые пытаются обратиться 
к FS
- часть этого времени блокируются приложения, которые пытаются что то писать на 
диск.


Ну и после того, как снапшот будет создан, background fsck нагружает диск, мешая 
нормально работе приложений (если им тоже нужен диск).

Re: [freebsd] OT: HDD Failover tests

2013-11-18 Пенетрантность Anton Yuzhaninov


On 11/18/13 18:27, Alexander Yerenkow wrote:


Знает ли кто-либо, какую-либо методологию тестирования ситуаций фейла HDD?

В идеале это какой-то специальный HDD с кнопками "ОК / Уменьшить скорость /
Имитировать отказ на запись / Фейлить чексуммы ". Можно даже с софтовыми 
кнопками.


Часть из этого умеет gnop (geom nop).

Re: [freebsd] Как узнать размер папки

2013-11-14 Пенетрантность Anton Yuzhaninov


On 11/14/13 18:14, greenh wrote:

  # ls -lhS
total 24945824
-rw-rw  1 mysql  mysql   7.8G Nov 11 01:00 statistic_download_20131110.ibd
-rw-rw  1 mysql  mysql   7.5G Nov 13 01:00 statistic_download_20131112.ibd
-rw-rw  1 mysql  mysql   7.1G Nov 10 00:56 statistic_download_20131109.ibd
-rw-rw  1 mysql  mysql 7G Nov 12 01:00 statistic_download_2013.ibd
-rw-rw  1 mysql  mysql   6.9G Nov 14 01:01 statistic_download_20131113.ibd
-rw-rw  1 mysql  mysql   6.8G Nov  9 00:59 statistic_download_20131108.ibd
-rw-rw  1 mysql  mysql   6.8G Nov  6 01:03 statistic_download_20131105.ibd
-rw-rw  1 mysql  mysql   6.8G Nov  8 00:59 statistic_download_20131107.ibd
-rw-rw  1 mysql  mysql   6.4G Nov  7 01:00 statistic_download_20131106.ibd
-rw-rw  1 mysql  mysql   4.1G Nov 14 18:11 statistic_download_20131114.ibd
-rw-rw  1 mysql  mysql   1.6G Nov 14 18:11 total_download.ibd

но при этом в ней же
  # du -h
  23G.


ls показывает размер файла, du - реально используемое место.

hint1 - файлы могут быть с дырками (sparse)
hint2 - на ZFS еще бывает компрессия на уровне файловой системы

Re: [freebsd] Новый матюк в dmesg


On 10/17/13 13:28, Sergey V. Dyatko wrote:

ну как раз в случае с несколькими ngx (статику раздают, к примеру)
клиент (браузер) не полезет же снова запрашивать файл, получив
connection refused. тут, мне кажется, уж лучше пускай он подождет эту
секунду, чем увидит сайт без css, например.
разве нет?


В случае если клиент браузер, то да, лучше поставить большой listen queue и 
пусть ждет.


В случае если у нас есть несколько MX-ов, то MTA-отправителя по refused должен 
сразу же попробовать подключиться к другому MX-у.


Или если есть несколько серверов с clamav и письма проверяются через MTA/модуль 
к MTA умеющий несколько серверов, например rmilter - тоже на clamav лучше 
поставить небольшое значение listen queue (clamav имеет свойство задумываться на 
некоторых письмах на минуту и больше, потоков там несколько, но все они работают 
медленно и могут задуматься одновременно).

Re: [freebsd] Новый матюк в dmesg


On 10/17/13 12:55, Sergey V. Dyatko wrote:

а почему не 32к, например?


Слишком большое значение тоже плохо - это увеличивает возможные задержки.

Например у нас есть веб-сервер (nginx с одним воркером). На него приходит 2 тыс 
запросов в секунду. Все хорошо пока процесс ни на чем не блокируется.
Допустим он заснул на 1 секунду (например заблокировался на чтении 
перегруженного HDD), если listen queue больше 2000, то новые коннекты будут 
ждать эту секунду, если меньше - то часть из них получит connect refused.


В случае есть несколько серверов и клиент делает несколько попыток подключения, 
имеет смысл ставить небольшое (в разумных пределах) значение listen queue, чтобы 
получив refused клиент ушел на менее загруженный в данный момент сервер.


On 10/17/13 10:32, Alexey Markov wrote:

ÐÐ»Ñ ÑÐ¿ÑÐ°Ð²Ð»ÐµÐ½Ð¸Ñ ÑÑÐ¸Ð¼Ð¸ ÑÐ°Ð¹ÑÐ²Ð¾Ð»Ð°Ð¼Ð¸ Ð½Ð°Ð¿Ð¸ÑÐ°Ð» Ð½ÐµÐ±Ð¾Ð»ÑÑÐ¾Ð¹
ÑÐºÑÐ¸Ð¿Ñ, ÐºÐ¾ÑÐ¾ÑÑÐ¹ Ð¿Ð¾Ð·Ð²Ð¾Ð»ÑÐµÑ ÑÐµÑÑÐ¸ÑÐ¾Ð²Ð°ÑÑ Ð¿ÑÐ°Ð²Ð¸Ð»Ð° Ð¿ÐµÑÐµÐ´ Ð¿ÑÐ¸Ð¼ÐµÐ½ÐµÐ½Ð¸ÐµÐ¼


Ð /usr/share/examples/ipfw/change_rules.sh Ð½Ðµ Ð¿ÑÐ¾Ð±Ð¾Ð²Ð°Ð» Ð¸ÑÐ¿Ð¾Ð»ÑÐ·Ð¾Ð²Ð°ÑÑ?

Re: [freebsd] Новый матюк в dmesg