Re: [Exim-users] Exim 4.95: рост kern.openfiles
On 19.01.2022 14:42, Victor Ustugov wrote: Mikhail Golub wrote on 19.01.2022 14:06: exim был запущен примерно в 3 часа ночи в субботу? uptime сервера 7 суток. Значит не в субботу. exim мог быть рестартован можно показать вывод вот этой команды? ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}' Утром сегодня перезапускал. Не будет ожидаемого результата. Но вот вывод обеих комманд. # ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}' 08:42 # lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort | uniq -c 12 /usr/local/share/certs 12 /usr/local/share/certs/ca-root-nss.crt ну вот примерно два в час. там немного нелинейная зависимость, по крайней мере на моих серверах. а можно попросить проверить количество открытых exim'ом файлов /usr/local/share/certs/ca-root-nss.crt через несколько часов и показать это количество? На этом же сервере спустя 10 часов. # ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}' 08:42 # lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort | uniq -c 4 /usr/local/share/certs 4 /usr/local/share/certs/ca-root-nss.crt ___ Exim-users mailing list Exim-users@mailground.net http://mailground.net/mailman/listinfo/exim-users
Re: [Exim-users] Exim 4.95: рост kern.openfiles
P.S. # service exim restart Stopping exim. Starting exim. # ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}' 13:50 # lsof -c exim | egrep 'cert|openssl' | awk '{print $NF}' | sort | uniq -c 4 /usr/local/openssl 4 /usr/local/share/certs 4 /usr/local/share/certs/ca-root-nss.crt И не растет. > получается, что количество открытий файлов /usr/local/openssl/cert.pem > (в других случаях /usr/local/share/certs/ca-root-nss.crt) зависит не от > нагрузки, а от аптайма exim'а. От количества запусков процесса queue run? По умолчанию каждые 30 минут. У меня 10 минут. ___ Exim-users mailing list Exim-users@mailground.net http://mailground.net/mailman/listinfo/exim-users
Re: [Exim-users] Exim 4.95: рост kern.openfiles
On 19.01.2022 13:05, Victor Ustugov wrote: Mikhail Golub wrote on 19.01.2022 12:38: exim был запущен примерно в 3 часа ночи в субботу? uptime сервера 7 суток. Значит не в субботу. exim мог быть рестартован можно показать вывод вот этой команды? ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}' Утром сегодня перезапускал. Не будет ожидаемого результата. Но вот вывод обеих комманд. # ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}' 08:42 # lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort | uniq -c 12 /usr/local/share/certs 12 /usr/local/share/certs/ca-root-nss.crt FreeBSD 12.3-RELEASE-p1 я оставил 4.95_1 на двух серверах. на одном с патчем, на другом - нет. на обоих количество открытий /usr/local/openssl/cert.pem увеличивается на 2 в час. можно, конечно, раз в неделю при ротации логов вместо kill -HUP выполнять restart. но всё равно, странно всё это выглядит. На другом, тестовом: 4 /usr/local/share/certs 4 /usr/local/share/certs/ca-root-nss.crt тут тоже exim 4.95_1? да, с тем патчем. и при этом количество открытий файла /usr/local/share/certs/ca-root-nss.crt не увеличивается? ___ Exim-users mailing list Exim-users@mailground.net http://mailground.net/mailman/listinfo/exim-users
Re: [Exim-users] Exim 4.95: рост kern.openfiles
> я оставил 4.95_1 на двух серверах. на одном с патчем, на другом - нет. > на обоих количество открытий /usr/local/openssl/cert.pem увеличивается > на 2 в час. У меня нет: # lsof -c exim | egrep 'cert|openssl' | awk '{print $NF}' | sort | uniq -c 24 /usr/local/openssl 12 /usr/local/openssl/cert.pem.neizmen 12 /usr/local/share/certs 12 /usr/local/share/certs/ca-root-nss.crt # ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}' 7Dec21 # uname -a FreeBSD lena.kiev.ua 12.2-RELEASE-p6 FreeBSD 12.2-RELEASE-p6 GENERIC amd64 # ls -l /usr/local/openssl total 876 lrwxr-xr-x 1 root wheel 30 Jan 18 14:30 cert.pem -> ../share/certs/ca-root-nss.crt -rw-r--r-- 1 root wheel 786736 Oct 17 2020 cert.pem.neizmen lrwxr-xr-x 1 root wheel 30 Jan 11 03:14 cert.pem.sample -> ../share/certs/ca-root-nss.crt drwxr-xr-x 2 root wheel 512 Dec 15 09:49 certs -rw-r--r-- 1 root wheel 412 Dec 15 09:49 ct_log_list.cnf -rw-r--r-- 1 root wheel 412 Dec 15 09:49 ct_log_list.cnf.dist drwxr-xr-x 2 root wheel 512 Dec 15 09:49 misc -rw-r--r-- 1 root wheel 10909 Dec 15 09:49 openssl.cnf -rw-r--r-- 1 root wheel 10909 Dec 15 09:49 openssl.cnf.dist drwxr-xr-x 2 root wheel 512 Dec 15 09:49 private ___ Exim-users mailing list Exim-users@mailground.net http://mailground.net/mailman/listinfo/exim-users
Re: [Exim-users] Exim 4.95: рост kern.openfiles
On 18.01.2022 18:06, Victor Ustugov wrote: Mikhail Golub wrote on 18.01.2022 14:09: а можно показать вывод вот этой команды после наложения патча из https://lists.exim.org/lurker/message/20220111.113646.d215e8b6.en.html ? lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort | uniq -c 180 /usr/local/share/certs 180 /usr/local/share/certs/ca-root-nss.crt exim был запущен примерно в 3 часа ночи в субботу? uptime сервера 7 суток. Значит не в субботу. На другом, тестовом: 4 /usr/local/share/certs 4 /usr/local/share/certs/ca-root-nss.crt тут тоже exim 4.95_1? да, с тем патчем. ___ Exim-users mailing list Exim-users@mailground.net http://mailground.net/mailman/listinfo/exim-users
Re: [Exim-users] Exim 4.95: рост kern.openfiles
On 17.01.2022 18:01, Victor Ustugov wrote: а можно показать вывод вот этой команды после наложения патча из https://lists.exim.org/lurker/message/20220111.113646.d215e8b6.en.html ? lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort | uniq -c 180 /usr/local/share/certs 180 /usr/local/share/certs/ca-root-nss.crt На другом, тестовом: 4 /usr/local/share/certs 4 /usr/local/share/certs/ca-root-nss.crt ___ Exim-users mailing list Exim-users@mailground.net http://mailground.net/mailman/listinfo/exim-users
Re: [Exim-users] Exim 4.95: рост kern.openfiles
> кстате, вот это не оно? > https://bugs.exim.org/show_bug.cgi?id=2831 > > поправлено в 4.96 Это оно, но не поправлено еще. Это попытка справиться с большим номером дескриптора файла. А еще не поправленная первопричина - постоянно растущее количество одновременно открытых дескрипторов. ___ Exim-users mailing list Exim-users@mailground.net http://mailground.net/mailman/listinfo/exim-users
Re: [Exim-users] Exim 4.95: рост kern.openfiles
Написал в exim-users англоязычную. https://lists.exim.org/lurker/thread/20220111.094325.893e2763.en.html On 11.01.2022 12:08, l...@lena.kiev.ua wrote: lsof -c exim У меня тестовый "сервачок", на котором за сутки пролетает два письма :) И Exim утром перезапускался. # lsof -c exim COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME exim12441 mailnull cwd VDIR 307188765,36747261165 131088 /var/spool/exim exim12441 mailnull rtd VDIR 307188765,3674726116 25 34 / exim12441 mailnull0u KQUEUE 0xf8003dd84100 count=0, state=0x1 exim12441 mailnull1uVCHR 0,14 0t0 14 /dev/null exim12441 mailnull2uVCHR 0,14 0t0 14 /dev/null exim12441 mailnull3uunix 0xf8001c7f26d0 0t0 /var/spool/exim/exim_daemon_notify exim12441 mailnull4uIPv4 0xf8007a39 0t0 TCP localhost:smtp (LISTEN) exim12441 mailnull5uIPv4 0xf80019cd73d8 0t0 TCP localhost:submission (LISTEN) exim12441 mailnull6uIPv4 0xf8006a4963d8 0t0 TCP 10.7.0.212:smtp (LISTEN) exim12441 mailnull7uIPv4 0xf8006a962b88 0t0 TCP 10.7.0.212:submission (LISTEN) exim12441 mailnull8uIPv4 0xf80010a327b0 0t0 TCP 192.168.44.254:smtp (LISTEN) exim12441 mailnull9uIPv4 0xf8006a9627b0 0t0 TCP 192.168.44.254:submission (LISTEN) exim12441 mailnull 10rVDIR 307188765,36747261167 131973 /usr/local/etc/exim/cert exim12441 mailnull 11rVREG 307188765,3674726116 2269 131974 /usr/local/etc/exim/cert/***.cer exim12441 mailnull 12rVDIR 307188765,36747261167 131973 /usr/local/etc/exim/cert exim12441 mailnull 13rVREG 307188765,3674726116 1679 131975 /usr/local/etc/exim/cert/***.key exim12441 mailnull 14rVDIR 307188765,36747261166 697 /etc/ssl exim12441 mailnull 15rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 16rVREG 307188765,3674726116 710164 155282 /usr/local/share/certs/ca-root-nss.crt exim12441 mailnull 17rVDIR 307188765,36747261166 697 /etc/ssl exim12441 mailnull 18rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 19rVREG 307188765,3674726116 710164 155282 /usr/local/share/certs/ca-root-nss.crt exim12441 mailnull 20rVDIR 307188765,36747261166 697 /etc/ssl exim12441 mailnull 21rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 22rVREG 307188765,3674726116 710164 155282 /usr/local/share/certs/ca-root-nss.crt exim12441 mailnull 23rVDIR 307188765,36747261166 697 /etc/ssl exim12441 mailnull 24rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 25rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 26rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 27rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 28rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 29rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 30rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 31rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 32rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 33rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 34rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 35rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 36rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 37rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 38rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 39rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 40rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 41rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 42rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 43rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 44rVDIR 307188765,36747261163 155281 /usr/local/share/certs exim12441 mailnull 45rVDIR 307188765,36747261163 155281
Re: [Exim-users] Exim 4.95: рост kern.openfiles
> После перехода на версию 4.95 Exim на FreeBSD 12.3 Под FreeBSD используется OpenSSL, под Линуксами обычно GNUTLS. > Открыто моногкратно вот этот каталог (вывод lsof из портов): > COMMAND PID USER FD TYPEDEVICE > SIZE/OFFNODE NAME > ... > exim 14854 mailnull 1182rVDIR 0,85 >512 2327639 /usr/local/share/certs > С пред. версией 4.94.2 такой проблемы небыло. > Рестарт exim закрывает все файлы. Но потом kern.openfiles снова > посетепенно растет. Это уже заслуживает запостить в exim-dev Были разговоры про очень большие номера дескрипторов файлов под FreeBSD, вот и причина. У меня FreeBSD 12.2 amd64, очень маленький траффик. # lsof -c exim COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME exim30754 mailnull cwd VDIR 0,100 512 562508 /var/spool/exim exim30754 mailnull rtd VDIR 0,100 1024 2 / exim30754 mailnull0uVCHR 0,18 0t0 18 /dev/null exim30754 mailnull1uVCHR 0,18 0t0 18 /dev/null exim30754 mailnull2uVCHR 0,18 0t0 18 /dev/null exim30754 mailnull3uunix 0xf800168076d0 0t0 /var/spool/exim/exim_daemon_notify exim30754 mailnull4uIPv4 0xf80016fe2000 0t0TCP *:smtp (LISTEN) exim30754 mailnull5uIPv4 0xf8001e6b43d0 0t0TCP *:5225 (LISTEN) exim30754 mailnull7u KQUEUE 0xf80015b4d300 count=0, state=0x1 exim30754 mailnull8rVDIR 0,100 512 321116 /etc/ssl exim30754 mailnull9rVREG 0,100 1021 321471 /etc/ssl/exim.crt exim30754 mailnull 10rVDIR 0,100 512 321116 /etc/ssl exim30754 mailnull 11rVREG 0,100 887 321472 /etc/ssl/exim.pem exim30754 mailnull 12rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 13rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 14rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 15rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 16rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 17rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 18rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 19rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 20u KQUEUE 0xf80012e22c00 count=0, state=0x1 exim30754 mailnull 21rVDIR 0,100 512 321116 /etc/ssl exim30754 mailnull 22rVREG 0,100 1021 321471 /etc/ssl/exim.crt exim30754 mailnull 23rVDIR 0,100 512 321116 /etc/ssl exim30754 mailnull 24rVREG 0,100 887 321472 /etc/ssl/exim.pem exim30754 mailnull 25rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 26rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 27rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 28rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 29rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 30rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 31rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 32rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 33u KQUEUE 0xf8001bfef400 count=0, state=0x1 exim30754 mailnull 34rVDIR 0,100 512 321116 /etc/ssl exim30754 mailnull 35rVREG 0,100 1021 321471 /etc/ssl/exim.crt exim30754 mailnull 36rVDIR 0,100 512 321116 /etc/ssl exim30754 mailnull 37rVREG 0,100 887 321472 /etc/ssl/exim.pem exim30754 mailnull 38rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 39rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 40rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 41rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 42rVDIR 0,100 512 969563 /usr/local/openssl exim30754 mailnull 43rVREG 0,100 786736 969662 /usr/local/openssl/cert.pem exim30754 mailnull 44rVDIR 0,100 512 969563