Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-19 Пенетрантность Mikhail Golub



On 19.01.2022 14:42, Victor Ustugov wrote:

Mikhail Golub wrote on 19.01.2022 14:06:



exim был запущен примерно в 3 часа ночи в субботу?


uptime сервера 7 суток. Значит не в субботу.


exim мог быть рестартован

можно показать вывод вот этой команды?

ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}'


Утром сегодня перезапускал. Не будет ожидаемого результата.

Но вот вывод обеих комманд.

# ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}'
08:42

# lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort |
uniq -c
   12 /usr/local/share/certs
   12 /usr/local/share/certs/ca-root-nss.crt


ну вот примерно два в час.
там немного нелинейная зависимость, по крайней мере на моих серверах.

а можно попросить проверить количество открытых exim'ом файлов
/usr/local/share/certs/ca-root-nss.crt через несколько часов и показать
это количество?


На этом же сервере спустя 10 часов.

# ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}'
08:42

# lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort 
| uniq -c

   4 /usr/local/share/certs
   4 /usr/local/share/certs/ca-root-nss.crt



___
Exim-users mailing list
Exim-users@mailground.net
http://mailground.net/mailman/listinfo/exim-users



Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-19 Пенетрантность Lena
P.S.

# service exim restart
Stopping exim.
Starting exim.
# ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}'
13:50
# lsof -c exim | egrep 'cert|openssl' | awk '{print $NF}' | sort | uniq -c
   4 /usr/local/openssl
   4 /usr/local/share/certs
   4 /usr/local/share/certs/ca-root-nss.crt

И не растет.

> получается, что количество открытий файлов /usr/local/openssl/cert.pem
> (в других случаях /usr/local/share/certs/ca-root-nss.crt) зависит не от
> нагрузки, а от аптайма exim'а.

От количества запусков процесса queue run?
По умолчанию каждые 30 минут. У меня 10 минут.

___
Exim-users mailing list
Exim-users@mailground.net
http://mailground.net/mailman/listinfo/exim-users



Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-19 Пенетрантность Mikhail Golub



On 19.01.2022 13:05, Victor Ustugov wrote:

Mikhail Golub wrote on 19.01.2022 12:38:


exim был запущен примерно в 3 часа ночи в субботу?


uptime сервера 7 суток. Значит не в субботу.


exim мог быть рестартован

можно показать вывод вот этой команды?

ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}'


Утром сегодня перезапускал. Не будет ожидаемого результата.

Но вот вывод обеих комманд.

# ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}'
08:42

# lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort |
uniq -c
  12 /usr/local/share/certs
  12 /usr/local/share/certs/ca-root-nss.crt


FreeBSD 12.3-RELEASE-p1




я оставил 4.95_1 на двух серверах. на одном с патчем, на другом - нет.
на обоих количество открытий /usr/local/openssl/cert.pem увеличивается
на 2 в час.

можно, конечно, раз в неделю при ротации логов вместо kill -HUP
выполнять restart. но всё равно, странно всё это выглядит.



На другом, тестовом:
     4 /usr/local/share/certs
     4 /usr/local/share/certs/ca-root-nss.crt


тут тоже exim 4.95_1?


да, с тем патчем.


и при этом количество открытий файла
/usr/local/share/certs/ca-root-nss.crt не увеличивается?





___
Exim-users mailing list
Exim-users@mailground.net
http://mailground.net/mailman/listinfo/exim-users



Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-19 Пенетрантность Lena
> я оставил 4.95_1 на двух серверах. на одном с патчем, на другом - нет.
> на обоих количество открытий /usr/local/openssl/cert.pem увеличивается
> на 2 в час.

У меня нет:

# lsof -c exim | egrep 'cert|openssl' | awk '{print $NF}' | sort | uniq -c
  24 /usr/local/openssl
  12 /usr/local/openssl/cert.pem.neizmen
  12 /usr/local/share/certs
  12 /usr/local/share/certs/ca-root-nss.crt
# ps axwu | awk '{if($2=="'$(cat /var/run/exim.pid)'") print $9}'
7Dec21
# uname -a
FreeBSD lena.kiev.ua 12.2-RELEASE-p6 FreeBSD 12.2-RELEASE-p6 GENERIC  amd64
# ls -l /usr/local/openssl
total 876
lrwxr-xr-x  1 root  wheel  30 Jan 18 14:30 cert.pem -> 
../share/certs/ca-root-nss.crt
-rw-r--r--  1 root  wheel  786736 Oct 17  2020 cert.pem.neizmen
lrwxr-xr-x  1 root  wheel  30 Jan 11 03:14 cert.pem.sample -> 
../share/certs/ca-root-nss.crt
drwxr-xr-x  2 root  wheel 512 Dec 15 09:49 certs
-rw-r--r--  1 root  wheel 412 Dec 15 09:49 ct_log_list.cnf
-rw-r--r--  1 root  wheel 412 Dec 15 09:49 ct_log_list.cnf.dist
drwxr-xr-x  2 root  wheel 512 Dec 15 09:49 misc
-rw-r--r--  1 root  wheel   10909 Dec 15 09:49 openssl.cnf
-rw-r--r--  1 root  wheel   10909 Dec 15 09:49 openssl.cnf.dist
drwxr-xr-x  2 root  wheel 512 Dec 15 09:49 private


___
Exim-users mailing list
Exim-users@mailground.net
http://mailground.net/mailman/listinfo/exim-users



Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-19 Пенетрантность Mikhail Golub



On 18.01.2022 18:06, Victor Ustugov wrote:

Mikhail Golub wrote on 18.01.2022 14:09:


а можно показать вывод вот этой команды после наложения патча из
https://lists.exim.org/lurker/message/20220111.113646.d215e8b6.en.html ?

lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort |
uniq -c


  180 /usr/local/share/certs
  180 /usr/local/share/certs/ca-root-nss.crt


exim был запущен примерно в 3 часа ночи в субботу?


uptime сервера 7 суток. Значит не в субботу.


На другом, тестовом:
    4 /usr/local/share/certs
    4 /usr/local/share/certs/ca-root-nss.crt


тут тоже exim 4.95_1?


да, с тем патчем.







___
Exim-users mailing list
Exim-users@mailground.net
http://mailground.net/mailman/listinfo/exim-users



Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-18 Пенетрантность Mikhail Golub



On 17.01.2022 18:01, Victor Ustugov wrote:

а можно показать вывод вот этой команды после наложения патча из
https://lists.exim.org/lurker/message/20220111.113646.d215e8b6.en.html ?

lsof -c exim | grep /usr/local/share/certs | awk '{print $NF}' | sort |
uniq -c


 180 /usr/local/share/certs
 180 /usr/local/share/certs/ca-root-nss.crt

На другом, тестовом:
   4 /usr/local/share/certs
   4 /usr/local/share/certs/ca-root-nss.crt



___
Exim-users mailing list
Exim-users@mailground.net
http://mailground.net/mailman/listinfo/exim-users



Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-11 Пенетрантность Lena
> кстате, вот это не оно?
> https://bugs.exim.org/show_bug.cgi?id=2831
>  
> поправлено в 4.96

Это оно, но не поправлено еще. Это попытка справиться с большим номером
дескриптора файла. А еще не поправленная первопричина - постоянно растущее
количество одновременно открытых дескрипторов.

___
Exim-users mailing list
Exim-users@mailground.net
http://mailground.net/mailman/listinfo/exim-users



Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-11 Пенетрантность Mikhail Golub

Написал в exim-users англоязычную.
https://lists.exim.org/lurker/thread/20220111.094325.893e2763.en.html


On 11.01.2022 12:08, l...@lena.kiev.ua wrote:

lsof -c exim


У меня тестовый "сервачок", на котором за сутки пролетает два письма :)
И Exim утром перезапускался.

# lsof -c exim
COMMAND   PID USER   FD TYPE   DEVICE SIZE/OFF 
NODE NAME
exim12441 mailnull  cwd VDIR 307188765,36747261165 
131088 /var/spool/exim

exim12441 mailnull  rtd VDIR 307188765,3674726116   25 34 /
exim12441 mailnull0u  KQUEUE   0xf8003dd84100 
  count=0, state=0x1
exim12441 mailnull1uVCHR 0,14  0t0 
14 /dev/null
exim12441 mailnull2uVCHR 0,14  0t0 
14 /dev/null
exim12441 mailnull3uunix   0xf8001c7f26d0  0t0 
  /var/spool/exim/exim_daemon_notify
exim12441 mailnull4uIPv4   0xf8007a39  0t0 
TCP localhost:smtp (LISTEN)
exim12441 mailnull5uIPv4   0xf80019cd73d8  0t0 
TCP localhost:submission (LISTEN)
exim12441 mailnull6uIPv4   0xf8006a4963d8  0t0 
TCP 10.7.0.212:smtp (LISTEN)
exim12441 mailnull7uIPv4   0xf8006a962b88  0t0 
TCP 10.7.0.212:submission (LISTEN)
exim12441 mailnull8uIPv4   0xf80010a327b0  0t0 
TCP 192.168.44.254:smtp (LISTEN)
exim12441 mailnull9uIPv4   0xf8006a9627b0  0t0 
TCP 192.168.44.254:submission (LISTEN)
exim12441 mailnull   10rVDIR 307188765,36747261167 
131973 /usr/local/etc/exim/cert
exim12441 mailnull   11rVREG 307188765,3674726116 2269 
131974 /usr/local/etc/exim/cert/***.cer
exim12441 mailnull   12rVDIR 307188765,36747261167 
131973 /usr/local/etc/exim/cert
exim12441 mailnull   13rVREG 307188765,3674726116 1679 
131975 /usr/local/etc/exim/cert/***.key
exim12441 mailnull   14rVDIR 307188765,36747261166 
697 /etc/ssl
exim12441 mailnull   15rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   16rVREG 307188765,3674726116   710164 
155282 /usr/local/share/certs/ca-root-nss.crt
exim12441 mailnull   17rVDIR 307188765,36747261166 
697 /etc/ssl
exim12441 mailnull   18rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   19rVREG 307188765,3674726116   710164 
155282 /usr/local/share/certs/ca-root-nss.crt
exim12441 mailnull   20rVDIR 307188765,36747261166 
697 /etc/ssl
exim12441 mailnull   21rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   22rVREG 307188765,3674726116   710164 
155282 /usr/local/share/certs/ca-root-nss.crt
exim12441 mailnull   23rVDIR 307188765,36747261166 
697 /etc/ssl
exim12441 mailnull   24rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   25rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   26rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   27rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   28rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   29rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   30rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   31rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   32rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   33rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   34rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   35rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   36rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   37rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   38rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   39rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   40rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   41rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   42rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   43rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   44rVDIR 307188765,36747261163 
155281 /usr/local/share/certs
exim12441 mailnull   45rVDIR 307188765,36747261163 
155281 

Re: [Exim-users] Exim 4.95: рост kern.openfiles

2022-01-11 Пенетрантность Lena
> После перехода на версию 4.95 Exim на FreeBSD 12.3

Под FreeBSD используется OpenSSL, под Линуксами обычно GNUTLS.

> Открыто моногкратно вот этот каталог (вывод lsof из портов):
> COMMAND PID USER   FD TYPEDEVICE 
> SIZE/OFFNODE NAME
> ...
> exim  14854 mailnull 1182rVDIR  0,85 
>512 2327639 /usr/local/share/certs

> С пред. версией 4.94.2 такой проблемы небыло.

> Рестарт exim закрывает все файлы. Но потом kern.openfiles снова 
> посетепенно растет.

Это уже заслуживает запостить в exim-dev
Были разговоры про очень большие номера дескрипторов файлов под FreeBSD,
вот и причина.

У меня FreeBSD 12.2 amd64, очень маленький траффик.

# lsof -c exim
COMMAND   PID USER   FD TYPE DEVICE SIZE/OFF   NODE NAME
exim30754 mailnull  cwd VDIR  0,100  512 562508 
/var/spool/exim
exim30754 mailnull  rtd VDIR  0,100 1024  2 /
exim30754 mailnull0uVCHR   0,18  0t0 18 
/dev/null
exim30754 mailnull1uVCHR   0,18  0t0 18 
/dev/null
exim30754 mailnull2uVCHR   0,18  0t0 18 
/dev/null
exim30754 mailnull3uunix 0xf800168076d0  0t0
/var/spool/exim/exim_daemon_notify
exim30754 mailnull4uIPv4 0xf80016fe2000  0t0TCP *:smtp 
(LISTEN)
exim30754 mailnull5uIPv4 0xf8001e6b43d0  0t0TCP *:5225 
(LISTEN)
exim30754 mailnull7u  KQUEUE 0xf80015b4d300 
count=0, state=0x1
exim30754 mailnull8rVDIR  0,100  512 321116 /etc/ssl
exim30754 mailnull9rVREG  0,100 1021 321471 
/etc/ssl/exim.crt
exim30754 mailnull   10rVDIR  0,100  512 321116 /etc/ssl
exim30754 mailnull   11rVREG  0,100  887 321472 
/etc/ssl/exim.pem
exim30754 mailnull   12rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   13rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   14rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   15rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   16rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   17rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   18rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   19rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   20u  KQUEUE 0xf80012e22c00 
count=0, state=0x1
exim30754 mailnull   21rVDIR  0,100  512 321116 /etc/ssl
exim30754 mailnull   22rVREG  0,100 1021 321471 
/etc/ssl/exim.crt
exim30754 mailnull   23rVDIR  0,100  512 321116 /etc/ssl
exim30754 mailnull   24rVREG  0,100  887 321472 
/etc/ssl/exim.pem
exim30754 mailnull   25rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   26rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   27rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   28rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   29rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   30rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   31rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   32rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   33u  KQUEUE 0xf8001bfef400 
count=0, state=0x1
exim30754 mailnull   34rVDIR  0,100  512 321116 /etc/ssl
exim30754 mailnull   35rVREG  0,100 1021 321471 
/etc/ssl/exim.crt
exim30754 mailnull   36rVDIR  0,100  512 321116 /etc/ssl
exim30754 mailnull   37rVREG  0,100  887 321472 
/etc/ssl/exim.pem
exim30754 mailnull   38rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   39rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   40rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   41rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   42rVDIR  0,100  512 969563 
/usr/local/openssl
exim30754 mailnull   43rVREG  0,100   786736 969662 
/usr/local/openssl/cert.pem
exim30754 mailnull   44rVDIR  0,100  512 969563