Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

>
> А Вам не шлют часом пакетики с zero windows?

Разобрался, нет не шлют.

11 января 2017 г., 15:07 пользователь Иван Мишин 
написал:

> А Вам не шлют часом пакетики с zero windows?
>
> Поясните пожалуйста что это такое?
>
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

>
> А Вам не шлют часом пакетики с zero windows?

Поясните пожалуйста что это такое?
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Anton Gorlov]

А Вам не шлют часом пакетики с zero windows?



11.01.2017 12:18, Иван Мишин пишет:
> Проблема сама ушла, но сейчас снова вернулась.
> nginx имеет кучу процессов в состоянии shutting down
>
> nginx 2245  0.1  0.4 277892 170264 ?   S<2016  60:12
> nginx: worker process is shutting down
> nginx 2246  0.1  0.4 277892 170268 ?   S<2016  60:04
> nginx: worker process is shutting down
> nginx 2247  0.1  0.4 277892 170264 ?   S<2016  53:58
> nginx: worker process is shutting down
> nginx 2248  0.1  0.4 277892 170268 ?   S<2016  61:46
> nginx: worker process is shutting down
> nginx 2249  0.1  0.4 277892 170264 ?   S<2016  60:04
> nginx: worker process is shutting down
> nginx 2250  0.1  0.4 277892 170264 ?   S<2016  61:02
> nginx: worker process is shutting down
> root 12463  0.0  0.3 239260 117740 ?   Ss2016   0:02
> nginx: master process /usr/sbin/nginx -c /etc/nginx/nginx.conf
> nginx12466  0.1  0.3 225684 117204 ?   S<2016  63:19
> nginx: worker process is shutting down
> nginx12472  0.2  0.3 226236 117596 ?   S<2016  68:23
> nginx: worker process is shutting down
> nginx12475  0.1  0.3 226204 117592 ?   S<2016  65:29
> nginx: worker process is shutting down
> root 34155  0.0  0.0 103336   916 pts/1S+   11:58   0:00
> grep nginx
> nginx44094  1.0  0.4 280680 171700 ?   S<2016 301:38
> nginx: worker process is shutting down
> nginx44095  0.9  0.4 280680 171700 ?   S<2016 260:05
> nginx: worker process is shutting down
> nginx44096  0.9  0.4 280680 171700 ?   S<2016 280:09
> nginx: worker process is shutting down
> nginx44097  0.9  0.4 280680 171700 ?   S<2016 274:12
> nginx: worker process is shutting down
> nginx44098  1.0  0.4 280680 171700 ?   S<2016 304:19
> nginx: worker process is shutting down
> nginx44099  1.0  0.4 280680 171700 ?   S<2016 289:29
> nginx: worker process is shutting down
> nginx47185  2.0  0.4 280732 170500 ?   S<   Jan09  59:39
> nginx: worker process
> nginx47186  2.0  0.4 280732 170504 ?   S<   Jan09  58:10
> nginx: worker process
> nginx47187  1.7  0.4 280732 170504 ?   S<   Jan09  51:09
> nginx: worker process
> nginx47188  1.7  0.4 280732 170504 ?   S<   Jan09  50:46
> nginx: worker process
> nginx47189  1.8  0.4 280732 170504 ?   S<   Jan09  53:27
> nginx: worker process
> nginx47190  2.0  0.4 280732 170504 ?   S<   Jan09  59:42
> nginx: worker process
> nginx47191  0.0  0.3 239264 128296 ?   SJan09   1:04
> nginx: cache manager process
> nginx58834  0.0  0.4 277892 170248 ?   S<2016  18:34
> nginx: worker process is shutting down
> nginx58835  0.0  0.4 277892 170248 ?   S<2016  20:34
> nginx: worker process is shutting down
> nginx58836  0.0  0.4 277892 170244 ?   S<2016  19:48
> nginx: worker process is shutting down
>
>
>  При этом netstat -nap | grep 
> выдает например 
>
> tcp0  0 x.x.x.x:49810y.y.y.y:80  
> ESTABLISHED 2245/nginx
>
>
> отправляюсь на  y.y.y.y (там у меня на 80 порту nginx) и делаю service
> nginx stop и service nginx start.
> Но возвращаясь на  x.x.x.x я снова вижу
>
>  При этом netstat -nap | grep  down> выдает например 
>
> tcp0  0 x.x.x.x:49810y.y.y.y:80  
> ESTABLISHED 2245/nginx
>
>
> Не пойму почему не отваливается соединение? 
>
> 30 ноября 2015 г., 10:53 пользователь Aleksandr Sytar
> > написал:
>
>
>
> 30 ноября 2015 г., 10:42 пользователь Иван Мишин
> > написал:
>
> Проблема в том что не отмирают старые процессы по несколько
> дней ( видел те которые 10 дней даже живут), они то и держат
> "лишние" соединения.
>
> Вот конкретно сейчас есть процессы от 23 числа.:
> nginx46065  1.5  0.3 237188 133192 ?   S<   Nov23
> 151:19 nginx: worker process is shutting down
> nginx46066  1.5  0.3 237060 133156 ?   S<   Nov23
> 144:16 nginx: worker process is shutting down
> nginx46069  1.6  0.3 237008 133836 ?   S<   Nov23
> 156:25 nginx: worker process is shutting down
>
> Почему они за 7 дней до сих пор не умерли?
>
>
> Потому что к ним еще подключены клиенты. Убейте клиентов и воркеры
> сам закроются
>
>
> ___
> nginx-ru mailing list
> nginx-ru@nginx.org 
> http://mailman.nginx.org/mailman/listinfo/nginx-ru
> 

Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

Проблема сама ушла, но сейчас снова вернулась.
nginx имеет кучу процессов в состоянии shutting down

> nginx 2245  0.1  0.4 277892 170264 ?   S<2016  60:12 nginx:
> worker process is shutting down
> nginx 2246  0.1  0.4 277892 170268 ?   S<2016  60:04 nginx:
> worker process is shutting down
> nginx 2247  0.1  0.4 277892 170264 ?   S<2016  53:58 nginx:
> worker process is shutting down
> nginx 2248  0.1  0.4 277892 170268 ?   S<2016  61:46 nginx:
> worker process is shutting down
> nginx 2249  0.1  0.4 277892 170264 ?   S<2016  60:04 nginx:
> worker process is shutting down
> nginx 2250  0.1  0.4 277892 170264 ?   S<2016  61:02 nginx:
> worker process is shutting down
> root 12463  0.0  0.3 239260 117740 ?   Ss2016   0:02 nginx:
> master process /usr/sbin/nginx -c /etc/nginx/nginx.conf
> nginx12466  0.1  0.3 225684 117204 ?   S<2016  63:19 nginx:
> worker process is shutting down
> nginx12472  0.2  0.3 226236 117596 ?   S<2016  68:23 nginx:
> worker process is shutting down
> nginx12475  0.1  0.3 226204 117592 ?   S<2016  65:29 nginx:
> worker process is shutting down
> root 34155  0.0  0.0 103336   916 pts/1S+   11:58   0:00 grep nginx
> nginx44094  1.0  0.4 280680 171700 ?   S<2016 301:38 nginx:
> worker process is shutting down
> nginx44095  0.9  0.4 280680 171700 ?   S<2016 260:05 nginx:
> worker process is shutting down
> nginx44096  0.9  0.4 280680 171700 ?   S<2016 280:09 nginx:
> worker process is shutting down
> nginx44097  0.9  0.4 280680 171700 ?   S<2016 274:12 nginx:
> worker process is shutting down
> nginx44098  1.0  0.4 280680 171700 ?   S<2016 304:19 nginx:
> worker process is shutting down
> nginx44099  1.0  0.4 280680 171700 ?   S<2016 289:29 nginx:
> worker process is shutting down
> nginx47185  2.0  0.4 280732 170500 ?   S<   Jan09  59:39 nginx:
> worker process
> nginx47186  2.0  0.4 280732 170504 ?   S<   Jan09  58:10 nginx:
> worker process
> nginx47187  1.7  0.4 280732 170504 ?   S<   Jan09  51:09 nginx:
> worker process
> nginx47188  1.7  0.4 280732 170504 ?   S<   Jan09  50:46 nginx:
> worker process
> nginx47189  1.8  0.4 280732 170504 ?   S<   Jan09  53:27 nginx:
> worker process
> nginx47190  2.0  0.4 280732 170504 ?   S<   Jan09  59:42 nginx:
> worker process
> nginx47191  0.0  0.3 239264 128296 ?   SJan09   1:04 nginx:
> cache manager process
> nginx58834  0.0  0.4 277892 170248 ?   S<2016  18:34 nginx:
> worker process is shutting down
> nginx58835  0.0  0.4 277892 170248 ?   S<2016  20:34 nginx:
> worker process is shutting down
> nginx58836  0.0  0.4 277892 170244 ?   S<2016  19:48 nginx:
> worker process is shutting down


 При этом netstat -nap | grep  выдает
например

> tcp0  0 x.x.x.x:49810y.y.y.y:80
> ESTABLISHED 2245/nginx


отправляюсь на  y.y.y.y (там у меня на 80 порту nginx) и делаю service
nginx stop и service nginx start.
Но возвращаясь на  x.x.x.x я снова вижу

>  При этом netstat -nap | grep  выдает
> например

tcp0  0 x.x.x.x:49810y.y.y.y:80
> ESTABLISHED 2245/nginx


Не пойму почему не отваливается соединение?

30 ноября 2015 г., 10:53 пользователь Aleksandr Sytar 
написал:

>
>
> 30 ноября 2015 г., 10:42 пользователь Иван Мишин 
> написал:
>
>> Проблема в том что не отмирают старые процессы по несколько дней ( видел
>> те которые 10 дней даже живут), они то и держат "лишние" соединения.
>>
>> Вот конкретно сейчас есть процессы от 23 числа.:
>> nginx46065  1.5  0.3 237188 133192 ?   S<   Nov23 151:19 nginx:
>> worker process is shutting down
>> nginx46066  1.5  0.3 237060 133156 ?   S<   Nov23 144:16 nginx:
>> worker process is shutting down
>> nginx46069  1.6  0.3 237008 133836 ?   S<   Nov23 156:25 nginx:
>> worker process is shutting down
>>
>> Почему они за 7 дней до сих пор не умерли?
>>
>
> Потому что к ним еще подключены клиенты. Убейте клиентов и воркеры сам
> закроются
>
>
> ___
> nginx-ru mailing list
> nginx-ru@nginx.org
> http://mailman.nginx.org/mailman/listinfo/nginx-ru
>
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

Проблема в том что не отмирают старые процессы по несколько дней ( видел те
которые 10 дней даже живут), они то и держат "лишние" соединения.

Вот конкретно сейчас есть процессы от 23 числа.:
nginx46065  1.5  0.3 237188 133192 ?   S<   Nov23 151:19 nginx:
worker process is shutting down
nginx46066  1.5  0.3 237060 133156 ?   S<   Nov23 144:16 nginx:
worker process is shutting down
nginx46069  1.6  0.3 237008 133836 ?   S<   Nov23 156:25 nginx:
worker process is shutting down

Почему они за 7 дней до сих пор не умерли?


20 ноября 2015 г., 13:03 пользователь Evgeniy Berdnikov 
написал:

> On Fri, Nov 20, 2015 at 12:49:28PM +0300, Иван Мишин wrote:
> > Коллеги, вопрос актуален. Есть идеи?
>
>  Через netstat/lsof/etc сделать привязку сокетов к процессам,
>  записать дамп трафика и посмотреть, что бегало в нескольких
>  "дохлых" сокетах и когда прекратило. Тогда будут конкретные
>  доводы в пользу того, что nginx зачем-то открывает новые сокеты,
>  забывая закрыть старые.
> --
>  Eugene Berdnikov
>
> ___
> nginx-ru mailing list
> nginx-ru@nginx.org
> http://mailman.nginx.org/mailman/listinfo/nginx-ru
>
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Aleksandr Sytar]

30 ноября 2015 г., 10:42 пользователь Иван Мишин 
написал:

> Проблема в том что не отмирают старые процессы по несколько дней ( видел
> те которые 10 дней даже живут), они то и держат "лишние" соединения.
>
> Вот конкретно сейчас есть процессы от 23 числа.:
> nginx46065  1.5  0.3 237188 133192 ?   S<   Nov23 151:19 nginx:
> worker process is shutting down
> nginx46066  1.5  0.3 237060 133156 ?   S<   Nov23 144:16 nginx:
> worker process is shutting down
> nginx46069  1.6  0.3 237008 133836 ?   S<   Nov23 156:25 nginx:
> worker process is shutting down
>
> Почему они за 7 дней до сих пор не умерли?
>

Потому что к ним еще подключены клиенты. Убейте клиентов и воркеры сам
закроются
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

Коллеги, вопрос актуален. Есть идеи?

16 ноября 2015 г., 15:26 пользователь Иван Мишин 
написал:

> Я бы предложил для начала посчитать, сколько на каждый экземпляр nginx у
>> вас открыто udp сокетов и как это соотносится с конфигурацией. Учтите,
>> что количество будет зависеть от количества рабочих процессов. Так что
>> некоторый рост с момента старта - это нормально (сокеты открываются
>> при первом использовании какого-либо лога).
>
> В нормальных условиях кол-во открытых udp сокетов корректно соотносится с
> текущей конфигурацией . Затем они расту со временем. За последний месяц
> кол-во сокетов примерно возросло с 800 до 3000.
> Для наглядности приложу график. Резкое падение на графике произошло после
> рестарта nginx
>
> Также учитывайте, что
>> во время релоада в наличии 2 набора рабочих процессов - старые живут,
>> пока есть незавершённые соединения от клиентов.
>
> ОК, но в этом случае в самом критичном раскладе из 800 открытых сокетов
> получилось бы 1600, но не как не 3000.
>
> При этом логирование через сислог было налажено сразу как вышел nginx
> 1.8.0, а проблемы начались только в последний месяц.
>
>
> 16 ноября 2015 г., 14:10 пользователь Vladimir Homutov 
> написал:
>
> On Mon, Nov 16, 2015 at 12:42:06PM +0300, Иван Мишин wrote:
>> > ну к тому что я уже написал
>> >
>> > > access_log syslog:server=127.0.0.1:415
>> ,facility=local4,severity=notice
>> > > main;
>> > > error_log syslog:server=127.0.0.1:415,facility=local5,severity=notice
>> > > error;
>> >
>> > Можно добавить разве что
>> > log_format  main'$http_host $remote_addr $remote_user [$time_local]
>> > "$request" $status "$sent_http_content_type" $body_bytes_sent
>> > "$http_referer" "$http_user_agent" "$http_cookie" $request_time
>> > "$upstream_addr" NGINX-CACHE-$upstream_cache_status "$request_body" ';
>> >  а так же могу сказать что не для всех серверов включен лог, некоторые
>> > access_log off;
>> > log_not_found off;
>> >
>> > либо access_log /dev/null main
>> >
>> >
>> > Это все настройки логов.
>>
>> Я бы предложил для начала посчитать, сколько на каждый экземпляр nginx у
>> вас открыто udp сокетов и как это соотносится с конфигурацией. Учтите,
>> что количество будет зависеть от количества рабочих процессов. Так что
>> некоторый рост с момента старта - это нормально (сокеты открываются
>> при первом использовании какого-либо лога). Также учитывайте, что
>> во время релоада в наличии 2 набора рабочих процессов - старые живут,
>> пока есть незавершённые соединения от клиентов.
>>
>> ___
>> nginx-ru mailing list
>> nginx-ru@nginx.org
>> http://mailman.nginx.org/mailman/listinfo/nginx-ru
>>
>
>
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

>
> Я бы предложил для начала посчитать, сколько на каждый экземпляр nginx у
> вас открыто udp сокетов и как это соотносится с конфигурацией. Учтите,
> что количество будет зависеть от количества рабочих процессов. Так что
> некоторый рост с момента старта - это нормально (сокеты открываются
> при первом использовании какого-либо лога).

В нормальных условиях кол-во открытых udp сокетов корректно соотносится с
текущей конфигурацией . Затем они расту со временем. За последний месяц
кол-во сокетов примерно возросло с 800 до 3000.
Для наглядности приложу график. Резкое падение на графике произошло после
рестарта nginx

Также учитывайте, что
> во время релоада в наличии 2 набора рабочих процессов - старые живут,
> пока есть незавершённые соединения от клиентов.

ОК, но в этом случае в самом критичном раскладе из 800 открытых сокетов
получилось бы 1600, но не как не 3000.

При этом логирование через сислог было налажено сразу как вышел nginx
1.8.0, а проблемы начались только в последний месяц.


16 ноября 2015 г., 14:10 пользователь Vladimir Homutov 
написал:

> On Mon, Nov 16, 2015 at 12:42:06PM +0300, Иван Мишин wrote:
> > ну к тому что я уже написал
> >
> > > access_log syslog:server=127.0.0.1:415,facility=local4,severity=notice
> > > main;
> > > error_log syslog:server=127.0.0.1:415,facility=local5,severity=notice
> > > error;
> >
> > Можно добавить разве что
> > log_format  main'$http_host $remote_addr $remote_user [$time_local]
> > "$request" $status "$sent_http_content_type" $body_bytes_sent
> > "$http_referer" "$http_user_agent" "$http_cookie" $request_time
> > "$upstream_addr" NGINX-CACHE-$upstream_cache_status "$request_body" ';
> >  а так же могу сказать что не для всех серверов включен лог, некоторые
> > access_log off;
> > log_not_found off;
> >
> > либо access_log /dev/null main
> >
> >
> > Это все настройки логов.
>
> Я бы предложил для начала посчитать, сколько на каждый экземпляр nginx у
> вас открыто udp сокетов и как это соотносится с конфигурацией. Учтите,
> что количество будет зависеть от количества рабочих процессов. Так что
> некоторый рост с момента старта - это нормально (сокеты открываются
> при первом использовании какого-либо лога). Также учитывайте, что
> во время релоада в наличии 2 набора рабочих процессов - старые живут,
> пока есть незавершённые соединения от клиентов.
>
> ___
> nginx-ru mailing list
> nginx-ru@nginx.org
> http://mailman.nginx.org/mailman/listinfo/nginx-ru
>
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Vladimir Homutov]

On Mon, Nov 16, 2015 at 09:58:53AM +0300, Иван Мишин wrote:
> nginx -V
> nginx version: nginx/1.8.0
> built by gcc 4.4.7 20120313 (Red Hat 4.4.7-3) (GCC)
> built with OpenSSL 1.0.1e-fips 11 Feb 2013
> TLS SNI support enabled
> configure arguments: --prefix=/etc/nginx --sbin-path=/usr/sbin/nginx
> --conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log
> --http-log-path=/var/log/nginx/access.log --pid-path=/var/run/nginx.pid
> --lock-path=/var/run/nginx.lock
> --http-client-body-temp-path=/var/cache/nginx/client_temp
> --http-proxy-temp-path=/var/cache/nginx/proxy_temp
> --http-fastcgi-temp-path=/var/cache/nginx/fastcgi_temp
> --http-uwsgi-temp-path=/var/cache/nginx/uwsgi_temp
> --http-scgi-temp-path=/var/cache/nginx/scgi_temp --user=nginx --group=nginx
> --with-http_ssl_module --with-http_realip_module
> --with-http_addition_module --with-http_sub_module --with-http_dav_module
> --with-http_flv_module --with-http_mp4_module --with-http_gunzip_module
> --with-http_gzip_static_module --with-http_random_index_module
> --with-http_secure_link_module --with-http_stub_status_module
> --with-http_auth_request_module --with-mail --with-mail_ssl_module
> --with-file-aio --with-ipv6 --with-http_spdy_module --with-cc-opt='-O2 -g
> -pipe -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector
> --param=ssp-buffer-size=4 -m64 -mtune=generic'
>
> Ошибки есть вида
> [alert] 13939#0:send() failed (90: Message too long)
> [error] 13939#0: *2828285 access forbidden by rule
>
> Я думаю что ошибки такого рода к делу отношения не имеют.
>
> Релоады бывают, иногда по несколько раз в день, а  иногда по несколько дней
> без релоадов.
>
> как выглядит конфигурация полностью?
>
>
> Что конкретно интересует? конфиг очень большой и целиком сюда не
> поместится.

очевидно, настройки логгирования - как, где, куда
>
> 13 ноября 2015 г., 14:21 пользователь Vladimir Homutov 
> написал:
>
> > On Fri, Nov 13, 2015 at 11:57:19AM +0300, Иван Мишин wrote:
> > > В конфиге прописано логирование следующим образом
> > >
> > > access_log syslog:server=127.0.0.1:415
> > ,facility=local4,severity=notice
> > > main;
> > > error_log syslog:server=127.0.0.1:415
> > ,facility=local5,severity=notice
> > > error;
> > > В итоге с течением времени начинает расти кол-во открытых сокетов на
> > > сервере
> > > netstat -an  | grep udp
> > >  udp0  0 127.0.0.1:<различные_порты>
> > 127.0.0.1:415
> > > ESTABLISHED
> > >
> > >
> > >
> > > Кол-во открытых сокетов с каждым днем становится все больше и больше, и
> > так
> > > уже длится несколько недель. Кол-во сокетов конечно же меняется в
> > > определенные моменты, но если смотреть общую картину то видно рост.
> > > Помогает рестарт nginx. Один из серверов рестартанул неделю назад и там
> > > вроде все нормально пока. Другие пока не рестартую, хочу разобраться в
> > > проблеме.
> > > Есть версии?
> >
> > какая версия nginx? (nginx -V)
> > как выглядит конфигурация полностью?
> > были ли релоады?
> > есть ли ошибки в логах?
> >
> > ___
> > nginx-ru mailing list
> > nginx-ru@nginx.org
> > http://mailman.nginx.org/mailman/listinfo/nginx-ru

> ___
> nginx-ru mailing list
> nginx-ru@nginx.org
> http://mailman.nginx.org/mailman/listinfo/nginx-ru

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

ну к тому что я уже написал

> access_log syslog:server=127.0.0.1:415,facility=local4,severity=notice
> main;
> error_log syslog:server=127.0.0.1:415,facility=local5,severity=notice
> error;

Можно добавить разве что
log_format  main'$http_host $remote_addr $remote_user [$time_local]
"$request" $status "$sent_http_content_type" $body_bytes_sent
"$http_referer" "$http_user_agent" "$http_cookie" $request_time
"$upstream_addr" NGINX-CACHE-$upstream_cache_status "$request_body" ';
 а так же могу сказать что не для всех серверов включен лог, некоторые
access_log off;
log_not_found off;

либо access_log /dev/null main


Это все настройки логов.


16 ноября 2015 г., 12:37 пользователь Vladimir Homutov 
написал:

> On Mon, Nov 16, 2015 at 09:58:53AM +0300, Иван Мишин wrote:
> > nginx -V
> > nginx version: nginx/1.8.0
> > built by gcc 4.4.7 20120313 (Red Hat 4.4.7-3) (GCC)
> > built with OpenSSL 1.0.1e-fips 11 Feb 2013
> > TLS SNI support enabled
> > configure arguments: --prefix=/etc/nginx --sbin-path=/usr/sbin/nginx
> > --conf-path=/etc/nginx/nginx.conf
> --error-log-path=/var/log/nginx/error.log
> > --http-log-path=/var/log/nginx/access.log --pid-path=/var/run/nginx.pid
> > --lock-path=/var/run/nginx.lock
> > --http-client-body-temp-path=/var/cache/nginx/client_temp
> > --http-proxy-temp-path=/var/cache/nginx/proxy_temp
> > --http-fastcgi-temp-path=/var/cache/nginx/fastcgi_temp
> > --http-uwsgi-temp-path=/var/cache/nginx/uwsgi_temp
> > --http-scgi-temp-path=/var/cache/nginx/scgi_temp --user=nginx
> --group=nginx
> > --with-http_ssl_module --with-http_realip_module
> > --with-http_addition_module --with-http_sub_module --with-http_dav_module
> > --with-http_flv_module --with-http_mp4_module --with-http_gunzip_module
> > --with-http_gzip_static_module --with-http_random_index_module
> > --with-http_secure_link_module --with-http_stub_status_module
> > --with-http_auth_request_module --with-mail --with-mail_ssl_module
> > --with-file-aio --with-ipv6 --with-http_spdy_module --with-cc-opt='-O2 -g
> > -pipe -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector
> > --param=ssp-buffer-size=4 -m64 -mtune=generic'
> >
> > Ошибки есть вида
> > [alert] 13939#0:send() failed (90: Message too long)
> > [error] 13939#0: *2828285 access forbidden by rule
> >
> > Я думаю что ошибки такого рода к делу отношения не имеют.
> >
> > Релоады бывают, иногда по несколько раз в день, а  иногда по несколько
> дней
> > без релоадов.
> >
> > как выглядит конфигурация полностью?
> >
> >
> > Что конкретно интересует? конфиг очень большой и целиком сюда не
> > поместится.
>
> очевидно, настройки логгирования - как, где, куда
> >
> > 13 ноября 2015 г., 14:21 пользователь Vladimir Homutov 
> > написал:
> >
> > > On Fri, Nov 13, 2015 at 11:57:19AM +0300, Иван Мишин wrote:
> > > > В конфиге прописано логирование следующим образом
> > > >
> > > > access_log syslog:server=127.0.0.1:415
> > > ,facility=local4,severity=notice
> > > > main;
> > > > error_log syslog:server=127.0.0.1:415
> > > ,facility=local5,severity=notice
> > > > error;
> > > > В итоге с течением времени начинает расти кол-во открытых сокетов на
> > > > сервере
> > > > netstat -an  | grep udp
> > > >  udp0  0 127.0.0.1:<различные_порты>
> > > 127.0.0.1:415
> > > > ESTABLISHED
> > > >
> > > >
> > > >
> > > > Кол-во открытых сокетов с каждым днем становится все больше и
> больше, и
> > > так
> > > > уже длится несколько недель. Кол-во сокетов конечно же меняется в
> > > > определенные моменты, но если смотреть общую картину то видно рост.
> > > > Помогает рестарт nginx. Один из серверов рестартанул неделю назад и
> там
> > > > вроде все нормально пока. Другие пока не рестартую, хочу разобраться
> в
> > > > проблеме.
> > > > Есть версии?
> > >
> > > какая версия nginx? (nginx -V)
> > > как выглядит конфигурация полностью?
> > > были ли релоады?
> > > есть ли ошибки в логах?
> > >
> > > ___
> > > nginx-ru mailing list
> > > nginx-ru@nginx.org
> > > http://mailman.nginx.org/mailman/listinfo/nginx-ru
>
> > ___
> > nginx-ru mailing list
> > nginx-ru@nginx.org
> > http://mailman.nginx.org/mailman/listinfo/nginx-ru
>
> ___
> nginx-ru mailing list
> nginx-ru@nginx.org
> http://mailman.nginx.org/mailman/listinfo/nginx-ru
>
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Vladimir Homutov]

On Mon, Nov 16, 2015 at 12:42:06PM +0300, Иван Мишин wrote:
> ну к тому что я уже написал
>
> > access_log syslog:server=127.0.0.1:415,facility=local4,severity=notice
> > main;
> > error_log syslog:server=127.0.0.1:415,facility=local5,severity=notice
> > error;
>
> Можно добавить разве что
> log_format  main'$http_host $remote_addr $remote_user [$time_local]
> "$request" $status "$sent_http_content_type" $body_bytes_sent
> "$http_referer" "$http_user_agent" "$http_cookie" $request_time
> "$upstream_addr" NGINX-CACHE-$upstream_cache_status "$request_body" ';
>  а так же могу сказать что не для всех серверов включен лог, некоторые
> access_log off;
> log_not_found off;
>
> либо access_log /dev/null main
>
>
> Это все настройки логов.

Я бы предложил для начала посчитать, сколько на каждый экземпляр nginx у
вас открыто udp сокетов и как это соотносится с конфигурацией. Учтите,
что количество будет зависеть от количества рабочих процессов. Так что
некоторый рост с момента старта - это нормально (сокеты открываются
при первом использовании какого-либо лога). Также учитывайте, что
во время релоада в наличии 2 набора рабочих процессов - старые живут,
пока есть незавершённые соединения от клиентов.

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Иван Мишин]

nginx -V
nginx version: nginx/1.8.0
built by gcc 4.4.7 20120313 (Red Hat 4.4.7-3) (GCC)
built with OpenSSL 1.0.1e-fips 11 Feb 2013
TLS SNI support enabled
configure arguments: --prefix=/etc/nginx --sbin-path=/usr/sbin/nginx
--conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log
--http-log-path=/var/log/nginx/access.log --pid-path=/var/run/nginx.pid
--lock-path=/var/run/nginx.lock
--http-client-body-temp-path=/var/cache/nginx/client_temp
--http-proxy-temp-path=/var/cache/nginx/proxy_temp
--http-fastcgi-temp-path=/var/cache/nginx/fastcgi_temp
--http-uwsgi-temp-path=/var/cache/nginx/uwsgi_temp
--http-scgi-temp-path=/var/cache/nginx/scgi_temp --user=nginx --group=nginx
--with-http_ssl_module --with-http_realip_module
--with-http_addition_module --with-http_sub_module --with-http_dav_module
--with-http_flv_module --with-http_mp4_module --with-http_gunzip_module
--with-http_gzip_static_module --with-http_random_index_module
--with-http_secure_link_module --with-http_stub_status_module
--with-http_auth_request_module --with-mail --with-mail_ssl_module
--with-file-aio --with-ipv6 --with-http_spdy_module --with-cc-opt='-O2 -g
-pipe -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector
--param=ssp-buffer-size=4 -m64 -mtune=generic'

Ошибки есть вида
[alert] 13939#0:send() failed (90: Message too long)
[error] 13939#0: *2828285 access forbidden by rule

Я думаю что ошибки такого рода к делу отношения не имеют.

Релоады бывают, иногда по несколько раз в день, а  иногда по несколько дней
без релоадов.

как выглядит конфигурация полностью?


Что конкретно интересует? конфиг очень большой и целиком сюда не
поместится.

13 ноября 2015 г., 14:21 пользователь Vladimir Homutov 
написал:

> On Fri, Nov 13, 2015 at 11:57:19AM +0300, Иван Мишин wrote:
> > В конфиге прописано логирование следующим образом
> >
> > access_log syslog:server=127.0.0.1:415
> ,facility=local4,severity=notice
> > main;
> > error_log syslog:server=127.0.0.1:415
> ,facility=local5,severity=notice
> > error;
> > В итоге с течением времени начинает расти кол-во открытых сокетов на
> > сервере
> > netstat -an  | grep udp
> >  udp0  0 127.0.0.1:<различные_порты>
> 127.0.0.1:415
> > ESTABLISHED
> >
> >
> >
> > Кол-во открытых сокетов с каждым днем становится все больше и больше, и
> так
> > уже длится несколько недель. Кол-во сокетов конечно же меняется в
> > определенные моменты, но если смотреть общую картину то видно рост.
> > Помогает рестарт nginx. Один из серверов рестартанул неделю назад и там
> > вроде все нормально пока. Другие пока не рестартую, хочу разобраться в
> > проблеме.
> > Есть версии?
>
> какая версия nginx? (nginx -V)
> как выглядит конфигурация полностью?
> были ли релоады?
> есть ли ошибки в логах?
>
> ___
> nginx-ru mailing list
> nginx-ru@nginx.org
> http://mailman.nginx.org/mailman/listinfo/nginx-ru
___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Растет кол-во открытых udp сокетов

[Vladimir Homutov]

On Fri, Nov 13, 2015 at 11:57:19AM +0300, Иван Мишин wrote:
> В конфиге прописано логирование следующим образом
>
> access_log syslog:server=127.0.0.1:415,facility=local4,severity=notice
> main;
> error_log syslog:server=127.0.0.1:415,facility=local5,severity=notice
> error;
> В итоге с течением времени начинает расти кол-во открытых сокетов на
> сервере
> netstat -an  | grep udp
>  udp0  0 127.0.0.1:<различные_порты>  127.0.0.1:415
> ESTABLISHED
>
>
>
> Кол-во открытых сокетов с каждым днем становится все больше и больше, и так
> уже длится несколько недель. Кол-во сокетов конечно же меняется в
> определенные моменты, но если смотреть общую картину то видно рост.
> Помогает рестарт nginx. Один из серверов рестартанул неделю назад и там
> вроде все нормально пока. Другие пока не рестартую, хочу разобраться в
> проблеме.
> Есть версии?

какая версия nginx? (nginx -V)
как выглядит конфигурация полностью?
были ли релоады?
есть ли ошибки в логах?

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru