Re: При включении SSL nginx, сильно упала скорость скачивания

2020-04-13 Пенетрантность Klark
Ночью нулевые значения и нет соеденений максимум 10, и при этом все равно
проблема та же

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,287625,287636#msg-287636

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: При включении SSL nginx, сильно упала скорость скачивания

2020-04-13 Пенетрантность Klark
За этим наблюдаю уже 2 дня. Использую atop,htop и top. Показатели все вроде
отличные, озу используется не более чем на 70%, сетевой канал не нагружен из
доступного 1Гбит используется не более 400мбит, и у всех соеденение в
среднем 2,5 мбит (смотрел через iftop), это как раз та скорость скачивания
через https, процессор при этом на гружен максимум на 40%, сетевые
прерывания правда на одном ядре висят, сетевая встроенная там на материнке
от Asus, очередей не поддерживает но коннектов нет в таком количестве чтобы
в сеть упереться. Кстати соеденений в час пик не более 900 смотрю через
Nginx stats,

Active connections: 815 
server accepts handled requests
 384971 384971 287029 
Reading: 0 Writing: 800 Waiting: 14 

И явно количество тут не причем так как ночью когда Active Connections 10-15
проблема не проходит она стабильна вне зависимости от количества открытых
соединений. 

По дискам тоже не упираюсь так как там так как сами видео на HDD,а
популярные видео на SSD но при этом я специально при скачке брал файлы с
каждого из них то есть в скорость дисков не упираемся, сами же диски
нагружены максимум на 40-45% а SSD в среднем на 30%.


Через Top посмотрел что по процессору там вот такие показатели в час пик

top - 22:30:13 up 20 days,  9:47,  1 user,  load average: 1,03, 1,21, 1,18
Tasks: 142 total,   1 running,  85 sleeping,   0 stopped,   0 zombie
%Cpu(s):  5,9 us,  7,1 sy,  0,0 ni, 67,4 id, 12,5 wa,  0,0 hi,  7,0 si,  0,0
st
KiB Mem : 16285420 total,   196972 free,  3751700 used, 12336748 buff/cache
KiB Swap:  2097148 total,  2069844 free,27304 used. 12189936 avail Mem

Тут тоже проблем вроде не наблюдается


Уже и не знаю куда копать дальше

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,287625,287630#msg-287630

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: При включении SSL nginx, сильно упала скорость скачивания

2020-04-13 Пенетрантность Klark
По поводу DPI я даже попробовал сделать скачивание между двумя локальными
серверами, в ДЦ стоит 2 сервера на Colocation на одном есть такая проблема
на другом нет. При этом скачивая там с одного сервера на другой по https
такая же скорость (Проверял wget'ом). При этом оба сервера стримят mp4 и
конфиг у них идентичный, разница там только в процессоре на том сервере где
все нормально с https процессор немного слабее.

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,287625,287628#msg-287628

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

При включении SSL nginx, сильно упала скорость скачивания

2020-04-13 Пенетрантность Klark
Такая вот досада.

Стоит сервер с UBUNTU + Nginx, поставил сегодня сертификат от Let's encrypt
и вот что заметил если обычно я мог качать на скорости 10- 12мб после
включения ssl nginx отдает файл максимум на скорости 200-400кб/c .

Беда произошла именно из-за ssl так как я открыл на другом порту простой 80
порт без ssl и через него все на ура выдало максимальные скорости, в чем
может быть проблема?

Сервер: intel core i5 4440S,16GB RAM,1x480GB ssd, 2x2TB HDD SATA 3.

server {

listen 443 ssl;

root /var/www/html/files/;
index index.html index.htm index.nginx-debian.html;
ssl_certificate /etc/nginx/cert/cert1.pem;
ssl_certificate_key  /etc/nginx/cert/privkey1.pem;
server_name filesrv.me;



location / {
access_log off;
mp4;
mp4_buffer_size 10M; #2
mp4_max_buffer_size 20M; #4
access_log off;
expires max;
aio off;
directio 512; 
output_buffers 1 2M;
sendfile on;
tcp_nopush on;
tcp_nodelay on;
tcp_nodelay on;
add_header Cache-Control public;
open_file_cache max=1000 inactive=900s;
open_file_cache_valid 360s;
open_file_cache_min_uses 2;
open_file_cache_errors off;


   }

}

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,287625,287625#msg-287625

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Proxy cache с использованием Slice для MP4 медленно отдается клиенту

2019-12-04 Пенетрантность Klark
В общем все же разобрался. Действительно многое было в кеше но суть не в
этом. Медленная отдача файлов с кеш сервера конечному клиенту была из-за
указания ssl_protocols брал их из настроек сайта видимо шифрование медленно
проходило или что-то вроде этого. Оставил просто ssl on; и пути до
сертификатов теперь отдача работает значительно быстрее. Большое спасибо за
направление в сторону логов. 

конфиг кеширования оставлю тут вдруг кому понадобится 

location = /video/ {
access_log /var/log/nginx/timed.log timed;
mp4;
mp4_buffer_size 1M;
mp4_max_buffer_size 15M;
aio threads=default;
aio_write on;
proxy_http_version 1.1;
proxy_set_header Connection "";
slice 1m;
proxy_set_header Range $slice_range;
proxy_cache_valid 200 206 24h;
proxy_cache ssd_cache;
proxy_cache_key $uri$slice_range;
proxy_pass http://backend;
proxy_cache_lock on;
proxy_cache_lock_age 50s;
proxy_cache_lock_timeout 0s;
proxy_cache_use_stale updating;

}

Еще раз большое спасибо за правильное направление в сторону логов помогло
при поиске проблем.

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,286396,286411#msg-286411

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Proxy cache с использованием Slice для MP4 медленно отдается клиенту

2019-12-04 Пенетрантность Klark
Так в том и странность что вообще как будто нигде не было хождения к
апстриму, все записи с cache_status HIT если я правильно все понимаю то он
почему-то пишет что абсолютно все файлы берутся из кеша хотя этого быть не
может , для теста залили на файл сервер видео которые начал запрашивать с
кеш сервера и в тоге тоже самое везде "-" а  ucs = "HIT" 

По rt в среднем 0.02 хотя переодически появляются 30.0 и выше 
а ucs везде HIT абсолютно везде. Хотя быть не может чтобы все было взято из
кеша , объем кеш сервера в 3 раза меньше чем файловый сервер.

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,286396,286410#msg-286410

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Re: Proxy cache с использованием Slice для MP4 медленно отдается клиенту

2019-12-04 Пенетрантность Klark
Почему-то upstream time везде возращают значение 
uct="-"
urt="-"'

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,286396,286404#msg-286404

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru

Proxy cache с использованием Slice для MP4 медленно отдается клиенту

2019-12-03 Пенетрантность Klark
Не могу понять в чем же дело. Есть 2 простеньких сервера (Core i3,16GB Озу)
на одном из них несколько HDD а на втором только SSD которые сделаны для
кеша соединенны  они через локальную сеть 1gbit. На кеш сервере через второй
порт сетевой карты идет подача внешнего интернета. 

Конфиг кеш сервера
proxy_cache_path /var/www/html/cache levels=1:2:2 loader_threshold=300
loader_files=300  keys_zone=ssd_cache:300m max_size=150G inactive=12h
use_temp_path=off;

server {
listen *:80;

location / {
aio threads=default;
aio_write on;
proxy_http_version 1.1;
proxy_set_header Connection "";
slice 3m;
proxy_set_header Range $slice_range;
proxy_cache_valid 200 206 24h;
proxy_cache ssd_cache;
proxy_cache_key $uri$slice_range;
proxy_pass http://10.0.0.1:80;
proxy_cache_lock on;
proxy_cache_lock_age 50s;
proxy_cache_lock_timeout 0s;
proxy_cache_use_stale updating;
proxy_connect_timeout  30;
proxy_send_timeout 90;
proxy_read_timeout 90;
proxy_buffer_size  8k;
proxy_buffers  4 32k;
proxy_busy_buffers_size64k;
}
}

Конфиг файлового сервера 


server {

listen 80 reuseport;
root /var/www/video/public_html/;

location / {

access_log on;
aio threads;
directio 256k; #512
output_buffers 16 8m;
keepalive_timeout 10s;
expires max;
sendfile on;
sendfile_max_chunk 512k;
open_file_cachemax=10 inactive=10m;
open_file_cache_valid5m;
open_file_cache_min_uses 1;
open_file_cache_errors   on;

}
}

При включении онлайн видео 1мб видео скачивается почти 1.5-2 секунды
соответстено видео обычно начинается секунд через 10-15
перемотка тоже проходит секунды 4-6. Самое что не понятное интернет канал
(Интернет канал тоже 1Gb) даже на половину не нагружен, смотрят видео в этот
момент около 50-70 человек. Понять не могу почему же так происходит, как
решить подобную проблему? 


P.S диски на файловом сервере тоже не нагружены если делать скачивание без
кеша то скорость скачивания максимальная какая доступна дома (11мб при
соединение с интернетом 100мбит)

Posted at Nginx Forum: 
https://forum.nginx.org/read.php?21,286394,286394#msg-286394

___
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru