Re: [FUG-BR] Otimização do ZFS in-kernel.

2016-09-20 Por tôpico Ricardo Campos Passanezi
On Tue, Sep 20, 2016 at 08:58:48PM -0300, Paulo Henrique wrote:
> Em 20 de setembro de 2016 19:07, Paulo Olivier Cavalcanti <
> procavalca...@gmail.com> escreveu:
> 
> 

...

> Paulo,
> 
> O que estou observando é que caso eu não limite o ARC o ZFS praticamente
> monopolisa a memoria, esse servidor é um banco de dados MySQL e dependendo
> da operação chega a consumir 21G para o ARC dos 24Gbytes de RAM.
> A menos que esse seja um efeito colateral de se estar usar SSDs de cache e
> log no pool.
> 
> Att. Paulo Henrique.
> 

Bom, como é servidor de banco de dados você pode, além de fazer os
ajustes, em especial no ARC, fazer um tunning nos datasets. Veja:
http://open-zfs.org/wiki/Performance_tuning#Database_workloads


-- 
Ricardo Campos Passanezi
-
Histórico: http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd


Re: [FUG-BR] Otimização do ZFS in-kernel.

2016-09-20 Por tôpico Paulo Henrique
Em 20 de setembro de 2016 19:07, Paulo Olivier Cavalcanti <
procavalca...@gmail.com> escreveu:

> Em 20/09/2016 11:55, Paulo Henrique escreveu:
>
>> [...]
>>
>
> estou testando agora com mais calma.
>> Sim o sistema é instalado com zfs:root.
>>
>> root@radius:/home/usshd # zpool list
>> NAMESIZE  ALLOC   FREE  EXPANDSZ   FRAGCAP  DEDUP  HEALTH  ALTROOT
>> dados   928G  10.8G   917G - 0% 1%  1.00x  ONLINE  -
>> zroot   448G  4.26G   444G - 0% 0%  1.00x  ONLINE  -
>>
>>
>> root@radius:/home/usshd # zpool status
>>pool: dados
>>   state: ONLINE
>>scan: none requested
>> config:
>>
>>  NAMESTATE READ WRITE CKSUM
>>  dados   ONLINE   0 0 0
>>mirror-0  ONLINE   0 0 0
>>  ada2ONLINE   0 0 0
>>  ada3ONLINE   0 0 0
>>  logs
>>ada4  ONLINE   0 0 0
>>  cache
>>ada5  ONLINE   0 0 0
>>
>> errors: No known data errors
>>
>>pool: zroot
>>   state: ONLINE
>>scan: none requested
>> config:
>>
>>  NAMESTATE READ WRITE CKSUM
>>  zroot   ONLINE   0 0 0
>>mirror-0  ONLINE   0 0 0
>>  ada0p3  ONLINE   0 0 0
>>  ada1p3  ONLINE   0 0 0
>>
>> errors: No known data errors
>> root@radius:/home/usshd #
>>
>>
>>
> Na minha opinião, só em situações de pouca RAM, I/O de disco baixo,
> webservers de alto desempenho etc, é que se deve mexer no ARC, L2ARC e
> demais parâmetros do ZFS. Os parâmetros default atendem a 99% das situações.
>
>
> -
> Histórico: http://www.fug.com.br/historico/html/freebsd/
> Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd
>

Paulo,

O que estou observando é que caso eu não limite o ARC o ZFS praticamente
monopolisa a memoria, esse servidor é um banco de dados MySQL e dependendo
da operação chega a consumir 21G para o ARC dos 24Gbytes de RAM.
A menos que esse seja um efeito colateral de se estar usar SSDs de cache e
log no pool.

Att. Paulo Henrique.

-- 
:UNI>http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd


Re: [FUG-BR] Otimização do ZFS in-kernel.

2016-09-20 Por tôpico Paulo Olivier Cavalcanti

Em 20/09/2016 11:55, Paulo Henrique escreveu:

[...]



estou testando agora com mais calma.
Sim o sistema é instalado com zfs:root.

root@radius:/home/usshd # zpool list
NAMESIZE  ALLOC   FREE  EXPANDSZ   FRAGCAP  DEDUP  HEALTH  ALTROOT
dados   928G  10.8G   917G - 0% 1%  1.00x  ONLINE  -
zroot   448G  4.26G   444G - 0% 0%  1.00x  ONLINE  -


root@radius:/home/usshd # zpool status
   pool: dados
  state: ONLINE
   scan: none requested
config:

 NAMESTATE READ WRITE CKSUM
 dados   ONLINE   0 0 0
   mirror-0  ONLINE   0 0 0
 ada2ONLINE   0 0 0
 ada3ONLINE   0 0 0
 logs
   ada4  ONLINE   0 0 0
 cache
   ada5  ONLINE   0 0 0

errors: No known data errors

   pool: zroot
  state: ONLINE
   scan: none requested
config:

 NAMESTATE READ WRITE CKSUM
 zroot   ONLINE   0 0 0
   mirror-0  ONLINE   0 0 0
 ada0p3  ONLINE   0 0 0
 ada1p3  ONLINE   0 0 0

errors: No known data errors
root@radius:/home/usshd #




Na minha opinião, só em situações de pouca RAM, I/O de disco baixo, 
webservers de alto desempenho etc, é que se deve mexer no ARC, L2ARC e  
demais parâmetros do ZFS. Os parâmetros default atendem a 99% das situações.


-
Histórico: http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd


Re: [FUG-BR] Otimização do ZFS in-kernel.

2016-09-20 Por tôpico Paulo Henrique
Em 20 de setembro de 2016 10:48, Ricardo Campos Passanezi <
ri...@ige.unicamp.br> escreveu:

> On Tue, Sep 20, 2016 at 10:42:38AM -0300, Paulo Henrique wrote:
> > Saudações Ricardo,
> >
> > Não é que o zfs_load no loader.conf já basta, contudo ainda sou meio
> > "old-school" e gosto das coisas compiladas in-kernel.
>
> Bom, no tocante "old-school", sou do tempo da "free...@br.freebsd.org"
> :-)
>
>
>
> > Algumas coisas que procurei e não achei com relação ao ZFS.
> > Definição de espaço de memoria destinado ao ARC
> > Definição de espaço de memoria destinado ao L2ARC
> > Essas variáveis que impactam em todo o sistema seria muito bom se
> tivesse a
> > opção de definilas no kernel ou mesmo via sysctl.
> > Antigamente podia definir o root no arquivo de configuração do kernel
> > também porém não achei a opção.
>
> Bem, depois de carregado via loader (ou se instalou como "zfs on root"):
>
> # sysctl -a | egrep zfs | wc
>  262 534   10156
> # sysctl vfs.zfs | egrep arc
> vfs.zfs.l2arc_norw: 1
> vfs.zfs.l2arc_feed_again: 1
> vfs.zfs.l2arc_noprefetch: 1
> vfs.zfs.l2arc_feed_min_ms: 200
> vfs.zfs.l2arc_feed_secs: 1
> vfs.zfs.l2arc_headroom: 2
> vfs.zfs.l2arc_write_boost: 8388608
> vfs.zfs.l2arc_write_max: 8388608
> vfs.zfs.arc_meta_limit: 322436480
> vfs.zfs.arc_free_target: 3542
> vfs.zfs.arc_shrink_shift: 7
> vfs.zfs.arc_average_blocksize: 8192
> vfs.zfs.arc_min: 161218240
> vfs.zfs.arc_max: 1289745920
>
> Esses são valores padrão numa máquina virtual que acabei de instalar
> (não fiz nenhuma otimização).
>
> É bem isso mesmo que quero, cheguei a dar uma olhada nessas variáveis e
estou testando agora com mais calma.
Sim o sistema é instalado com zfs:root.

root@radius:/home/usshd # zpool list
NAMESIZE  ALLOC   FREE  EXPANDSZ   FRAGCAP  DEDUP  HEALTH  ALTROOT
dados   928G  10.8G   917G - 0% 1%  1.00x  ONLINE  -
zroot   448G  4.26G   444G - 0% 0%  1.00x  ONLINE  -


root@radius:/home/usshd # zpool status
  pool: dados
 state: ONLINE
  scan: none requested
config:

NAMESTATE READ WRITE CKSUM
dados   ONLINE   0 0 0
  mirror-0  ONLINE   0 0 0
ada2ONLINE   0 0 0
ada3ONLINE   0 0 0
logs
  ada4  ONLINE   0 0 0
cache
  ada5  ONLINE   0 0 0

errors: No known data errors

  pool: zroot
 state: ONLINE
  scan: none requested
config:

NAMESTATE READ WRITE CKSUM
zroot   ONLINE   0 0 0
  mirror-0  ONLINE   0 0 0
ada0p3  ONLINE   0 0 0
ada1p3  ONLINE   0 0 0

errors: No known data errors
root@radius:/home/usshd #




>
> >
> > Abraços.
> >
> > --
> > :UNI> > Paulo Henrique.
> > NoRm4nD @ FreeNode.Net
> > Fone: (21) 37089388.
> > -
> > Histórico: http://www.fug.com.br/historico/html/freebsd/
> > Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd
>
> --
> Ricardo Campos Passanezi
> -
> Histórico: http://www.fug.com.br/historico/html/freebsd/
> Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd
>



-- 
:UNI>http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd


Re: [FUG-BR] Otimização do ZFS in-kernel.

2016-09-20 Por tôpico Ricardo Campos Passanezi
On Tue, Sep 20, 2016 at 10:42:38AM -0300, Paulo Henrique wrote:
> Saudações Ricardo,
> 
> Não é que o zfs_load no loader.conf já basta, contudo ainda sou meio
> "old-school" e gosto das coisas compiladas in-kernel.

Bom, no tocante "old-school", sou do tempo da "free...@br.freebsd.org"
:-)



> Algumas coisas que procurei e não achei com relação ao ZFS.
> Definição de espaço de memoria destinado ao ARC
> Definição de espaço de memoria destinado ao L2ARC
> Essas variáveis que impactam em todo o sistema seria muito bom se tivesse a
> opção de definilas no kernel ou mesmo via sysctl.
> Antigamente podia definir o root no arquivo de configuração do kernel
> também porém não achei a opção.

Bem, depois de carregado via loader (ou se instalou como "zfs on root"):

# sysctl -a | egrep zfs | wc
 262 534   10156
# sysctl vfs.zfs | egrep arc
vfs.zfs.l2arc_norw: 1
vfs.zfs.l2arc_feed_again: 1
vfs.zfs.l2arc_noprefetch: 1
vfs.zfs.l2arc_feed_min_ms: 200
vfs.zfs.l2arc_feed_secs: 1
vfs.zfs.l2arc_headroom: 2
vfs.zfs.l2arc_write_boost: 8388608
vfs.zfs.l2arc_write_max: 8388608
vfs.zfs.arc_meta_limit: 322436480
vfs.zfs.arc_free_target: 3542
vfs.zfs.arc_shrink_shift: 7
vfs.zfs.arc_average_blocksize: 8192
vfs.zfs.arc_min: 161218240
vfs.zfs.arc_max: 1289745920

Esses são valores padrão numa máquina virtual que acabei de instalar
(não fiz nenhuma otimização).


> 
> Abraços.
> 
> -- 
> :UNI> Paulo Henrique.
> NoRm4nD @ FreeNode.Net
> Fone: (21) 37089388.
> -
> Histórico: http://www.fug.com.br/historico/html/freebsd/
> Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd

-- 
Ricardo Campos Passanezi
-
Histórico: http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd


Re: [FUG-BR] Otimização do ZFS in-kernel.

2016-09-20 Por tôpico Paulo Henrique
Em 20 de setembro de 2016 09:49, Ricardo Campos Passanezi <
ri...@ige.unicamp.br> escreveu:

> On Mon, Sep 19, 2016 at 08:57:02PM -0300, Paulo Henrique wrote:
> > Saudações camaradas,
> >
> > Observei que as opções de otimização de construção do ZFS bultin kernel
> > foram removidas no 10.3 Stable, não há mais nenhuma otimização in-kernel
> > para o ZFS.
> > Consultei o LINT, sys/conf/NOTES e amd64/conf/NOTES e as opções que
> > permitia construir o sistema com o ZFS on-kernel não estão mais
> presentes.
> >
> > Abraços e qualquer informação será bem vinda.
>
> Um 'zfs_load="YES"' no loader.conf já não resolve?
>
>
>
> --
> Ricardo Campos Passanezi
> -
> Histórico: http://www.fug.com.br/historico/html/freebsd/
> Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd
>

Saudações Ricardo,

Não é que o zfs_load no loader.conf já basta, contudo ainda sou meio
"old-school" e gosto das coisas compiladas in-kernel.
Algumas coisas que procurei e não achei com relação ao ZFS.
Definição de espaço de memoria destinado ao ARC
Definição de espaço de memoria destinado ao L2ARC
Essas variáveis que impactam em todo o sistema seria muito bom se tivesse a
opção de definilas no kernel ou mesmo via sysctl.
Antigamente podia definir o root no arquivo de configuração do kernel
também porém não achei a opção.

Abraços.

-- 
:UNI>http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd


Re: [FUG-BR] Otimização do ZFS in-kernel.

2016-09-20 Por tôpico Ricardo Campos Passanezi
On Mon, Sep 19, 2016 at 08:57:02PM -0300, Paulo Henrique wrote:
> Saudações camaradas,
> 
> Observei que as opções de otimização de construção do ZFS bultin kernel
> foram removidas no 10.3 Stable, não há mais nenhuma otimização in-kernel
> para o ZFS.
> Consultei o LINT, sys/conf/NOTES e amd64/conf/NOTES e as opções que
> permitia construir o sistema com o ZFS on-kernel não estão mais presentes.
> 
> Abraços e qualquer informação será bem vinda.

Um 'zfs_load="YES"' no loader.conf já não resolve?



-- 
Ricardo Campos Passanezi
-
Histórico: http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd


[FUG-BR] Otimização do ZFS in-kernel.

2016-09-19 Por tôpico Paulo Henrique
Saudações camaradas,

Observei que as opções de otimização de construção do ZFS bultin kernel
foram removidas no 10.3 Stable, não há mais nenhuma otimização in-kernel
para o ZFS.
Consultei o LINT, sys/conf/NOTES e amd64/conf/NOTES e as opções que
permitia construir o sistema com o ZFS on-kernel não estão mais presentes.

Abraços e qualquer informação será bem vinda.

-- 
:UNI>http://www.fug.com.br/historico/html/freebsd/
Sair da lista: https://www.fug.com.br/mailman/listinfo/freebsd