Re: Sobrecarga - Samba/LDAP/NSCD

2007-08-22 Por tôpico Felipe Augusto van de Wiel (faw)
-BEGIN PGP SIGNED MESSAGE-
Hash: SHA1

On 18-08-2007 11:02, Eduardo Sachs wrote:
 Olá Felipe,
 Como estão os índices dessas máquinas?

 E a configuração do DB_CONFIG?
   
   Os índices estão da seguinte maneira:
 
# Indices to maintain for this database
index objectClass   eq,pres
index ou,cn,mail,surname,givenname  eq,pres,sub
index uidNumber,gidNumber,loginShelleq,pres
index uid,memberUid eq,pres,sub
index nisMapName,nisMapEntryeq,pres,sub
index sambaSID  eq
index sambaPrimaryGroupSID  eq
index sambaDomainName   eq

Ok, dependendo do uso dessa base, você pode mudar alguns
índices, mas isso já seria a parte de ajuste fino.


Não tem configuração de DB_CONFIG, eu sei o que é o
 DB_CONFIG, mas ainda não mexi nele, eu posso começar a me aventurar
 nele, me de uma dica de configuração ou alguma pagina que explique bem
 essa configuração.

Se você achar isso me mande uma cópia. :-)

O DB_CONFIG tem alguns comentários internos (no Debian) e
na documentação do BDB e do OpenLDAP, tem que garimpar, dependendo
do número de clientes e acessos. No seu caso, não deveria precisar
de configurações especiais (com relação ao DB_CONFIG do Debian) e
imaginando que você tem 200 usuários.


A unica coisa que tem no slapd.conf, sobre cache, algo do
 tipo, é isso:
 
cachesize 1
dbcachesize 100

H... não tem checkpoint?


 Você *realmente* precisa do nscd?  Por assim dizer, ele é um
 dos caras mais evil que tem na configuração de LDAP, ele realmente
 pode ajudar com cache mas em muitos casos é melhor não tê-lo instalado.
   
   Nós colocamos o NSCD porque achariamos que iria resolver o
 cache, e resolveu.
   Quando eu tiro o NSCD, a rede fica bem mais lenta, existe
 muitos usuários e grupos.
   Você tem alguma outra alternativa para resolver o cache?

Muitos usuários e grupos é subjetivo, estamos falando de
mais de 2000 nós?

Quanto mais novo o OpenLDAP melhor, as versões mais
antigas (2.0.x) tinham indexação LDBM melhor que BDB, talvez
isso resolva, até 300-500 nós na base, você deveria ter um
desempenho melhor com LDBM (em versões mais antigas).


 A versão do Samba é muito velha (3.0.9), tem muito bug
 corrigido desde então. O OpenLDAP também é muito antigo e o
 nscd neste cenário parece estar atrapalhando mais do que ajudando.
   
   Mas na situação em que a empresa está, não daria para
 fazer uma atualização de pacotes.

Bom, não sei qual a situação, mas o Samba está muito
velho, há muitas correções até o 3.0.24/25 e muitas delas são
de desempenho.


   Nós teriamos que resolver a situação como está, mas se não
 houver alternativa, o lance é chorar para rolar um projeto de
 atualização, hehehe.

H... entendo... há um projeto envolvido e provavelmente
há custos, isso me cheira a erro de escopo. ;)


Porque você acha que o NSCD está atrapalhando nesse
 cenário? Por causa das versões? Me explique melhor.

Por que o NSCD é, por natureza, ruim. O cache dele vez por
outra (com certa freqüência) conflita com as informações mais
atualizadas e atrapalha alguns detalhes de configuração e deploy.

Em versões mais novas do etch, a libnss-ldap configurada
corretamente é o bastante. Se estivermos falando de um número
assustador de nós (10k-200k), o nscd realmente pode ser de grande
ajuda no sentido de aliviar a carga, mas ele também precisará de
ajustes finos (e do código mais recente e estável possível).


Eu posso mandar os arquivos de configuração e os graficos
 para o seu email pessoal?

Poder você pode, se eu vou encontrar algo sem saber as
versões e sem ver o DIT é outra história. :-)   Uma alternativa
é por a culpa no Red Hat e migrar tudo para Debian. ;)


Abraço,
- --
Felipe Augusto van de Wiel (faw)
Debian. Freedom to code. Code to freedom!
-BEGIN PGP SIGNATURE-
Version: GnuPG v1.4.6 (GNU/Linux)
Comment: Using GnuPG with Mozilla - http://enigmail.mozdev.org

iD8DBQFGzJIpCjAO0JDlykYRAn6jAKCHroqBjY5p2CXoKef/RbNhzLO/9ACglqky
bOy+iwDT60UwOcXJXHX1pRw=
=Nvgo
-END PGP SIGNATURE-


-- 
To UNSUBSCRIBE, email to [EMAIL PROTECTED]
with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]



Re: Sobrecarga - Samba/LDAP/NSCD

2007-08-22 Por tôpico Eduardo - Suporte Intranetworks

Olá Felipe,

Ok, dependendo do uso dessa base, você pode mudar alguns
índices, mas isso já seria a parte de ajuste fino.
  


   Eu vou dar uma estudada nos indices, e ver o que eu posso melhorar.


Se você achar isso me mande uma cópia. :-)

O DB_CONFIG tem alguns comentários internos (no Debian) e
na documentação do BDB e do OpenLDAP, tem que garimpar, dependendo
do número de clientes e acessos. No seu caso, não deveria precisar
de configurações especiais (com relação ao DB_CONFIG do Debian) e
imaginando que você tem 200 usuários.

  
 
  O DB_CONFIG é bem obscuro, eu vou procurar algumas informações sobre 
ele no Google e no Debian.

   Você usa o DB_CONFIG? Se usa, para quantos usuários?


H... não tem checkpoint?
  


   Eu posso colocar o checkpoint.


Muitos usuários e grupos é subjetivo, estamos falando de
mais de 2000 nós?

Quanto mais novo o OpenLDAP melhor, as versões mais
antigas (2.0.x) tinham indexação LDBM melhor que BDB, talvez
isso resolva, até 300-500 nós na base, você deveria ter um
desempenho melhor com LDBM (em versões mais antigas).

  

   Essa seria a minha arvore resumida:
   DC=empresa,DC=com,DC=br
   DC=Groups,DC=empresa,DC=com,DC=br  - com 616 entradas.
   DC=Users,DC=empresa,DC=com,DC=br - com 1582 entradas.
   DC=Computers,DC=empresa,DC=com,DC=br - com 626 entradas.
   DC=Contacts,DC=empresa,DC=com,DC=br- com 1035 entradas.

   Eu  já estou usando como backend o LDBM.


H... entendo... há um projeto envolvido e provavelmente
há custos, isso me cheira a erro de escopo. ;)

  
  
   É... isso não seria uma boa nesse momento.



Por que o NSCD é, por natureza, ruim. O cache dele vez por
outra (com certa freqüência) conflita com as informações mais
atualizadas e atrapalha alguns detalhes de configuração e deploy.

Em versões mais novas do etch, a libnss-ldap configurada
corretamente é o bastante. Se estivermos falando de um número
assustador de nós (10k-200k), o nscd realmente pode ser de grande
ajuda no sentido de aliviar a carga, mas ele também precisará de
ajustes finos (e do código mais recente e estável possível).
  

   O que você quis dizer com deploy?
   Eu vou ver a configuração do nsswitch no Red Hat.

Poder você pode, se eu vou encontrar algo sem saber as
versões e sem ver o DIT é outra história. :-)   Uma alternativa
é por a culpa no Red Hat e migrar tudo para Debian. ;)
  

   Hehehe

Abraço,
  


Abraços!


--
To UNSUBSCRIBE, email to [EMAIL PROTECTED]
with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]



Re: Sobrecarga - Samba/LDAP/NSCD

2007-08-22 Por tôpico Felipe Augusto van de Wiel (faw)
-BEGIN PGP SIGNED MESSAGE-
Hash: SHA1

On 22-08-2007 18:00, Eduardo - Suporte Intranetworks wrote:
 Ok, dependendo do uso dessa base, você pode mudar alguns
 índices, mas isso já seria a parte de ajuste fino.
 
Eu vou dar uma estudada nos indices, e ver o que eu posso melhorar.

:-)

Tente remover índices que não são necessários e adicionar
índices que realmente são. Outro ponto, reduza a quantidade log
gerado em produção, isso realmente melhora o desempenho do LDAP.


 Se você achar isso me mande uma cópia. :-)

 O DB_CONFIG tem alguns comentários internos (no Debian) e
 na documentação do BDB e do OpenLDAP, tem que garimpar, dependendo
 do número de clientes e acessos. No seu caso, não deveria precisar
 de configurações especiais (com relação ao DB_CONFIG do Debian) e
 imaginando que você tem 200 usuários.
  
   O DB_CONFIG é bem obscuro, eu vou procurar algumas informações sobre
 ele no Google e no Debian.
Você usa o DB_CONFIG? Se usa, para quantos usuários?

Já usei em diferentes situações, para menos usuários do
que você tem agora e para um número bem maior. Mas ele é usado
para o BDB e não para o LDBM, que pelo que vi mais abaixo é o
que você ainda está usando.


 H... não tem checkpoint?
 
Eu posso colocar o checkpoint.

Coloque! Mas pelo que me lembro ele só será útil se você
estiver no BDB (tem que olhar a manpage do backend).


 Muitos usuários e grupos é subjetivo, estamos falando de
 mais de 2000 nós?

 Quanto mais novo o OpenLDAP melhor, as versões mais
 antigas (2.0.x) tinham indexação LDBM melhor que BDB, talvez
 isso resolva, até 300-500 nós na base, você deveria ter um
 desempenho melhor com LDBM (em versões mais antigas).

Essa seria a minha arvore resumida:
DC=empresa,DC=com,DC=br
DC=Groups,DC=empresa,DC=com,DC=br  - com 616 entradas.
DC=Users,DC=empresa,DC=com,DC=br - com 1582 entradas.
DC=Computers,DC=empresa,DC=com,DC=br - com 626 entradas.
DC=Contacts,DC=empresa,DC=com,DC=br- com 1035 entradas.
 
Eu  já estou usando como backend o LDBM.

Hmmm... não deveria. Com esse número de nós, manter
o LDBM vai ser uma arte. O OpenLDAP 2.0 não é exatamente a
melhor versão do OpenLDAP para usar com BDB, mas acima de
2 mil nós (seu caso) é melhor mudar para o BDB e ajustar o
DB_CONFIG, caso contrário, você vai precisar de muita magia
ninja.


 H... entendo... há um projeto envolvido e provavelmente
 há custos, isso me cheira a erro de escopo. ;)

  É... isso não seria uma boa nesse momento.

Seria bom ter acertado o escopo. ;)

Às vezes, é melhor respirar fundo, bater no peito e
reconhecer que f, ajustar da melhor forma possível. Eu
usei OpenLDAP 2.0 com Samba 3.0.9 e não tenho saudades. :-)


 Por que o NSCD é, por natureza, ruim. O cache dele vez por
 outra (com certa freqüência) conflita com as informações mais
 atualizadas e atrapalha alguns detalhes de configuração e deploy.

 Em versões mais novas do etch, a libnss-ldap configurada
 corretamente é o bastante. Se estivermos falando de um número
 assustador de nós (10k-200k), o nscd realmente pode ser de grande
 ajuda no sentido de aliviar a carga, mas ele também precisará de
 ajustes finos (e do código mais recente e estável possível).

O que você quis dizer com deploy?

Distribuição de configuração e ativação de recursos.


Eu vou ver a configuração do nsswitch no Red Hat.

Boa sorte.


Abraço,
- --
Felipe Augusto van de Wiel (faw)
Debian. Freedom to code. Code to freedom!
-BEGIN PGP SIGNATURE-
Version: GnuPG v1.4.6 (GNU/Linux)
Comment: Using GnuPG with Mozilla - http://enigmail.mozdev.org

iD8DBQFGzK2QCjAO0JDlykYRAi7PAJ45371OxnJG2m8BfBpFrqo5vHOf2QCgqvWc
tdMU5l1GKYEKx5MRbLqkKjc=
=tNBq
-END PGP SIGNATURE-


-- 
To UNSUBSCRIBE, email to [EMAIL PROTECTED]
with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]



Re: Sobrecarga - Samba/LDAP/NSCD

2007-08-18 Por tôpico Eduardo Sachs

Olá Felipe,

Como estão os índices dessas máquinas?

E a configuração do DB_CONFIG?
  

  Os índices estão da seguinte maneira:

   # Indices to maintain for this database
   index objectClass   eq,pres
   index ou,cn,mail,surname,givenname  eq,pres,sub
   index uidNumber,gidNumber,loginShelleq,pres
   index uid,memberUid eq,pres,sub
   index nisMapName,nisMapEntryeq,pres,sub
   index sambaSID  eq
   index sambaPrimaryGroupSID  eq
   index sambaDomainName   eq

   Não tem configuração de DB_CONFIG, eu sei o que é o 
DB_CONFIG, mas ainda não mexi nele, eu posso começar a me aventurar 
nele, me de uma dica de configuração ou alguma pagina que explique bem 
essa configuração.


   A unica coisa que tem no slapd.conf, sobre cache, algo 
do tipo, é isso:


   cachesize 1
   dbcachesize 100



Você *realmente* precisa do nscd?  Por assim dizer, ele é um
dos caras mais evil que tem na configuração de LDAP, ele realmente
pode ajudar com cache mas em muitos casos é melhor não tê-lo instalado.
  
  Nós colocamos o NSCD porque achariamos que iria resolver 
o cache, e resolveu.
  Quando eu tiro o NSCD, a rede fica bem mais lenta, existe 
muitos usuários e grupos.

  Você tem alguma outra alternativa para resolver o cache?


A versão do Samba é muito velha (3.0.9), tem muito bug
corrigido desde então. O OpenLDAP também é muito antigo e o
nscd neste cenário parece estar atrapalhando mais do que ajudando.
  
  Mas na situação em que a empresa está, não daria para 
fazer uma atualização de pacotes.
  Nós teriamos que resolver a situação como está, mas se 
não houver alternativa, o lance é chorar para rolar um projeto de 
atualização, hehehe.
   Porque você acha que o NSCD está atrapalhando nesse 
cenário? Por causa das versões? Me explique melhor.


   Eu posso mandar os arquivos de configuração e os 
graficos para o seu email pessoal?


   Valeu Felipe!







inline: PDC.png

Sobrecarga - Samba/LDAP/NSCD

2007-08-17 Por tôpico Eduardo - Suporte Intranetworks

Pessoal,

   Primeiramente, desculpe pelo tamanho do email, pois eu quis 
especificar o maximo possivel.
   Eu não estou usando Debian nesse servidor, mas mesmo assim gostaria 
de uma ajuda.


   Estou com alguns problemas de sobrecarga no Samba/LDAP, vou explicar 
como funciona a minha infra-estrutura.


   Tenho os seguintes servidores:
   - PDC/Samba/WINS com LDAP Master com NSCD.
   - BDC/Samba com LDAP Slave com NSCD.
   - Member/Samba com LDAP slave com NSCD.

   Cada servidor tem o seu LDAP próprio para consultar.

   Eu tenho o Member/Samba que tem mais de 200 usuários acessando.

   Quando o Member/Samba usa como 'password server' o PDC, o PDC tem 
picos de sobrecarga no tempo de 2 em 2 horas, 24hrs por dia, mas na 
noite diminui um pouco a sobrecarga (termino de expediente), e quando eu 
seto o 'password server' para ser o BDC, acontece a mesma coisa, mas dai 
a sobrecarga passa para o BDC.


   Quando o servidor (PDC ou BDC) está com a sobrecarga, eu percebi o 
seguinte, no TOP:
   11386 ldap  25   0 13664  12M   920 S82.7  1.2 852:14   1 
/usr/sbin/slapd



   No PDC tem mais processos do NSCD do que no BDC, dai não depende 
qual 'password server' está configurado no Member/Samba.

   [EMAIL PROTECTED]:~# pidof nscd
   22954 22953 22952 22951 22948 22947 22946 22945 22944
   [EMAIL PROTECTED]:~#

   [EMAIL PROTECTED] pidof nscd
   32304
   [EMAIL PROTECTED]
  

   Quando a sobrecarga está no PDC acontece o seguinte, o NSCD fica com 
o processo muito alto:

   [EMAIL PROTECTED]:~# top
   5574 nscd  25   0  1988 1528  1200 R105.9  0.1  1260m   0 
/usr/sbin/nscd


   Quando a sobrecarga está no BDC, o NSCD não sobrecarrega.


   Informações sobre o servidor:
   PDC:
   Red Hat Enterprise Linux AS release 3 (Taroon Update 4)
   samba-3.0.9-1.3E.13.2
   openldap-2.0.27-23
   nscd-2.3.2-95.50

   Hardware:
   Dell Poweredge SC 420
   2 x 80 GB SATA
   1GB de Memória
   Intel(R) Pentium(R) 4 CPU 3.00GHz

   --
   BDC:
   Red Hat Enterprise Linux AS release 3 (Taroon Update 8)
   samba-3.0.9-1.3E.13.2
   nscd-2.3.2-95.50
   openldap-2.0.27-23

   Hardware:
   Dell Poweredge 1750
   36 GB SCSI
   1GB de Memória
   Intel(R) Xeon(TM) CPU 2.40GHz

   --
   Member:
   Red Hat Enterprise Linux AS release 3 (Taroon Update 5)
   samba-3.0.9-1.3E.10
   openldap-2.0.27-23
   nscd-2.3.2-95.50

   Hardware:
   Dell Poweredge 2650
   2 x 72 GB SCSI
   6GB de Memória
   3 CPUs Intel(R) Xeon(TM) MP CPU 2.50GHz

   Segue em anexo o grafico do PDC/BDC/Member no MRTG e tambem os 
arquivos de configuração (smb.conf, slapd.conf e nscd.conf) de cada server.


Muito obrigado!

--

Eduardo Sachs - Suporte Intranetworks
[EMAIL PROTECTED]

Intranetworks
Rua Marquês do Pombal 1710/805
Porto Alegre - RS - 90540-000
+55 51 3325-5700


--
To UNSUBSCRIBE, email to [EMAIL PROTECTED]
with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]



Re: Sobrecarga - Samba/LDAP/NSCD

2007-08-17 Por tôpico Felipe Augusto van de Wiel (faw)
-BEGIN PGP SIGNED MESSAGE-
Hash: SHA1

On 17-08-2007 12:44, Eduardo - Suporte Intranetworks wrote:
[...]
Estou com alguns problemas de sobrecarga no Samba/LDAP, vou explicar
 como funciona a minha infra-estrutura.
 
Tenho os seguintes servidores:
- PDC/Samba/WINS com LDAP Master com NSCD.
- BDC/Samba com LDAP Slave com NSCD.
- Member/Samba com LDAP slave com NSCD.
 
Cada servidor tem o seu LDAP próprio para consultar.
Eu tenho o Member/Samba que tem mais de 200 usuários acessando.
Quando o Member/Samba usa como 'password server' o PDC, o PDC tem
 picos de sobrecarga no tempo de 2 em 2 horas, 24hrs por dia, mas na
 noite diminui um pouco a sobrecarga (termino de expediente), e quando eu
 seto o 'password server' para ser o BDC, acontece a mesma coisa, mas dai
 a sobrecarga passa para o BDC.
 
Quando o servidor (PDC ou BDC) está com a sobrecarga, eu percebi o
 seguinte, no TOP:
11386 ldap  25   0 13664  12M   920 S82.7  1.2 852:14   1
 /usr/sbin/slapd

Como estão os índices dessas máquinas?

E a configuração do DB_CONFIG?


No PDC tem mais processos do NSCD do que no BDC, dai não depende qual
 'password server' está configurado no Member/Samba.

Você *realmente* precisa do nscd?  Por assim dizer, ele é um
dos caras mais evil que tem na configuração de LDAP, ele realmente
pode ajudar com cache mas em muitos casos é melhor não tê-lo instalado.


[EMAIL PROTECTED]:~# pidof nscd
22954 22953 22952 22951 22948 22947 22946 22945 22944
[EMAIL PROTECTED]:~#
 
[EMAIL PROTECTED] pidof nscd
32304
[EMAIL PROTECTED]
  
Quando a sobrecarga está no PDC acontece o seguinte, o NSCD fica com
 o processo muito alto:
[EMAIL PROTECTED]:~# top
5574 nscd  25   0  1988 1528  1200 R105.9  0.1  1260m   0
 /usr/sbin/nscd
 
Quando a sobrecarga está no BDC, o NSCD não sobrecarrega.
 
 
Informações sobre o servidor:
PDC:
Red Hat Enterprise Linux AS release 3 (Taroon Update 4)
samba-3.0.9-1.3E.13.2
openldap-2.0.27-23
nscd-2.3.2-95.50
 
Hardware:
Dell Poweredge SC 420
2 x 80 GB SATA
1GB de Memória
Intel(R) Pentium(R) 4 CPU 3.00GHz
 
--
BDC:
Red Hat Enterprise Linux AS release 3 (Taroon Update 8)
samba-3.0.9-1.3E.13.2
nscd-2.3.2-95.50
openldap-2.0.27-23
 
Hardware:
Dell Poweredge 1750
36 GB SCSI
1GB de Memória
Intel(R) Xeon(TM) CPU 2.40GHz
 
--
Member:
Red Hat Enterprise Linux AS release 3 (Taroon Update 5)
samba-3.0.9-1.3E.10
openldap-2.0.27-23
nscd-2.3.2-95.50
 
Hardware:
Dell Poweredge 2650
2 x 72 GB SCSI
6GB de Memória
3 CPUs Intel(R) Xeon(TM) MP CPU 2.50GHz
 
Segue em anexo o grafico do PDC/BDC/Member no MRTG e tambem os
 arquivos de configuração (smb.conf, slapd.conf e nscd.conf) de cada server.
 
 Muito obrigado!


A versão do Samba é muito velha (3.0.9), tem muito bug
corrigido desde então. O OpenLDAP também é muito antigo e o
nscd neste cenário parece estar atrapalhando mais do que ajudando.


Abraço,

- --
Felipe Augusto van de Wiel (faw)
Debian. Freedom to code. Code to freedom!
-BEGIN PGP SIGNATURE-
Version: GnuPG v1.4.6 (GNU/Linux)
Comment: Using GnuPG with Mozilla - http://enigmail.mozdev.org

iD8DBQFGxmf5CjAO0JDlykYRAsamAKCJeT/EL+hakso/KMehve45p3obGQCgh58s
Kb0aOH0XO2eto7OVFLtaPHA=
=J6w7
-END PGP SIGNATURE-


-- 
To UNSUBSCRIBE, email to [EMAIL PROTECTED]
with a subject of unsubscribe. Trouble? Contact [EMAIL PROTECTED]