--- Em ter, 20/1/09, Marco <[email protected]> escreveu:
> Prólogo:
>
> Há algum tempo lembro de ter lido sobre a falta de
> precisão do µSoft Excell, o
> que o torna o inútil para alguns cálculos, e de alguém
> ter apontado que a
> precisão do OOo era melhor. Não encontrei o tópico
> original. Não tenho certeza
> de onde o li exatamente.
>
> Hoje encontrei alguns artigos relacionados à essa
> imprecisão e fiz alguns testes
> no Calc. Apenas um, na verdade:
>
> =1*(0,5-0,4-0,1)
>
> Que no Calc retorna "0" (zero) corretamente. Mas
> isso não acontece no Excell,
> que retorna "-0.0000000000000000278". E isso não
> será corrigido. É mais uma
> "feature".
>
> Encontrei outros artigos sobre mais erros em algoritmos
> estatísticos e
> distorções em gráficos.
>
> Eu gostaria de fazer um apanhado dessas deficiências do
> Excell e quais delas o
> OOo desempenha corretamente.
> --
Creio que o Calc trabalha com aritmética binária e os números em ponto
flutuante tem 15 algarismos significativos e podem estar no intervalo e-308 a
e+307.
Para formato de exibição de um número você consegue especificar no Calc até 20
casas decimais. mas se fizer um teste verá que a precisão máxima será de 15
algarismos. Ex:
555555555555555555 -> 5,55555555555556E+020 -> 555.555.555.555.556.000.000
0,5555555555555555555 -> 0,555555555555556 -> ,55555555555555600000
Outro exemplo: 2/3 -> ,66666666666666700000
Osvaldo
Veja quais são os assuntos do momento no Yahoo! +Buscados
http://br.maisbuscados.yahoo.com
---------------------------------------------------------------------
To unsubscribe, e-mail: [email protected]
For additional commands, e-mail: [email protected]
