zavani mi to spise chybou Windows v kombinaci s mamemackymi jednotkami
procesoru P4 ...
Stary vtip ...pentium nepocita, pentim odhaduje
jadro pudla se skryva nekde v 32 bitove interpretaci realnych cisel
vnitrne v procesoru, jinymi slovy pro takovy pocet platny ficer se v
programovani pouziva typ float 64 popr float128 a cely matematicky
aparat se od piky prepisuje specialnimi funkcemi schopnymi operovat s
tak velkou presnosti.
Dusan
btw v jake aplikaci potrebujete 13 a vice platnych ficer realnych cisel <?>
pokud se jedna o ucetni soucty doporucuji pocitat v intech (prirozenych
cislech), tam by problem nemel nastat - i kdyz jsem nepaptral po vnitrni
interpretaci cisel v bunkach calcu
Ing. Ondřej Navrátil napsal(a):
Dobrý den,
používám OOo 2.2 RC4 z 17.3.07 na W2K SP4 a narazil jsem na
nepříjemnou chybu v součtech a výpočtech za více než 60 řádků.
Podmínkou je, že se musí sčítat čísla s desetinou částí
problém si nasimulujete takto: sloupec A vyplňte čísly 0,1; do B1:=A1,
do B2 := A2+B1 a B2 roztáhněte / rozkopírujte na celý sloupec B s
výjimkou B1. Označte celý sloupec B a nastavte zobrazení 14-ti míst za
desetinnou čárkou. Pokud budete prozorovat stejný problém tak v B61
dostanete číslo 6,09999999999999 namísto 6,1 - to se tam však ukáže
pokud nastavíte zobrazení pouze 13-ti desetinných míst. V buňce B65536
pak bude hodnota 6553,60000000631000.
Problém nastává i při použití sum a kontingenčních tabulek.
---------------------------------------------------------------------
To unsubscribe, e-mail: [EMAIL PROTECTED]
For additional commands, e-mail: [EMAIL PROTECTED]
