dodateck
zkuste si "hrabnout" do klavesnice a napsat
123456789123456789123456789123456789123456789
a calc Vam i po prepnuti zobrazeni na standard zmeni hodnotu na
123 456 789 123 457 000 000 000 000 000 000 000 000 000 000
z cehoz je patrna presnost s jakou program pocita, jinymy slovy ze se
spoleha na procesor
Dusan
Ing. Ondřej Navrátil napsal(a):
Dobrý den,
používám OOo 2.2 RC4 z 17.3.07 na W2K SP4 a narazil jsem na
nepříjemnou chybu v součtech a výpočtech za více než 60 řádků.
Podmínkou je, že se musí sčítat čísla s desetinou částí
problém si nasimulujete takto: sloupec A vyplňte čísly 0,1; do B1:=A1,
do B2 := A2+B1 a B2 roztáhněte / rozkopírujte na celý sloupec B s
výjimkou B1. Označte celý sloupec B a nastavte zobrazení 14-ti míst za
desetinnou čárkou. Pokud budete prozorovat stejný problém tak v B61
dostanete číslo 6,09999999999999 namísto 6,1 - to se tam však ukáže
pokud nastavíte zobrazení pouze 13-ti desetinných míst. V buňce B65536
pak bude hodnota 6553,60000000631000.
Problém nastává i při použití sum a kontingenčních tabulek.
---------------------------------------------------------------------
To unsubscribe, e-mail: [EMAIL PROTECTED]
For additional commands, e-mail: [EMAIL PROTECTED]
