Dobry den,

Myslim ze se jedna o beznou presnost cisla typu "Double", za kterou asi
vyjimecne nemuze Bill.
Viz standard IEEE 754, nebo napr.
http://en.wikipedia.org/wiki/Double_precision

Zbynek Vencelides
 
  

-----Original Message-----
From: "Ing. Ondřej Navrátil" [mailto:[EMAIL PROTECTED] 
Sent: Tuesday, March 20, 2007 2:16 PM
To: openoofice
Subject: Chyba v součtech

Dobrý den,
 používám OOo 2.2 RC4 z 17.3.07 na W2K SP4 a narazil jsem na nepříjemnou
chybu v součtech a výpočtech za více než 60 řádků. Podmínkou je, že se musí
sčítat čísla s desetinou částí

problém si nasimulujete takto: sloupec A vyplňte čísly 0,1; do B1:=A1, do B2
:= A2+B1 a B2 roztáhněte / rozkopírujte na celý sloupec B s výjimkou B1.
Označte celý sloupec B a nastavte zobrazení 14-ti míst za desetinnou čárkou.
Pokud budete prozorovat stejný problém tak v B61 dostanete číslo
6,09999999999999 namísto 6,1 - to se tam však ukáže pokud nastavíte
zobrazení pouze 13-ti desetinných míst. V buňce B65536 pak bude hodnota
6553,60000000631000.


Problém nastává i při použití sum a kontingenčních tabulek.

-- 


S pozdravem

Ondřej Navrátil



---------------------------------------------------------------------
To unsubscribe, e-mail: [EMAIL PROTECTED]
For additional commands, e-mail: [EMAIL PROTECTED]




Obsah této zásilky byl zkontrolován na přítomnost virů technologií
BitDefender

---------------------------------------------------------------------
To unsubscribe, e-mail: [EMAIL PROTECTED]
For additional commands, e-mail: [EMAIL PROTECTED]

Odpovedet emailem