Problém je v tom , že ani číslo s jedním desetinným místem (třeba 1,1)
se nemusí uložit přesně. Procesory při práci s desetinnými čísly
používají různé způsoby normalizace (je na to i norma IEEE), která se
snaží tyto chyby minimalizovat, ale zcela eliminovat je nelze.
Obávám se, že v tabulkové procesory nejsou pro výpočty s větší přesností
stavěné.
Jiří Spitz
Ing. Ondřej Navrátil napsal(a):
Ad: Jiří Spitz:
Mno já vím že jsou čísla jsou dána x-bitovými slovy počítače ... a že
větší přesnost je třeba zařídit spec. algoritmy ... co jsme popsal byl
jednoduchý ukázkový příklad. Problém jsme objevil v reálném případě -
nad výpisem hovorů tel. operátora dělám kontingenčí tabulku se součty
cen hovorů za jednotlivá čísla. A přestože ve výpise jsou jen čísla s
nejvíce dvěmi desetinnými čísly tak součet za celou tabulku je
8308,71999999988 - tedy ne přímo v buňce "celkem výsledek" - tam je
8308,72, ale je to v adresním řádku když na tuto buňku kliknu. Jak jsem
zjistil tak teď už nejsem schopen reprodukovat původní problém, protože
nadále to s těmi čísly počítá korektně - což se ráno nedělo: to se
rozdíl 8306,36 - 8308,72 rovnal -2,359999.... a to mě právě přivedlo k
několikahodinovému šťourání a zkoušení. Nicméně co jsem popsal funguje v
ukázkovém příkladě, takže to problémem zůstává - a není problém to, že
OOo umí zobrazit tolik čísel, ale to že když už to dělá tak to nedělá
správně.
---------------------------------------------------------------------
To unsubscribe, e-mail: [EMAIL PROTECTED]
For additional commands, e-mail: [EMAIL PROTECTED]
