Am 01.09.2016 um 13:18         schrieb Stefan Seifried:
> Hallo liebe Nutzer,
> 
> durch Zufall ist mir heute aufgefallen, dass bei Einstellung des Zellformats 
> "Standard" die Berechnung von z. B. 100,16-100,15 den Wert 0,009999999999991 
> ausgibt. Bei allen anderen Formaten mit Nachkommastellen ist die Darstellung 
> mit 0,01 korrekt.
> 
> Ist das so von den Entwicklern beabsichtigt?

Ja und nein. Das *eigentliche* Problem liegt darin, dass bestimmte
/dezimale/ Werte (wie hier eben 0,16) nicht exakt im /binären/
Zahlensystem abgebildet werden kann, sondern nur annähernd, in dem Fall
als 0,15999999999999700000. Die von Dir beobachtete Abweichung besteht
schlicht in diesem Abbildungsfehler.

Dass diverse andere Formate die Abweichung nicht darstellen, liegt
einfach nur daran, dass diese eben auf eine geringere Anzahl Stellen
runden, wodurch sich dieser Abbildungsfehler und der durch das Runden
eigentlich verursachte Rundungsfehler gegenseitig wieder aufheben.

Das ist aber nix Calc- oder OO-spezifisches, sondern damit haben
prinzipiell *alle* Programme zu kämpfen, die in einem binären
Zahlensystem mit dezimalen Werten rechnen (oder allgemeiner ausgedrückt,
Werte aus einem Zahlensystem in ein anderes abbilden müssen).

Wolfgang
-- 

-- 
Liste abmelden mit E-Mail an: users+unsubscr...@de.libreoffice.org
Probleme? 
http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: http://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert

Antwort per Email an