Wolfgang, deine Erklärung ist nur zur Hälfte richtig. Prinzipiell könnten Dezimalzahlen sehr wohl exakt in Binärzahlen abgebildet werden (beides sind nur Darstellungsformen der selben Zahl - Mathematik). Das Problem liegt darin, dass man die Genauigkeit auf eine bestimmte Anzahl von Stellen begrenzen muss (bei interner Verwendung von Gleitkommazahlen z.B. typischerweise 16 oder 20) - daher die kleine Differenz.
Helmut Am 01.09.2016 um 17:15 schrieb Wolfgang Jäth: > > > Am 01.09.2016 um 13:18 schrieb Stefan Seifried: >> Hallo liebe Nutzer, >> >> durch Zufall ist mir heute aufgefallen, dass bei Einstellung des Zellformats >> "Standard" die Berechnung von z. B. 100,16-100,15 den Wert 0,009999999999991 >> ausgibt. Bei allen anderen Formaten mit Nachkommastellen ist die Darstellung >> mit 0,01 korrekt. >> >> Ist das so von den Entwicklern beabsichtigt? > > Ja und nein. Das *eigentliche* Problem liegt darin, dass bestimmte > /dezimale/ Werte (wie hier eben 0,16) nicht exakt im /binären/ > Zahlensystem abgebildet werden kann, sondern nur annähernd, in dem Fall > als 0,15999999999999700000. Die von Dir beobachtete Abweichung besteht > schlicht in diesem Abbildungsfehler. > > Dass diverse andere Formate die Abweichung nicht darstellen, liegt > einfach nur daran, dass diese eben auf eine geringere Anzahl Stellen > runden, wodurch sich dieser Abbildungsfehler und der durch das Runden > eigentlich verursachte Rundungsfehler gegenseitig wieder aufheben. > > Das ist aber nix Calc- oder OO-spezifisches, sondern damit haben > prinzipiell *alle* Programme zu kämpfen, die in einem binären > Zahlensystem mit dezimalen Werten rechnen (oder allgemeiner ausgedrückt, > Werte aus einem Zahlensystem in ein anderes abbilden müssen). > > Wolfgang > --- Diese E-Mail wurde von Avast Antivirus-Software auf Viren geprüft. https://www.avast.com/antivirus -- Liste abmelden mit E-Mail an: [email protected] Probleme? http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/ Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de Listenarchiv: http://listarchives.libreoffice.org/de/users/ Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert
