Hallo Helmut, was, bitte schön, verstehst Du unter exakt?
Gruß, Klaus -----Ursprüngliche Nachricht----- Von: Helmut Leininger [mailto:[email protected]] Gesendet: Donnerstag, 1. September 2016 17:44 An: [email protected] Betreff: [de-users] Re: Libre Office Version: 5.2.0.4 Build-ID: 066b007f5ebcc236395c7d282ba488bca6720265-Calc - Zahlenausgabe Wolfgang, deine Erklärung ist nur zur Hälfte richtig. Prinzipiell könnten Dezimalzahlen sehr wohl exakt in Binärzahlen abgebildet werden (beides sind nur Darstellungsformen der selben Zahl - Mathematik). Das Problem liegt darin, dass man die Genauigkeit auf eine bestimmte Anzahl von Stellen begrenzen muss (bei interner Verwendung von Gleitkommazahlen z.B. typischerweise 16 oder 20) - daher die kleine Differenz. Helmut Am 01.09.2016 um 17:15 schrieb Wolfgang Jäth: > > > Am 01.09.2016 um 13:18 schrieb Stefan Seifried: >> Hallo liebe Nutzer, >> >> durch Zufall ist mir heute aufgefallen, dass bei Einstellung des Zellformats "Standard" die Berechnung von z. B. 100,16-100,15 den Wert 0,009999999999991 ausgibt. Bei allen anderen Formaten mit Nachkommastellen ist die Darstellung mit 0,01 korrekt. >> >> Ist das so von den Entwicklern beabsichtigt? > > Ja und nein. Das *eigentliche* Problem liegt darin, dass bestimmte > /dezimale/ Werte (wie hier eben 0,16) nicht exakt im /binären/ > Zahlensystem abgebildet werden kann, sondern nur annähernd, in dem > Fall als 0,15999999999999700000. Die von Dir beobachtete Abweichung > besteht schlicht in diesem Abbildungsfehler. > > Dass diverse andere Formate die Abweichung nicht darstellen, liegt > einfach nur daran, dass diese eben auf eine geringere Anzahl Stellen > runden, wodurch sich dieser Abbildungsfehler und der durch das Runden > eigentlich verursachte Rundungsfehler gegenseitig wieder aufheben. > > Das ist aber nix Calc- oder OO-spezifisches, sondern damit haben > prinzipiell *alle* Programme zu kämpfen, die in einem binären > Zahlensystem mit dezimalen Werten rechnen (oder allgemeiner > ausgedrückt, Werte aus einem Zahlensystem in ein anderes abbilden müssen). > > Wolfgang > --- Diese E-Mail wurde von Avast Antivirus-Software auf Viren geprüft. https://www.avast.com/antivirus -- Liste abmelden mit E-Mail an: [email protected] Probleme? http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/ Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de Listenarchiv: http://listarchives.libreoffice.org/de/users/ Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert -- Liste abmelden mit E-Mail an: [email protected] Probleme? http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/ Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de Listenarchiv: http://listarchives.libreoffice.org/de/users/ Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert
