Hallo namenloser user,
Die Aussage ist viel zu ungenau beschrieben. Wenn ich die Differenz
berechnen lasse, erhalte ich das Ergebnis in Exponentialdarstellung mit
den entsprechenden Ziffern wie angegeben, wenn ich aber die
Dezimaldarstellung wähle (ggf. ANzahl der gezeigten nachkommastellen
erhöhen), ist das Ergebnis exakt. Das liegt an der Berechnung mit Zahlen
in der Exponentialdarstellung. Die beiden Stellen "28" am Ende des
Ergebnisses liegen jenseits der Genauigkeit, sie sind nur deshalb
sichtbar, weil durch E-05 das Komma um 5 Stellen verschoben ist.
Übrigens zeigt Excel genau die gleichen Zahlen.
Gruß
Gerhard
Am 26.04.2021 um 17:32 schrieb arratand:
Betriebssystem: LinuxMint 20 64Bit Cinnamon
LibreOffice: 7.0.4.2
Lang: en
CPU: Intel© Core™ i5-4690 CPU @ 3.50GHz × 4
Linux Kernel: 5.4.0-72-generic
Beispiel:
0,864838970000000000 – 0,864800740000000000 = 0,000038230000000028 (inkorrekt)
Der Fehler ist reproduzierbar mit allen Zahlen.
Mit freundlichen Grüßen
User
Sent with ProtonMail Secure Email.
--
Liste abmelden mit E-Mail an: [email protected]
Probleme?
https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Datenschutzerklärung: https://www.documentfoundation.org/privacy
