J.K. Becker wrote:
Also meiner Bescheidenen Meinung nach darf bei 100*2.55 immer nur 255 rauskommen, und zwar egal ob ich double oder float oder was auch immer benutze.
richtig, so sollte es sein.
"komplizierten" Rechnungen (also 1.2324324243*2.29832389 oder sqrt(2) z.B.) zu Rundungsfehlern oder aehnlichem kommt, das seh ich ein und damit kann ich auch leben, aber 100*2.55?
Das ist *für dich* eine einfache Rechnung, aber der Computer rechnet nicht im Dezimalsystem. Der rechnet binär, in einer sonderbaren Gleikommadarstellung mit Basis und Exponent, und da sieht 2.55 halt sehr kompliziert aus....
Gruß,
Matthias (übrigens auch kein Informatiker).
---------------------------------------------------------------------------- PUG - Penguin User Group Wiesbaden - http://www.pug.org
