J.K. Becker wrote:
Also meiner Bescheidenen Meinung nach darf bei 100*2.55 immer nur 255 rauskommen, und zwar egal ob ich double oder float oder was auch immer benutze.
richtig, so sollte es sein.
"komplizierten" Rechnungen (also 1.2324324243*2.29832389 oder sqrt(2) z.B.) zu Rundungsfehlern oder aehnlichem kommt, das seh ich ein und damit kann ich auch leben, aber 100*2.55?
Das ist *f�r dich* eine einfache Rechnung, aber der Computer rechnet nicht im Dezimalsystem. Der rechnet bin�r, in einer sonderbaren Gleikommadarstellung mit Basis und Exponent, und da sieht 2.55 halt sehr kompliziert aus....
Gru�,
Matthias (�brigens auch kein Informatiker).
---------------------------------------------------------------------------- PUG - Penguin User Group Wiesbaden - http://www.pug.org
