On Oct 27, 2006, at 8:18 PM, deKeijzer wrote:
Hallo mede-python gebruikers,ik ben bezig om een script te schrijven dat 100 decimalen van een breuk moet laten zien. Het script werkt op zich wel, maar niet naar behoren. De eerste 14 decimalen zijn precies zoals ze horen, alleen daarna wijkt hij af van wat het eigenlijk zou moeten zijn. (gecontroleerd met ingebouwde PHP functie) Ik weet niet zeker of het nou aan mijn script ligt of dat het komt doordat python hier gewoon niet geschikt voor is, dit is in ieder geval het script:
Het probleem komt doordat je gebruik maak van floating point nummers, die hebben niet voldoende precisie om tot 100 posities achter de komma te rekenen. Een verdere uitleg hiervan staat in de Python FAQ op http://www.python.org/infogami-faq/general/why-are-floating-point- calculations-so-inaccurate/.
Als je gebruik maakt van Python 2.4 kan je de decimal module gebruiken, die implementeerd floating point getallen met een zelf op te geven precisie.
Ronald
smime.p7s
Description: S/MIME cryptographic signature
_______________________________________________ Python-nl mailing list Python-nl@python.org http://mail.python.org/mailman/listinfo/python-nl
