Le 18/12/2010 12:19, lutch a écrit :
Le 18/12/10 11:55, Michel Rudelle a écrit :
Bonjour,
…
Les nombres sont mémorisés sous forme de réels dits double précision
sur 8
octets (dans des temps anciens où la mémoire était rare et chère on
utilisait des single sur 4 octets). Ceci limite la précision que l'on
peut
obtenir et qui est largement suffisante dans la plupart des cas.
Je n'ai jamais utilisé Framework, mais quand tu parles de 64 décimales,
es-tu sûr qu'il s'agit bien de nombre significatifs, car le stockage
sur 8
octets correspond à 64 bits).
De mémoire oui, on avait les 64 décimales visibles à l'écran.
À l'époque, quand on avait eu notre premier poste avec Excel, le
technicien qui développait nos programmes avait été piégé sur certains
calculs, faux sous Excel, en raison des arrondis.
Sous Framework hélas, nous n'avions pas un grapheur digne de ce nom.
Je ne saurais en dire plus, les détails sont bien enfouis dans ma
mémoire désormais…
C'est donc le fonctionnement "classique", on peut aller au-delà avec
d'autres outils, mais avec un tableur ?
Peut-être quelqu'un a-t-il une réponse ?
Bonne journée.
Michel
Bonne journée
Je profite de la discussion : Dans mon cas, j'essaie de concevoir une
feuille Calc qui explique le fonctionnement de ces nombres réels et leur
stockage en machine. Or, 15 décimales, c'est trop petit. Je pensais que
la notation scientifique permettait de s'affranchir de cette limitation.
--
Envoyez un mail à [email protected] pour savoir comment vous
désinscrire
Les archives de la liste sont disponibles à
http://fr.libreoffice.org/lists/users/
Tous les messages envoyés sur cette liste seront archivés publiquement et ne
pourront pas être supprimés
