On Sun, 26 Jul 2009 10:36:41 +0300, Алексей Р. Орлов  wrote:

awk пишет:
Добрый день.
Я с этим столкнулся еще в версии 1.1. Писал сюда.
По просбе кого-то из участников (архив не сохранился) сбрасывал сюда файл.
Думал, это исправили.

Теперь снова натолкнулся на ту же ошибку:

есть две ячейки. в них числа 47 723,75 и 47 587,47

а вот разница этих двух чисел по мнению Calc не 136,28
как может показаться начинающему математику, а 136,279999999999000

пример в аттаче.

ЭТО ОЧЕНЬ КРИТИЧНАЯ ОШИБКА!
т.к. сравнения чисел, полученных от таких вычислений и работа с ними, приводит к совершенно непредсказуемым результатам.

Версия 3.0.0 (Build 9358) от Инфра-ресурс.
------------------------------------------------------------------------

Так работают практически все эл.таблицы и не только они.
У Вас же не целочисленные вычисления.
Для результата воспользуйтесь функцией округления.


Есть интересная закономерность - пока после запятой не более 11 знаков - данная погрешность не всплывает - можете проверить постепенно добавляя разрядность в последних двух ячейках.
Сборка Инфры 3.1
_______________________________________________
Oo-discuss mailing list
[email protected]
https://lists.openoffice.ru/mailman/listinfo/oo-discuss

Ответить