Понимание проблем с плавающей запятой

Question

Может кто-то здесь, пожалуйста, помогите мне понять, как определить, когда ограничения с плавающей запятой вызовут ошибки в ваших расчетах. Например, следующий код.

CalculateTotalTax = function (TaxRate, TaxFreePrice) { 
    return ((parseFloat(TaxFreePrice)/100) * parseFloat(TaxRate)).toFixed(4); 
}; 

Мне не удалось ввести любые два значения, которые вызвали для меня неправильный результат для этого метода. Если я удаляю toFixed (4), я могу понять, где вычисления начинают терять точность (где-то около шестого десятичного разряда). Сказав это, мое понимание поплавков заключается в том, что иногда даже небольшие числа могут быть не представлены или я неправильно понял, и их можно было бы точно указать на 4 десятичных знака (например).

MSDN объясняет, как поплавки such ...

Это означает, что они не могут провести точную представления любого количества, которое не двоичная дробь (в^п формы к/ (2), где k и n являются целыми числами)

Теперь я предполагаю, что это относится ко всем поплавкам (в том числе к тем, которые использовались в javascript).

По существу, мой вопрос сводится к этому. Как определить, будет ли какой-либо конкретный метод уязвимым для ошибок в операциях с плавающей запятой, с какой точностью будут выполняться эти ошибки и какие входы потребуются для получения этих ошибок?

Надеюсь, что я прошу, имеет смысл.

Answer 1

Начните с чтения Что каждый ученый должен знать о плавающей точкой: http://docs.sun.com/source/806-3568/ncg_goldberg.html

Короткий ответ: двойной точности поплавки (которые по умолчанию в JavaScript) имеют около 16 десятичных цифр точности. Округление может варьироваться от платформы к платформе. Если абсолютно необходимо, чтобы вы получили правильный ответ, вы должны сделать рациональную арифметику самостоятельно (это не должно быть сложно - для валюты, возможно, вы можете просто умножить на 100, чтобы сохранить число центов как целое число).

Но если достаточно получить ответ с высокой степенью точности, поплавки должны быть достаточно хорошими, особенно двойной точностью.

Answer 2

Есть два главное, что вы должны теперь, когда дело с поплавками:

1- Вы должны быть осведомлены о machine epsilon. Чтобы узнать, какая у вас точность.

2- Вы не должны принять if two values are equal in base 10, they are equal in base 2 in a machine with precision limit.

if ((6.0/10.0)/3.0 != .2) { 
     cout << "gotcha" << endl; 
} 

Номер 2 может быть достаточно убедительны, чтобы избежать сравнения чисел с плавающей точкой на равенство, а порог и больше, или меньше, чем операторы могут быть использованы для сравнения

Answer 3

Нет, количество десятичные знаки не имеют ничего общего с тем, что можно представить.

Попробуйте .1 * 3, или 162.295/10, или 24.0 + 47.98. Мне это не удается в JS. Но, 24.0 * 47.98 не подводит.

Чтобы ответить на ваши три вопроса, любая операция для любой точности потенциально уязвима. Независимо от того, будет ли данный вход или нет, я не знаю, как ответить, но у меня есть догадка, что есть ряд факторов. 1) Как близко фактический ответ на ближайшую двоичную дробь. 2) Точность в двигателе, выполняющая расчет. 3) Метод, используемый для выполнения расчета (например, умножение на сдвиг бит может давать разные результаты, чем умножение путем повторного добавления)

Answer 4

Другие ответы указывают на хорошие ресурсы для понимания этой проблемы. Если вы фактически используете денежные значения в своем коде (как в вашем примере), вы должны предпочесть десятичные типы (System.Decimal в .Net). Это позволит избежать некоторых проблем округления при использовании float и лучше соответствовать домену.