C# Вычитание неточно даже с десятичными знаками?

Question

Я изучаю TDD и решил создать класс калькулятора для запуска. Сначала я сделал основной, и теперь я нахожусь на функции Square Root.

Я использую этот метод для получения корня http://www.math.com/school/subject1/lessons/S1U1L9DP.html Я проверил его с несколькими номерами, и я всегда получаю точные ответы. довольно легко понять.

Теперь у меня странная проблема, потому что с некоторыми номерами я получаю правильный ответ, а с некоторыми - нет.

Я отладил код и выяснил, что я не получаю правильный ответ, когда использую вычитание.

Я использую десятичные знаки, чтобы получить наиболее точный результат.

, когда я делаю:

18/4.25 

В настоящее время я получаю: 4.2352941176470588235294117647

, когда оно должно быть: 4.2352941176470588235294117647059 (с помощью окна калькулятор)

в конце пути, это ближайший я добираюсь до корня 18:

4.2426406871192851464050688705^2 = 18.000000000000000000000022892 

мой вопрос:

Могу ли я уточнить это?

Answer 1

4.2352941176470588235294117647 содержит 29 цифр.

decimal определяет, имеет ли 28-29 значащих цифр. Вы не можете сохранить более точный номер в decimal.

В какой области техники или науки вы работаете, где 30-я и болеезначные цифры являются значимыми для точности общего расчета?

(Возможно, это поможет, если вы указали какой-либо более актуальный код. Единственный код, который вы указали, - 18/4.25, который не может быть фактическим выражением в вашем коде, поскольку второе число является double, и вы не можете присвоить результат этого выражения decimal без литья).

---

Если вам нужна произвольная точность, то есть не стандартный тип «BigRational», но есть BigInteger.Вы можете использовать это, чтобы построить тип BigRational, если вам это нужно (сохранение числителя и знаменателя как двух отдельных целых чисел). Одна догадка о том, почему нет стандартного типа, заключается в том, что решения по , когда, например. нормализация таких рационов может повлиять на сравнение производительности или равенства.

Answer 2

Расчеты с плавающей точкой неточны. Десятичные значения делают точность лучше, потому что они 128-битные, но они все еще являются числами с плавающей запятой.

Сравнение двух чисел с плавающей запятой не делается с ==, а:

static bool SameDecimal(decimal a, decimal b) 
{ 
    return Math.Abs(a-b) < 1e-10; 
} 

Этот метод позволит вам сравнить два десятичных знака (я предполагаю, что 1e-10 является достаточно малая разница для вас, она должна для повседневного использования).