Поплавок неправильный расчет

Question

Результат должен быть 806603.77, но почему я получаю 806603.8?

float a = 855000.00f; 
float b = 48396.23f; 

float res = a - b; 
Console.WriteLine(res); 
Console.ReadKey(); 

Answer 1

Вы должны использовать decimal вместо потому float имеет 32-bit с 7 цифр точность только поэтому результат отличается, с другой стороны decimal имеет 128-bit с 28-29 digit точность.

decimal a = 855000.00M; 
decimal b = 48396.23M; 

decimal res = a - b; 
Console.WriteLine(res); 
Console.ReadKey(); 

Выход: 806603.77

Answer 2

Потому что float имеет ограниченную точность (32 бит). Используйте double или decimal если хотите более точный.

Answer 3

A float (также называемый System.Single) имеет точность, эквивалентную приблизительно seven десятичные числа. Вам нужны reseight Значительные десятичные цифры. Поэтому следует ожидать, что в float недостаточно точности.

Сложение:

Некоторые дополнительная информация: Около 806000 (806000), float только имеет четыре бита влево для дробной части. Так res ему придется выбирать между

806603 + 12/16 == 806603.75000000, and 
806603 + 13/16 == 806603.81250000 

Он выбирает первый, так как он ближе всего к идеальному результату. Но оба этих значения выводятся как "806603.8" при вызове ToString() (который вызывает Console.WriteLine(float)). Показан максимум 7 значащих десятичных цифр с общим вызовом ToString. Для того, чтобы показать, что два числа с плавающей точкой различны, даже если они печатают то же самое со стандартным форматированием, используйте строку формата "R", например

Console.WriteLine(res.ToString("R")); 

Answer 4

Пожалуйста, обратите внимание, что только вслепую, используя Decimal не достаточно хорошо.

Читать ссылку размещенного Одедова: What Every Computer Scientist Should Know About Floating-Point Arithmetic

Только затем решение о соответствующем числовом типе использования.

Не попадайте в ловушку мышления о том, что просто использование десятичного числа даст вам точные результаты; это не всегда.

Рассмотрим следующий код: "! Yay"

Decimal d1 = 1; 
Decimal d2 = 101; 
Decimal d3 = d1/d2; 
Decimal d4 = d3*d2; // d4 = (d1/d2) * d2 = d1 

if (d4 == d1) 
{ 
    Console.WriteLine("Yay!"); 
} 
else 
{ 
    Console.WriteLine("Urk!"); 
} 

Если Десятичные вычисления были точны, что код должен печатать потому что d1 должен быть таким же, как d4, правильно?

Ну, это не так.

Также имейте в виду, что десятичные вычисления в тысячи раз медленнее, чем двойные вычисления.Они не всегда подходят для невалютных расчетов (например, вычисление смещений пикселей или физических вещей, таких как скорости или что-либо, что связано с трансцендентными числами и т. Д.).