Дополнительные цифры добавляются к двойному

Question

Я пытаюсь написать быстрый код для вычисления разных порядков величины 10. Должно быть довольно просто, но результаты немного странные. При вычислении 10^-6 вещей добавляется много дополнительных десятичных знаков. Результаты выглядят как это:

• 0,1
• 0,01
• 0,001
• 0,0001
• 0,00001
• 0,0000010000000000000002

Вот код, я использую:

private Double CalculateOrderOfMagnitude(Int32 n) 
    { 
     if (n < 0) 
      return CalculateOrderOfMagnitude(n + 1)/10.0; 
     if (n > 0) 
      return CalculateOrderOfMagnitude(n - 1) * 10.0; 

     return 1.0d; 
    } 

Answer 1

Поплавок и парные разряды несут ошибки округления из-за того, как они хранятся. Вы должны использовать десятичную цифру для поддержания точной точности.

http://en.wikipedia.org/wiki/Double-precision_floating-point_format

private decimal CalculateOrderOfMagnitude(int n) 
{ 
    if (n < 0) 
     return CalculateOrderOfMagnitude(n + 1)/10m; 
    if (n > 0) 
     return CalculateOrderOfMagnitude(n - 1) * 10m; 

    return 1m; 
}