Самая быстрая реализация функции frac в C#

Question

Я хотел бы реализовать функцию frac в C# (точно так же, как в hsl здесь http://msdn.microsoft.com/en-us/library/bb509603%28VS.85%29.aspx), но поскольку это приложение с очень интенсивным процессором, я бы хотел, чтобы лучшая версия была возможна. Я использую что-то вроде

public float Frac(float value) 
{ 
    return value - (float)Math.Truncate(value); 
} 

но у меня возникают проблемы точности, например, для 2.6f это возвращение в модульном тесте

Ожидаемое: 0.600000024f Но был: 0.599999905f

Я знаю, что я могу преобразовать в десятичное значение, а затем в конце обращенным плавать, чтобы получить правильный результат что-то вроде этого:

public float Frac(float value) 
{ 
    return (float)((decimal)value - Decimal.Truncate((decimal)value)); 
} 

Но мне интересно, если есть лучший ва y, не прибегая к десятичным знакам ...

Answer 1

Вы собираетесь должны использовать десятичные как в:

public decimal Frac(decimal value) { return value - Math.Truncate(value); } 

Итак, когда вы проходите 2.6м вы всегда получить +0,6

Answer 2

float (псевдоним для System.Single) является точной точностью до 7 цифр. В любом случае вы не должны сравнивать значения с плавающей запятой, используя равенство. Вместо этого вы должны проверить, что они находятся в допустимом диапазоне - например, разница между ожидаемыми и фактическими значениями не более 0,000001.

Assert.AreEqual(expected, actual, delta); 

Если вы используете double вместо этого, вы будете точны до 15-16 цифр.