Как исправить ошибку простого умножения Adobe Flex

Question

Мы используем версию 3.6. Мы называем функцию округления для очистки десятичной части. Что-то вроде этого ...

private function ceilingRounding(value:Number, power:Number):Number 
    { 
    var scale:Number = Math.pow(10, power); 
    return (Math.ceil(value * scale)/scale); 
    } 

В результате функции неожиданно для следующих значений: значения = 76.7549, масштаба = 10000. Результат должен быть 76,7549, но мы получим 76,7550

Используя отладчик, мы видим это значение * шкала = 767549.0000000001. Конечно, это будет округлено до 76.7550, но почему мы получаем .0000000001 и как мы можем это исправить?

Answer 1

Значения «НОМЕРА» сохраняют эту операцию аппроксимации, вы можете изменить свою функцию и добавить в нее следующее, плюс я позволю функции, которую я регулярно использую для округления.

public static function roundToPrecision(numberVal:Number, precision:int = 0):Number 
     { 
      var decimalPlaces:Number = Math.pow(10, precision); 
      return Math.round(decimalPlaces * numberVal)/decimalPlaces; 
     } 

Если вам нужно Фиксированный десятичный номер попробовать

var myNum:Number = 1.123556789 
myNum.toFixed(3); 
trace(myNum); // 1.123 

Если вам нужна точность десятичного числа попробовать

myNum.toPrecision(3); 
trace(myNum); // 1.124; 

Для получения дополнительной опции см округление в ссылке.

Reference NumberFormatter