Возвращаясь ZERO с определенной точностью, используя BigDecimal

Question

Я использую следующий код:

//... 
else if(number.equals(ZERO)) 
    return BigDecimal.ZERO.setScale(precision); 

Функция вызывается с помощью

BigDecimal num = new BigDecimal(0); 
System.out.println(Newton.sqrt(num, 5)); 

и всегда возвращает 0E-100 (независимо от точности при условии,), но мне нужно 0,00000 и т. д. Спасибо

Answer 1

Если ваш первый фрагмент кода, если он является частью метода Newton.sqrt, то я считаю само собой разумеющимся, что это возвращение не выполняется. Вы можете ознакомиться с документацией BigDecimal.equals.

Что бы работать так:

else if(number.signum() == 0) 
    return BigDecimal.ZERO.setScale(precision); 

Это, конечно, работает только если метод не некоторые еще возвращаться д return до того, что один и number действительно точно ноль (без учета масштаба здесь). Поскольку Newton намекает на алгоритм аппроксимации, это, скорее всего, не так. Если это предположение верно, то вы должны пересмотреть свои требования.