ЗакускаПовышение точности с Java BigDecimal
R = new BigDecimal(2.79E+00);
Dxm3d = new BigDecimal(3.99E-04);
Wmd = new BigDecimal(2.39E-03);
x = new BigDecimal(3.2);
t = new BigDecimal(365);
Ниже приведена формула
Эти значения J263 является бюллетени Excel, представляющие свои переменные.
- значение J253: 2,39E-03 является WMD
- J254 значение: 3,99E-04 является Dxm3d
- J 255 Значение: 2,79E00 представляет собой R
- I259: 365 это т значение
- J263: 3.2 Х
BigDecimal segundoTermo = (R.multiply(x).subtract(Wmd.multiply(t)).divide(new BigDecimal(2d).multiply(new BigDecimal(Math.sqrt(Dxm3d.multiply(R).multiply(t).doubleValue()))), RoundingMode.HALF_DOWN));
System.out.println("value segundoTermo " + segundoTermo);
Возвращаемое значение
valor do segundo termo pfv:6.31838147917065306052600332590254032941338413886611227745342947009953030493273342105799365116070956364
Ожидаемое значение
6,321092458
Я получаю тот же ответ с java и wolfram-mathematica. Откуда вы получаете ожидаемое значение? – gonzo