У меня есть строка, которая отформатирована правильно, чтобы быть отлитой до двойника, и она отлично работает для большинства десятичных знаков. Проблема в том, что для .33, .67 и, возможно, других, которые я не тестировал, десятичное значение становится чем-то вроде .6700000000002, или .329999999998. Я понимаю, почему это происходит, но у кого-то есть предложение исправить это.Неправильное десятичное преобразование из двоичного в строку в java
Это результат правил округления IEEE-754, некоторые цифры не могут быть представлены точно в two's complement. Например, 1/10 не является точно представимым.
Вы можете добавить больше точности (но не бесконечно), используя BigDecimal.
BigDecimal oneTenth = new BigDecimal("1").divide(new BigDecimal("10"));
System.out.println(oneTenth);
Какие выходы 0.1
Некоторые десятичные числа не могут быть точно представлены с внутренним представлением машины базы 2.
ах, который имел бы смысл. Значит, это связано с стандартом IEEE с плавающей запятой, который я предполагаю? Любая идея, как ее исправить – KBusc
@KBusc, я считаю, что стандарт IEEE-754 фактически позволяет десятичное представление с плавающей запятой (полезно для учета и финансов). Таким образом, это действительно связано с тем, что ваша цель использует представление базы 2 (как и большинство целей). – user3146587
Это двойная точность для вас. Двоичные числа и десятичные знаки не работают хорошо. Если вы не делаете что-то действительно точное, это должно быть хорошо, если вы его печатаете, вы должны использовать либо десятичный формат, либо printf.
Значение чисел с плавающей запятой не сохраняется непосредственно, а с экспоненциальными значениями. Вы можете написать 3.1233453456356 как номер, но в памяти хранится что-то вроде 3 и 2^6. Он пытается сохранить значение как можно ближе к вашему номеру, но эти различия могут произойти.
Это не должно быть проблемой, если вы не испытывать равенства. С плавающей точкой тестами для равенства вам нужно разрешить «дельту», так что:
if (a == b)
становится
if (abs(a-b) < 0.000001)
или аналогичное малое значение дельты. Для печати ограничьте ее до двух знаков после запятой, а форматтер будет вокруг вас.
Добро пожаловать в мир чисел с плавающей запятой :) –