Как правильно нормализовать значение с плавающей запятой в C++?

Question

Может быть, я не понимаю, стандарта IEEE754, что много, но, учитывая множество значений с плавающей точкой, которые float или double, например:

56.543f 3238.124124f 121.3f ... 

вы можете преобразовать их в значении от 0 до 1, поэтому вы их нормализуете, используя соответствующий общий коэффициент при рассмотрении того, что является максимальным значением и минимальным значением в наборе.

Теперь я хочу сказать, что в этом преобразовании мне нужна намного более высокая точность для набора целей, который колеблется от 0 до 1 по сравнению с уровнем точности, который мне нужен в первом, особенно если значения в первый набор охватывает широкий диапазон численных значений (действительно больших и очень малых значений).

Как float или тип double (или стандарт IEEE 754, если хотите) могут справиться с этой ситуацией, обеспечивая при этом более высокую точность для второго набора значений, зная, что мне в основном не нужна целая часть?

Или это совсем не так, и мне нужна математика с фиксированной точкой с совершенно другим типом?

Answer 1

Номера с плавающей запятой хранятся в формате, аналогичном научной нотации. Внутри они выравнивают ведущее 1 двоичного представления в начало значимости. Каждое значение переносится с тем же числом двоичных цифр точности относительно его собственной величины.

Когда вы сжимаете свой набор значений с плавающей запятой до диапазона 0..1, единственная потеря точности, которую вы получите, будет вызвана округлением, которое происходит на разных этапах процесса.

Если вы просто сжатие за счет масштабирования, вы потеряете только небольшое количество точности вблизи LSBs мантиссы (около 1 или 2 ULP, где ULP означает «единиц на последнем месте).

Если вам также нужно переместить свои данные, тогда все становится сложнее. Если ваши данные все положительные, то вычитание наименьшего числа ничего не повредит. Но если ваши данные представляют собой смесь положительных и отрицательных данных, тогда некоторые из ваших значения близкие к нулю могут понести потерю точности.

Если вы выполняете всю арифметику с точностью double, вы можете нести 53 бит точности при вычислении. Если ваша точность должна соответствовать что (что, вероятно, они и делают), тогда все будет в порядке. В противном случае точная численная производительность будет зависеть от распределения ваших данных.

Answer 2

Одиночные и двойные поплавки IEEE имеют формат, в котором части экспоненты и доли имеют фиксированную ширину бита. Таким образом, это невозможно (т. Е. У вас всегда будут неиспользуемые биты, если вы сохраняете только значения от 0 до 1). (См.: http://en.wikipedia.org/wiki/Single-precision_floating-point_format)

Вы уверены, что 52-разрядная фрактальная часть двоеточия недостаточно точна?

Редактировать: Если вы используете весь диапазон плавающего формата, вы потеряете точность при нормализации значений. Округления могут быть выключены, и достаточно малых значений станет 0. Если вы не знаете, что это проблема, не беспокойтесь. В противном случае вам нужно найти другое решение, как указано в других ответах.

Answer 3

Для повышения точности вы можете попробовать http://www.boost.org/doc/libs/1_55_0/libs/multiprecision/doc/html/boost_multiprecision/tut/floats.html.

Заметим также, что для численного критической операции +, - существуют специальные алгоритмы, которые сводят к минимуму численное ошибке, допущенной по алгоритму:

http://en.wikipedia.org/wiki/Kahan_summation_algorithm

Answer 4

Если у вас есть выбор double с и вы нормализуют их между 0.0 и 1.0, существует ряд источников точных потерь. Однако все они намного меньше, чем вы подозреваете.

Во-первых, вы потеряете некоторую точность в арифметических операциях, необходимых для их нормализации по мере округления. Это относительно мало - бит или около того на операцию - и обычно относительно случайный.

Во-вторых, компонент экспоненты больше не будет использовать возможность положительного экспонента.

В-третьих, поскольку все значения положительны, бит знака также будет потрачен впустую.

Forth, если входное пространство не содержит + inf или -inf или + NaN или -NaN или тому подобное, эти кодовые точки также будут потрачены впустую.

Но, по большей части, вы будете тратить около 3 бит информации в 64-разрядной версии double в свою нормализацию, одним из которых является то, что почти неизбежно, когда вы имеете дело с конечной шириной значения.

Любое 64-битное представление неподвижной точки значений от 0 до 1 будет иметь гораздо меньший «диапазон», чем double с. A double может представлять что-то порядка 10^-300, в то время как 64-битное представление фиксированной точки, которое включает в себя 1.0, может начинаться с 10^-19 или около того. (64-битное представление с фиксированной точкой может представлять 1 - 10^-19 как отличное от 1, тогда как double не может, но значение 64-битной фиксированной точки не может представлять ничего меньшего, чем 2^-64, тогда как double s может).

Некоторые из приведенных выше цифр являются приблизительными и могут зависеть от округления/точного формата.

Answer 5

Имея значение точки двоичных плавающей (с неявной ведущей) выражается как

(1+fraction) * 2^exponent where fraction < 1 

Разделения а/Ь:

a/b = (1+fraction(a))/(1+fraction(b)) * 2^(exponent(a) - exponent(b)) 

Следовательно, деления/умножение не имеет по существу без потери точности.

Вычитание а-Ь:

a-b = (1+fraction(a)) * 2^(exponent(a) - (1+fraction(b)) * exponent(b)) 

Следовательно, вычитание/добавление может иметь потери точности (большой - крошечное == большой)!

Зажимного значение х в интервале [Min, Max] на [0, 1]

(x - min)/(max - min) 

будет иметь проблемы точности, если какое-либо вычитание имеет потери точности.

Ответ на ваш вопрос: Ничего, выберите подходящее представление (с плавающей точкой, дробью, многоточность ...) для ваших алгоритмов и ожидаемых данных.