Какова максимальная точность xeon fpu?

Question

«Я думаю, что знаю», что все процессоры с плавающей точкой процессоров X86/X64 имеют ширину 80 бит, но я не нахожу существенной документации об этом.

Любые ссылки?

Answer 1

Есть два различных плавающую точка единиц на современном x86 процессоре («Xeon» является маркетинговым названием, и не имеет никакого отношения к какому-либо из этого):

• x87, которая обеспечивает операции над 80-битный двойной расширенный тип данных, но может быть сконфигурирован (с помощью настройки регистра управления) для округления до одно- или двухточечной точности (хотя такие настройки не влияют на диапазон экспоненциальных промежуточных вычислений, что иногда вызывает неожиданные результаты) ,

• Более современные SSE (и SSE2, SSE3, SSSE3, SSE4.1, ...), которые обеспечивают скалярные и векторные операции с данными однократной и двойной точности IEEE-754.