Компьютер с плавающей точкой - проблема с возвратом правильных результатов

Question

Возникли проблемы с вызовом.

Скажем, у меня есть теоретические, базу 10, с плавающей запятой калькулятор со следующими характеристиками

• Только 3 цифры для мантиссы
• 1 цифра для показателя
• Вход для мантиссы и экспоненту

Как эта машина вычислит следующее?

300 + \sum_{i=1}^{100} 0.2

Правильный результат 320. Результат станка 300. Но почему? Не удается добраться туда, куда пропадает 20 ...

Спасибо за ваше время.

Answer 1

Несмотря на ответ Дэвин, число 0,2 не 0: 2e -1 представляется в вашей системе. Что здесь происходит, так это то, что 300.2 не представляется полной точностью, поэтому 300 + 0,2 округляется до 300. Если вы делаете это 100 раз, вы все равно получаете 300 :-)

Ваша система должна иметь возможность вычислять 300 + 100 * 0,2 правильно.

Answer 2

Число 0,2 в этом калькуляторе равно 0, так как оно должно оцениваться до 2 x 10^(- 1), хотя показатель степени имеет только 1 цифру, что позволяет диапазон 0 и 1, поэтому -1 находится вне его ассортимент. Сгущенного продукта приводит к усечения, которая производит 0.

Так что, если мы суммируем 0 сто раз, и добавить результат на 300, получаем 300.