Numpy с плавающей запятой ошибки округления

Question

При поиске некоторого Numpy материала, я наткнулся на вопрос обсуждали скругления точность numpy.dot():

Numpy: Difference between dot(a,b) and (a*b).sum()

Так как я, случается, есть два (разных) Компьютеры с Haswell-CPU, сидящими на моем столе, которые должны обеспечить FMA и все, я думал, что испытаю пример, данный Ophion в первом ответе, и я получил результат, который несколько удивил меня:

После обновления/установки/фиксирующий лапак/blas/atlas/numpy, на обеих машинах я получаю следующее:

>>> a = np.ones(1000, dtype=np.float128)+1e-14 
>>> (a*a).sum() 
1000.0000000000199999 
>>> np.dot(a,a) 
1000.0000000000199948 

>>> a = np.ones(1000, dtype=np.float64)+1e-14 
>>> (a*a).sum() 
1000.0000000000198 
>>> np.dot(a,a) 
1000.0000000000176 

Значит, стандартное умножение + sum() точнее, чем np.dot(). timeit однако подтвердил, что версия .dot() быстрее (но не очень) для float64 и float128.

Может ли кто-нибудь дать объяснение этому?

Редактировать: Я случайно удалил информацию о версиях numpy: те же результаты для 1.9.0 и 1.9.3 с python 3.4.0 и 3.4.1.

Answer 1

Похоже, что они недавно добавили специальный Pairwise Summation к ndarray.sum для улучшения численной устойчивости.

От PR 3685, это влияет:

all add.reduce calls that go over float_add with IS_BINARY_REDUCE true 
so this also improves mean/std/var and anything else that uses sum. 

here См для изменения кода.