Матричное умножение Numpy.dot: (n-by-m) * (m-by-k) и (m-by-k) * (k-by-n) имеют очень разные скорости

Question

У меня есть следующий код Python :

import numpy 
import time 

A = numpy.random.random((10,60000)) 
B = numpy.random.random((60000,785)) 
C = numpy.random.random((785,10)) 

t = time.time() 
D = A.dot(B) 
print "%.2f s" % (time.time() - t) 

t = time.time() 
E = B.dot(C) 
print "%.2f s" % (time.time() - t) 

Я думаю, что две матрицы умножений A * B и B * C следует принимать примерно такое же количество времени, потому что оба умножений включают 10 * 60000 * 785 операций умножения.

Однако на разных машинах у меня очень разные тайминги. На моем ноутбуке (Windows 7, 2,40 ГГц процессор, 8 Гб памяти, Python 2.7, Numpy 1.7.1), я получил:

0.21 s 
0.21 s 

что является нормальным. На кластерном компьютере (Linux CentOS 5,6, 2,66 ГГц, 16G памяти, Python 2.7.3, Numpy 1.8.1), я получил:

6.77 s 
1.10 s 

где A * B гораздо медленнее, чем B * С

Может ли кто-нибудь объяснить, почему два умножения занимают разные промежутки времени? Я не уверен, какие конфигурации релевантны, но я постараюсь предоставить любую необходимую информацию.

Answer 1

В A больше элементов, поэтому результаты интуитивно понятны.

Answer 2

(Слишком долго для комментариев, а не ответ)

Если вы запустите следующий, вы получите широкие различия в производительности?

#!/usr/bin/env python3.4                 
import numpy 
import time 

A = numpy.random.random((10,60000)) 
B = numpy.random.random((60000,785)) 
C = numpy.random.random((785,10)) 

t = time.time() 
D = A.dot(B) 
print("%.2f s" % (time.time() - t)) 

t = time.time() 
D = numpy.transpose(B).dot(numpy.transpose(A)) 
print("%.2f s" % (time.time() - t)) 

t = time.time() 
D = B.dot(C) 
print("%.2f s" % (time.time() - t)) 

t = time.time() 
D = numpy.transpose(C).dot(numpy.transpose(B)) 
print("%.2f s" % (time.time() - t)) 

При запуске этого я получить

0.21 s 
0.22 s 
0.44 s 
0.22 s 

Это сильно свидетельствует о различиях шаблонов доступа к памяти.