Erlang сбор мусора

Question

Мне нужна ваша помощь в исследовании проблемы с потреблением памяти Erlang. Как типично, не так ли?

У нас есть две различные схемы развертывания.

• В первой схеме мы работаем много одинаковых узлов на небольших виртуальных машинах (в Amazon AWS), один узла на каждую машину. Каждая машина имеет 4 ГБ ОЗУ.
• В другой схеме развертывания мы запускаем эти узлы на больших baremetal машинах (с 64 ГБ ОЗУ), с множеством узлов на машину. В этом развертывании узлы изолированы в контейнерах докеров (с ограничением памяти до 4 Гб).

Я заметил, что куча процессов в докерезированных узлах выворачивает в 3 раза больше ОЗУ, чем кучи в незакрепленных узлах с одинаковой нагрузкой. Я подозреваю, что сбор мусора в неблокированных узлах более агрессивный. К сожалению, у меня нет статистики сбора мусора, но я хотел бы получить ее как можно скорее.

Чтобы предоставить дополнительную информацию, я должен сказать, что мы используем HiPE R17.1 на Ubuntu 14.04 с ядром запаса. В обеих схемах мы запускаем 8 планировщиков на узел и используем флаг по умолчанию fullsweep_after.

Мое слепое предложение заключается в том, что сборка мусора по умолчанию Erlang полагается (как-то) на /proc/meminfo (что не является фактическим в докерезованной среде). Я не C-guy и не знаком с внутренними эмуляторами, так что может кто-то указать мне места в источниках Erlang, которые отвечают за сбор мусора и некоторые параметры эмулятора, которые я могу использовать для настройки этого поведения?

Answer 1

Первое, что нужно знать, заключается в том, что сбор мусора i Erlang основан на процессе. Каждый процесс является GC в свое время и независимо друг от друга. Таким образом сбор мусора в вашей системе зависит только от данных в ваших процессах, а не от самой операционной системы.

При этом может существовать разница между потреблением памяти с точки зрения Eralang и системной точкой зрения. Вот почему сравнение erlang:memory с тем, что говорит ваша система, всегда является хорошей идеей (это может показать вам некоторые бинарные утечки или другие проблемы с памятью).

Если вы хотите, чтобы понять немного больше о Erlang внутренностей я рекомендовал бы эти два доклада:

https://www.youtube.com/watch?v=QbzH0L_0pxI

https://www.youtube.com/watch?v=YuPaX11vZyI

И от немного лучше отладки вашего управления памятью я мог РеКомендУем начиная с http://ferd.github.io/recon/