2014-02-12 2 views
1

Если на одном и том же узле выполняется несколько карт, объединит ли объединитель результаты из нескольких карт?Работает ли комбайнер по результатам нескольких карт?

Я не могу найти ответ для этого в документах или книгах. И примеры объединителей, которые я могу найти, кажутся разными, даже если они могут агрегировать результаты только от одного картографа.

ответ

1

Формулировка в учебнике Yahoo (упомянутая в ответе Леонарда), кажется, вводит в заблуждение.

На данный момент мы получаем объединитель для каждой задачи карты. Функциональность, предлагаемая этим вопросом, еще находится в разработке: https://issues.apache.org/jira/browse/MAPREDUCE-4502

4

От Yahoo, Hadoop Tutorial:

объединитель получит в качестве входных данных все данные, излучаемые экземплярами Mapper на данном узле. Результат от Combiner затем отправляется в редукторы вместо вывода из Mappers. Combiner - это процесс «мини-уменьшения», который работает только с данными, сгенерированными одной машиной.

Чтобы ответить на ваш вопрос, да.

Смежные вопросы