2013-06-15 4 views
-1

Несколько дней назад Yahoo отправил сообщение о проекте Storm-on-YARN http://developer.yahoo.com/blogs/ydn/storm-yarn-released-open-source-143745133.html, что дает возможность запускать Storm on YARN. Это большое улучшение, однако у меня есть два вопроса относительно запуска таких задач, как Storm с YARN. Задачи, подобные Storm, не имеют ограничения на время выполнения ... Я имею в виду, что когда вы запускаете Storm, вы ожидаете, что он будет работать дни или месяцы - очередь для прослушивания или что-то еще. Я имею в виду множество задач, которые не имеют ограничений во времени исполнения (я хотел бы сообщить о достижении 0%)как YARN управляет бесконечными работами, такими как Storm

1) что такое тайм-аут? обычный M/R убивается, когда он зависает, как его предотвратить? Я прошел через код, но не нашел никакого специального кода 2) также, MR1 имеет очередь, где ожидающие выполнения задания: когда кластер завершает одно задание, он выбрал следующее задание из очереди. Как насчет YARN? если я буду нажимать бесконечные штормовые задания A и задание B, будет ли выполняться работа B?

Извините, если мои вопросы покажутся смешными, может быть, я скучаю/не понимаю, что-то

+0

Если контейнер все еще жив, он определяется по битам, а не по счетчикам (например, по прогрессу), которые были выбраны. –

ответ

1

JobTracker Hadoop был (есть) отвечает за кластерные ресурсы и жизненный цикл приложения. YARN отвечает только за управление ресурсами кластера, и жизненный цикл приложения является ответственностью приложения.

Это изменение означает, что YARN может использоваться для управления любой распределенной парадигмой. MR2 - это, конечно, первоначальная реализация (map/reduce over YARN), но вы можете увидеть некоторые другие реализации, такие как Storm-on-YARN, которые вы упомянули, или намерение HortonWorks - integrate SQL in hadoop и т. Д.

Вы можете взглянуть на библиотеку под названием Weave from continuuity, который предоставляет простой API для создания распределенных приложений на YARN

Смежные вопросы