Будучи новым разработчиком приложения Hadoop, я изо всех сил пытаюсь понять множество вариантов конфигурации для Map/Reduce
или Oozie
или Sqoop
. Ни одна из рекомендованных книг или сайтов не рассматривает это полностью. Любой новый инструмент в экосистеме Hadoop вы увидите больше. Я хотел спросить, что является лучшим способом/ресурсом, чтобы получить представление о настройках конфигурации заданий.Параметры конфигурации Apache Hadoop
3
A
ответ
0
Здесь у вас есть все конфигурации Hadoop:
https://hadoop.apache.org/docs/r2.5.1/hadoop-project-dist/hadoop-common/core-default.xml
Кроме того, если вы хотите, чтобы видеть то, что текущая конфигурация и куда она приходит от запуска этого:
$ hadoop org.apache.hadoop.conf.Configuration
1
Я прочитал hadoop: окончательное руководство Это было очень полезно для меня.
Кроме того, при чтении любого configuration property in hadoop, вы должны связать это с соответствующим элементом хаопа.
Как и любое свойство, которое начинается с mapred.map
, используется так же, как и для свойства объекта mapper. mapred.reduce
предназначен для редуктора.
Этот способ позволяет легко понять и запомнить свойства.
Смежные вопросы
- 1. конфигурации Apache Tez с Hadoop
- 2. Как установить параметры конфигурации Hadoop от pyspark
- 3. Глобальное хранилище конфигурации Hadoop
- 4. Кэш конфигурации конфигурации Apache
- 5. Apache Нокс конфигурации
- 6. Получение конфигурации заданий в hadoop
- 7. Как передать пользовательские параметры с помощью объекта конфигурации Hadoop MapReduce?
- 8. Ошибка конфигурации Hadoop
- 9. Значения конфигурации Hadoop cloudera
- 10. Ошибка конфигурации Hadoop
- 11. Свойства конфигурации Hadoop
- 12. Spring конфигурации Hadoop Mapper
- 13. Входные Выходные параметры Ошибка Hadoop
- 14. Использование конфигурации приложения по конфигурации Hadoop
- 15. Hadoop Параметры параметров модуля
- 16. Ошибка конфигурации конфигурации SQL Server 2012 и Polybase - «Hadoop Connectivity»
- 17. Hadoop, Apache Spark
- 18. Apache Flume без hadoop
- 19. MapReduce Apache Hadoop Technology
- 20. Компараторы Apache hadoop
- 21. Релизы Apache hadoop
- 22. Spark Streaming с объектом конфигурации Hadoop
- 23. XSLT для дополнения конфигурации Hadoop
- 24. Управление ресурсами конфигурации кластера Hadoop
- 25. Spark: как получить все параметры конфигурации
- 26. Получить параметры конфигурации носетистов
- 27. Параметры файла конфигурации mongodb
- 28. Как настроить параметры конфигурации?
- 29. Редактировать параметры конфигурации Suhosin
- 30. Параметры конфигурации в complete.ly.js
Если какой-либо ответ решили вашу проблему, нажмите большой флажок, чтобы принять его как ответ. –