2014-04-22 2 views
1

После установки и настройки моего Hadoop 2.2.0 в псевдо-распределенном режиме все работает, как вы можете видеть в jps:MapReduce в Hadoop 2.2.0 не работает

$ jps 
2287 JobHistoryServer 
1926 ResourceManager 
2162 NodeManager 
1834 DataNode 
1756 NameNode 
3013 Jps 

Тогда я побежал WordCount пример с

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.2.0.jar wordcount /user/hdfs/file /output 

И исполнение frezees следующим образом (?):

$ hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.2.0.jar wordcount /user/hdfs/file /output           
OpenJDK 64-Bit Server VM warning: You have loaded library /home/hduser/hadoop-src/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now. 
It's highly recommended that you fix the library with 'execstack -c <libfile>', or link it with '-z noexecstack'. 
14/04/22 22:17:24 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 
14/04/22 22:17:25 INFO client.RMProxy: Connecting to ResourceManager at /192.168.33.10:8032 
14/04/22 22:17:25 INFO input.FileInputFormat: Total input paths to process : 1 
14/04/22 22:17:25 INFO mapreduce.JobSubmitter: number of splits:1 
14/04/22 22:17:25 INFO Configuration.deprecation: user.name is deprecated. Instead, use mapreduce.job.user.name 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.jar is deprecated. Instead, use mapreduce.job.jar 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.output.value.class is deprecated. Instead, use mapreduce.job.output.value.class 
14/04/22 22:17:25 INFO Configuration.deprecation: mapreduce.combine.class is deprecated. Instead, use mapreduce.job.combine.class 
14/04/22 22:17:25 INFO Configuration.deprecation: mapreduce.map.class is deprecated. Instead, use mapreduce.job.map.class 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.job.name is deprecated. Instead, use mapreduce.job.name 
14/04/22 22:17:25 INFO Configuration.deprecation: mapreduce.reduce.class is deprecated. Instead, use mapreduce.job.reduce.class 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.input.dir is deprecated. Instead, use mapreduce.input.fileinputformat.inputdir 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.output.dir is deprecated. Instead, use mapreduce.output.fileoutputformat.outputdir 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.map.tasks is deprecated. Instead, use mapreduce.job.maps 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.output.key.class is deprecated. Instead, use mapreduce.job.output.key.class 
14/04/22 22:17:25 INFO Configuration.deprecation: mapred.working.dir is deprecated. Instead, use mapreduce.job.working.dir 
14/04/22 22:17:26 INFO mapreduce.JobSubmitter: Submitting tokens for job: job_1398204897594_0002 
14/04/22 22:17:26 INFO impl.YarnClientImpl: Submitted application application_1398204897594_0002 to ResourceManager at /192.168.33.10:8032 
14/04/22 22:17:26 INFO mapreduce.Job: The url to track the job: http://vagrant-ubuntu-saucy-64:8088/proxy/application_1398204897594_0002/ 
14/04/22 22:17:26 INFO mapreduce.Job: Running job: job_1398204897594_0002 
14/04/22 22:17:36 INFO mapreduce.Job: Job job_1398204897594_0002 running in uber mode : false 
14/04/22 22:17:36 INFO mapreduce.Job: map 0% reduce 0% 

Любые идеи?

+0

похоже на http://stackoverflow.com/questions/18525354/map-reduce-job-getting-stuck-at-map-0-reduce-0 , но рекомендуемые ответы для 'hadoop 1x' не для' hadoop 2.2.0' – nanounanue

ответ

5

Проблема была в файле yarn-site.xml. property должно быть больше, чем 3072 Mb, и я настроена на 1024 Mb, поэтому правильный путь

<property> 
    <name>yarn.nodemanager.resource.memory-mb</name> 
    <value>4096</value> 
    <description>Physical memory, in MB, to be made available to running containers</description> 
</property> 
+0

Я увеличил память, как вы сказали. Но он все же замерзает для меня? –

+0

Не могли бы вы разместить журналы пользователя для этого контейнера? – karthik

0

Я думаю, что журнал не достаточно подробна, вы можете сначала открыть режим отладки:

export HADOOP_ROOT_LOGGER=DEBUG,console 

затем выполните задание на чтение текста, чтобы узнать больше в базе данных.

Смежные вопросы