0

У меня есть проблемы запуска на карту-свертке Java приложении я упростил мою проблему с помощью кода учебника дал от AWS, который работает предопределенный шаг:AWS ОЙ ошибка проверки

public class Main { 

public static void main(String[] args) { 

    AWSCredentials credentials = getCredentials(); 
    AmazonElasticMapReduceClient emr = new AmazonElasticMapReduceClient(
      credentials); 

    StepFactory stepFactory = new StepFactory(); 

    StepConfig enabledebugging = new StepConfig() 
      .withName("Enable debugging") 
      .withActionOnFailure("TERMINATE_JOB_FLOW") 
      .withHadoopJarStep(stepFactory.newEnableDebuggingStep()); 

    StepConfig installHive = new StepConfig().withName("Install Hive") 
      .withActionOnFailure("TERMINATE_JOB_FLOW") 
      .withHadoopJarStep(stepFactory.newInstallHiveStep()); 

    RunJobFlowRequest request = new RunJobFlowRequest() 
      .withName("Hive Interactive") 
      .withAmiVersion("3.3.1") 
      .withSteps(enabledebugging, installHive) 
      .withLogUri("s3://tweets-hadoop/") 
      .withServiceRole("service_role") 
      .withJobFlowRole("jobflow_role") 
      .withInstances(
        new JobFlowInstancesConfig().withEc2KeyName("hadoop") 
          .withInstanceCount(5) 
          .withKeepJobFlowAliveWhenNoSteps(true) 
          .withMasterInstanceType("m3.xlarge") 
          .withSlaveInstanceType("m1.large")); 

    RunJobFlowResult result = emr.runJobFlow(request); 
    System.out.println(result); 
} 

    private static AWSCredentials getCredentials() { 
     AWSCredentials credentials = null; 
     credentials = new BasicAWSCredentials("<KEY>","<VALUE>"); 
     return credentials; 
    } 

}

где, являются секретным активным ключом, а «hadoop» - это ключевая пара, созданная в консоли EC2.

После запуска я вижу работу, пытаясь запустить в консоли ЭМИ, через 1 минуту она меняется от «начиная с» к «Прекращено с ошибками Проверка ошибок»

никакой другой информации

Любые идеи, что пошло не так?

Спасибо!

+0

Дополнительные сведения см. В папке журнала EMR на S3, которую вы настроили. В качестве первого шага выполните следующие шаги, описанные в учебнике http://docs.aws.amazon.com/ElasticMapReduce/latest/DeveloperGuide/gsg-launch-cluster.html. – user1452132

ответ

0

Вы можете проверить детали ошибки на странице подробных сведений о кластере EMR (вверху). Поскольку это ошибка проверки, она еще не появилась в журналах, поэтому единственный способ - проверить детали исключения/cli response/aws console ...

Мое предположение заключается в том, что типы экземпляров, которые вы использовали, не поддерживаются в EMR (они поддерживаются в EC2, но не в EMR). Тем не менее, вы получите точную проблему, как только будете следовать данному шагу.

+0

Эти типы экземпляров (m3.xlarge, m1.large) поддерживаются в кластерах AWS EMR. - m1.medium \t 410 3.8 SSD - m1.large 7,5 \t 850 SSD - m1.xlarge \t 15 1690 SSD - m2.xlarge 17,1 \t 420 SSD - m2.2xlarge \t 850 34,2 SSD - m2.4xlarge \t 68,4 1690 SSD - m3.xlarge 15SSD - m3.2xlarge \t 160 SSD - m4.large \t 8 EBS только и т.д. – williambq

Смежные вопросы