2012-01-13 3 views
5

Я использую «hadoop-0.20.203.0rc1.tar.gz» для настройки моего кластера. Всякий раз, когда я установил job.setMapOutputKeyClass(ByteBuffer.class);Hadoop Throws ClassCastException для ключевого слова java.nio.ByteBuffer

и запустить работу я получаю следующее исключение:

12/01/13 15:09:00 INFO mapred.JobClient: Task Id : attempt_201201131428_0005_m_000001_2, Status : FAILED 
java.lang.ClassCastException: class java.nio.ByteBuffer 
     at java.lang.Class.asSubclass(Class.java:3018) 
     at org.apache.hadoop.mapred.JobConf.getOutputKeyComparator(JobConf.java:776) 
     at org.apache.hadoop.mapred.MapTask$MapOutputBuffer.<init>(MapTask.java:958) 
     at org.apache.hadoop.mapred.MapTask$NewOutputCollector.<init>(MapTask.java:673) 
     at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:755) 
     at org.apache.hadoop.mapred.MapTask.run(MapTask.java:369) 
     at org.apache.hadoop.mapred.Child$4.run(Child.java:259) 
     at java.security.AccessController.doPrivileged(Native Method) 
     at javax.security.auth.Subject.doAs(Subject.java:396) 
     at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1059) 
     at org.apache.hadoop.mapred.Child.main(Child.java:253) 

Также я заметил, что ByteBuffer является Сопоставимые и не Writable в том, что делать какие-либо разностное? Дайте мне знать, если вам нужна дополнительная информация.

ответ

5

Здесь исключается исключение. Вот code из SVN.

public RawComparator getOutputKeyComparator() { 
    Class<? extends RawComparator> theClass = getClass("mapred.output.key.comparator.class", 
     null, RawComparator.class); 
    if (theClass != null) 
     return ReflectionUtils.newInstance(theClass, this); 
    return WritableComparator.get(getMapOutputKeyClass().asSubclass(WritableComparable.class)); 
} 

Если mapred.output.key.comparator.class свойство не определено на JobConf то ключ должен реализовать интерфейс WritableComparable. Класс ByteBuffer не реализует интерфейс WritableComparable, поэтому исключение.

Интерфейс BTW, WritableComparable - это суб-интерфейс классов Writable и Comparable.

+0

Будет полезно, если вы сможете уточнить, как установить это для ByteBuffer .... – samarth

+0

@samarth Вы можете обернуть массив байтов в org.apache.hadoop.io.BytesWritable вместо этого –

Смежные вопросы