2016-04-27 3 views
2

Есть ли способ отключить вывод по умолчанию, указанный в Spark streaming. Ниже приведен вывод по умолчанию, который печатается при запуске приложения с искровым потоком. Я хотел бы видеть только, добавленные мной журнальные сообщения (в драйвере) печатаетсяОстановка выхода по умолчанию в Spark Streaming

spark-submit --class a11_TCP_IP.a11_Basic.a11_HelloTcp target/scala-2.10/sparkstreamingexamples_2.10-1.0.jar 

16/04/27 13:20:15 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data 
16/04/27 13:20:15 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data 
16/04/27 13:20:17 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data 
16/04/27 13:20:17 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data 
------------------------------------------- 
Time: 1461777618000 ms 
------------------------------------------- 

16/04/27 13:20:19 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data 
16/04/27 13:20:19 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data 
------------------------------------------- 
Time: 1461777621000 ms 
------------------------------------------- 

16/04/27 13:20:21 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data 

ответ

2

Папка Свеча должна иметь каталог conf/. Внутри этого файла находится файл log4j.properties. Если нет, скопируйте conf/log4j.properties.template в conf/log4j.properties.

Теперь откройте conf/log4j.properties в редакторе и замените строку:

log4j.rootCategory=INFO, console 

С этими двумя:

log4j.rootCategory=INFO, null 
log4j.appender.null=org.apache.log4j.varia.NullAppender 
+0

спасибо. Это действительно заботится о ERROR & WARN. Но я все еще получаю этот вывод '------------------------------------------ - Время: 1462045608000 мс ------------------------------------------- ' – Raj

+0

ok. Я наконец определил. Операция вывода для 'DStream'; 'Dstream.print()' по умолчанию дает этот вывод (т.е. '---- Time: ....'). Я использовал другую операцию вывода 'DStream.foreachRDD (..)', которая помогла избавиться от проблемы – Raj

Смежные вопросы