Есть ли способ отключить вывод по умолчанию, указанный в Spark streaming
. Ниже приведен вывод по умолчанию, который печатается при запуске приложения с искровым потоком. Я хотел бы видеть только, добавленные мной журнальные сообщения (в драйвере) печатаетсяОстановка выхода по умолчанию в Spark Streaming
spark-submit --class a11_TCP_IP.a11_Basic.a11_HelloTcp target/scala-2.10/sparkstreamingexamples_2.10-1.0.jar
16/04/27 13:20:15 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
16/04/27 13:20:15 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data
16/04/27 13:20:17 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
16/04/27 13:20:17 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data
-------------------------------------------
Time: 1461777618000 ms
-------------------------------------------
16/04/27 13:20:19 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
16/04/27 13:20:19 ERROR ReceiverTracker: Deregistered receiver for stream 0: Restarting receiver with delay 2000ms: Socket data stream had no more data
-------------------------------------------
Time: 1461777621000 ms
-------------------------------------------
16/04/27 13:20:21 WARN ReceiverSupervisorImpl: Restarting receiver with delay 2000 ms: Socket data stream had no more data
спасибо. Это действительно заботится о ERROR & WARN. Но я все еще получаю этот вывод '------------------------------------------ - Время: 1462045608000 мс ------------------------------------------- ' – Raj
ok. Я наконец определил. Операция вывода для 'DStream'; 'Dstream.print()' по умолчанию дает этот вывод (т.е. '---- Time: ....'). Я использовал другую операцию вывода 'DStream.foreachRDD (..)', которая помогла избавиться от проблемы – Raj