Сплит-бросок HTTP 401 не авторизованная ошибка при вызове из Java SDK в NiFi

Question

У меня есть несколько процессоров GetSplunk, работающих с использованием стратегии планирования, основанной на Cron. Выражение Cron выглядит как '0 30 13 * *?'. Все они успешно выполняют запрос при первом запуске. Но на следующий день он ошибается с ошибкой 401 от Splunk. Ошибка из nifi-app.log приведена ниже. Планировщик Cron в NiFi - это QuartzScheduler.

WARN [Timer-Driven Process Thread-7] o.a.n.c.t.ContinuallyRunProcessorTask Administratively 
Yielding GetSplunk[id=01581009-026c-114b-5e2e-401ebea6427d] due to uncaught Exception: 
com.splunk.HttpException: HTTP 401 -- call not properly authenticated 
2016-12-21 13:30:00,300 WARN [Timer-Driven Process Thread-2] o.a.n.c.t.ContinuallyRunProcessorTask 
com.splunk.HttpException: HTTP 401 -- call not properly authenticated 
at com.splunk.HttpException.create(HttpException.java:84) ~[na:na] 
at com.splunk.HttpService.send(HttpService.java:452) ~[na:na] 
at com.splunk.Service.send(Service.java:1293) ~[na:na] 
at com.splunk.HttpService.get(HttpService.java:165) ~[na:na] 
at com.splunk.Service.export(Service.java:222) ~[na:na] 
at com.splunk.Service.export(Service.java:237) ~[na:na] 
at org.apache.nifi.processors.splunk.GetSplunk.onTrigger(GetSplunk.java:461) ~[na:na] 
at org.apache.nifi.processor.AbstractProcessor.onTrigger(AbstractProcessor.java:27) ~[nifi-api-1.1.0-SNAPSHOT.jar:1.1.0-SNAPSHOT] 
at org.apache.nifi.controller.StandardProcessorNode.onTrigger(StandardProcessorNode.java:1064) ~[nifi-framework-core-1.1.0-SNAPSHOT.jar:1.1.0-SNAPSHOT] 
at org.apache.nifi.controller.tasks.ContinuallyRunProcessorTask.call(ContinuallyRunProcessorTask.java:136) [nifi-framework-core-1.1.0-SNAPSHOT.jar:1.1.0-SNAPSHOT] 
at org.apache.nifi.controller.tasks.ContinuallyRunProcessorTask.call(ContinuallyRunProcessorTask.java:47) [nifi-framework-core-1.1.0-SNAPSHOT.jar:1.1.0-SNAPSHOT] 
at org.apache.nifi.controller.scheduling.QuartzSchedulingAgent$2.run(QuartzSchedulingAgent.java:165) [nifi-framework-core-1.1.0-SNAPSHOT.jar:1.1.0-SNAPSHOT] 
at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511) [na:1.8.0_101] 
at java.util.concurrent.FutureTask.run(FutureTask.java:266) [na:1.8.0_101] 
at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.access$201(ScheduledThreadPoolExecutor.java:180) [na:1.8.0_101] 
at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.run(ScheduledThreadPoolExecutor.java:293) [na:1.8.0_101] 
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142) [na:1.8.0_101] 
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617) [na:1.8.0_101] 
at java.lang.Thread.run(Thread.java:745) [na:1.8.0_101]` 

Процессор GetSplunk использует Java SDK для Splunk. Самое раннее время - «24 часа», и последнее время «сейчас». Я поражаю splunkd портом 8089. После некоторых исследований, похоже, это может быть проблемой из-за нескольких потоков. Кто-нибудь из вас столкнулся с этим? Помогите оценить.

Answer 1

Изучив код в течение нескольких минут, я думаю, что это проблема в процессоре NiFi.

Первый раз процессор выполняет, он лениво инициализирует объект Splunk Service:

https://github.com/apache/nifi/blob/master/nifi-nar-bundles/nifi-splunk-bundle/nifi-splunk-processors/src/main/java/org/apache/nifi/processors/splunk/GetSplunk.java#L372-L377

В рамках этой инициализации, служба Splunk вызывает метод входа в систему, как это:

public Service login(String username, String password) { 
     this.username = username; 
     this.password = password; 

     Args args = new Args(); 
     args.put("username", username); 
     args.put("password", password); 
     args.put("cookie", "1"); 
     ResponseMessage response = post("/services/auth/login", args); 
     String sessionKey = Xml.parse(response.getContent()) 
      .getElementsByTagName("sessionKey") 
      .item(0) 
      .getTextContent(); 
     this.token = "Splunk " + sessionKey; 
     this.version = this.getInfo().getVersion(); 
     if (versionCompare("4.3") >= 0) 
      this.passwordEndPoint = "storage/passwords"; 

     return this; 
    } 

Поскольку это происходит только при первом запуске процессора, это произойдет только после остановки и запуска процессора. В вашем случае ваш процессор работает достаточно долго, что сеанс, вероятно, истек, и процессор продолжает пытаться выполнить.

Я создал этот JIRA для выпуска: https://issues.apache.org/jira/browse/NIFI-3349