Как ускорить обработку нескольких HTTP-запросов

Question

Я работаю над сервером Java, которому необходимо отправить несколько запросов HTTP get на другой сервер и обработать ответы и завершить их. В настоящее время я использую synchronous способ сделать это, как и в Java:

for(Request request: requestList){ 
    Response response = client.send(request); 
} 

Это работает, но это занимает много времени, если размер по requestList «s большой, так как он делает это последовательно: отправить запрос, подождите для ответа, а затем отправить дальше.

Мне интересно, есть ли способ ускорить это? Я думаю, если использование нескольких потоков для отправки нескольких запросов будет делать трюк? Или, может быть, нет, поскольку общее время отклика фиксируется для определенного количества запросов.

Любая идея или объяснение, почему или почему это не будет работать, будет полезно. Я использую Java.

Answer 1

Если вы используете Java 8, вы можете попробовать lambdas для параллельного потока.

requestList.parallelStream().forEach(....); 

Но это нехорошо использовать их, когда запросы зависят друг от друга. Также, если ваше приложение используется несколькими пользователями, я не знаю, как ваш сервер будет обрабатывать многие запросы.

Другие решения - использовать потоки. Но вы должны ограничить количество потоков (пул потоков) для каждого цикла (пользователя). Конечно, это зависит от того, сколько у вас ресурсов.