node http-proxy less connections proxy

Question

Я хотел бы использовать http-proxy-узел для создания прокси-сервера с наименьшими соединениями. Другими словами, он выбирает бэкэнд, который в настоящее время имеет наименьшие соединения. Прокси имеет событие «end», но оно не передает вам никакой информации, поэтому я не уверен, как я могу увеличивать/уменьшать счетчик для каждого из моих бэкендов с текущим числом одновременных запросов.

Answer 1

Я думаю, вы можете подождать, пока ответ будет отправлен клиенту.

Например:

var backends = [ 
    { host : 'backend1', port: 80, active : 0 }, 
    { host : 'backend2', port: 80, active : 0 }, 
    { host : 'backend3', port: 80, active : 0 }, 
    { host : 'backend4', port: 80, active : 0 }, 
]; 

httpProxy.createServer(function (req, res, proxy) { 
    var buffer = httpProxy.buffer(req); 

    // Pick the backend with the least active requests (naive implementation). 
    var backend = backends.sort(function(a, b) { 
    return a.active - b.active; 
    })[0]; 

    // Add a new active request. 
    backend.active++; 

    // Proxy the request. 
    proxy.proxyRequest(req, res, { 
    host : backend.host, 
    port : backend.port, 
    buffer : buffer 
    }); 

    // When the response is finished, decrease the count. 
    res.on('finish', function() { 
    backend.active--; 
    }); 
}).listen(8000);