AWS ELB (Elastic Load Balancer) иногда возвращает 504 (тайм-аут шлюза) сразу

Question

В настоящее время я перехожу приложение на amazon, но я замечаю, что иногда ответ, который я получаю, равен 504. Наша система настроена таким образом где у нас есть LB перед нашим ELB, а затем он идет прямо к tomcat.

В настоящее время мы отслеживаем все наши запросы в нашем сервисе и в фильтрах сервлетов, регистрируя время отклика, и они всегда меньше 1 с. Затем мы смотрим на журналы LB и видим 504, и кажется, что как-то ELB выбрасывает время и возвращает 504.

Кто-нибудь знает, почему это может случиться?

РЕДАКТИРОВАТЬ: Не уверен, имеет значение, но в настоящее время у нас только 1 экземпляр, и он может масштабироваться до 3 экземпляров.

Answer 1

ELB AMAZON, как известно, не способен обрабатывать очень резкие всплески запросов, потому что под ними просто группа автомасштабирования экземпляров, на которых запущено какое-то прокси-решение (предположим, HAProxy). Таким образом, он масштабируется по мере увеличения нагрузки, как это делает пользовательская группа автомасштабирования, а затем, когда вы получаете всплески, вы, вероятно, пропустите некоторые запросы, пока запускаете дополнительные экземпляры. Когда вы ожидаете такой рабочей нагрузки для определенного события, вы можете запросить поддержку ELB для поддержки, но вы не можете использовать ее как постоянную конфигурацию. Они попросят вас точно запланировать его и вернуться к нормальному поведению после его окончания.

Таким образом, для некоторых приложений и прецедентов ELB Amazon не является лучшим решением. Я не знаю, это ли ваше дело, но в любом случае это вопрос.