Как увеличить количество обрабатываемых HTTP-запросов?

Question

У меня есть приложение ASP.NET Web API (бэкенд для мобильных устройств), опубликованное на Azure. Большинство запросов являются легкими и обрабатываются быстро. Но каждый клиент делает много запросов и делает это быстро при каждом взаимодействии с мобильным приложением.

Проблема заключается в том, что веб-приложение не может обрабатывать даже небольшие (10/с) количество запросов. Рост очереди Http, но CPU нет.

Я провел тестирование нагрузки с 250 запросами в секунду и увеличением времени отклика avg от ~ 200 мс до 5 с.

Возможно, проблема в моем коде? Или это аппаратные ограничения? Могу ли я увеличить количество обработанных запросов за один раз?

Answer 1

Сначала это действительно важно, что случаи вы используете (особенно, если вы используете маленькие и дополнительные небольшие экземпляры), сколько экземпляров вы используете - не ожидайте слишком от 1 ядра и 2 Гб оперативной памяти на сервере.

Используйте кеширование (WebApi.OutputCache.V2 для уменьшения усилий по обработке серверов, кэш-память Azure Redis как кэш-память быстрого доступа), база данных также может быть узким местом.

Если у вас будут одинаковые результаты после добавления большего количества экземпляров на сервер и кеширования - тогда вы должны взглянуть на свой код и найти там узкие места.

И это только общие рекомендации, нет кода в вопросе.