Это зависит от того, как вы его реализовали; но это звучит как плохая идея. Вы не даете много деталей.
Если вы сохраняете 100000 записей в одном кэше, и оно становится недействительным; то следующий запрос должен получить все 100000 записей, прежде чем он сможет продолжить, даже если им нужны только некоторые из них. Если несколько пользователей запросят ресурс одновременно, они будут помещены в очередь до тех пор, пока первый запрос не завершит извлечение записей. Похоже, это может быть вашей проблемой.
Возможно, лучше хранить записи в отдельных кешках или в небольших партиях в зависимости от того, насколько вы знаете о данных и когда это будет необходимо. Тогда один запрос будет нужен только для того, чтобы получить то, что ему действительно нужно, прежде чем он сможет продолжить.
Я не знаю, насколько этот ответ вам поможет, но вы не задаете очень много деталей в вопросе. Не стесняйтесь обновлять свой вопрос, и вы можете получить более качественные ответы.
звучит так, как будто вы ответили на свой вопрос ... –