.NET MemoryCache: как это ограничивает ограничение памяти?

Question

. NET MemoryCache - это кеш объектов C#. Некоторые объекты могут иметь сложную структуру, а другие могут иметь небезопасные ссылки. Является ли C# делать магию для реализации PhysicalMemoryLimit или просто вычисляет мелкий размер каждого объекта?

Я подозреваю, что это более поздний случай. Тем не менее, если я помещу один и тот же объект несколько раз в кеш (например, для отслеживания отсутствующих элементов), будет ли размер учитываться один раз или для каждой записи, содержащей этот экземпляр?

Answer 1

.NET MemoryCache похож на класс ASP.NET Cache. Если мы посмотрим на кеш ASP.NET, мы увидим функцию CacheItemRemovedCallback. Это срабатывает, когда элемент удаляется из кэша.

Эта функция дает CacheItemRemovedReason с функцией обратного вызова. Если мы рассмотрим причины, мы увидим, что элемент можно удалить из кеша, потому что система удалила его в свободную память. Таким образом, в то время как PhysicalMemoryLimit дает процент физической памяти, который кеш может использовать в одном проходе, я думаю, что они оставят его системе, чтобы очистить кеш, если он достигнет предела.

Если вы действительно положили элемент кэша в кеш с помощью функции Add, он добавит его в качестве нового экземпляра CacheItem. Поэтому он будет учитываться несколько раз. Если вы используете функцию AddOrGetExisting, она проверяет, все ли элементы в кеше. Если это так, он будет использовать этот экземпляр, а не новый экземпляр. Таким образом, он будет учитываться один раз.

Надеюсь, это поможет вам в правильном направлении.

Answer 2

Вот источник. Ответ на ваш второй вопрос очевиден, если вы посмотрите на реализацию метода Add: referencesource.microsoft.com, вызывающий AddOrGetExisting.

Я не знаю о размере, но, я думаю, вы правы в своем предположении, что нет никакой магии. Также, если вам интересно, вы можете подробно изучить источники.

Answer 3

Вы не можете легко установить PhysicalMemoryLimit или членов CacheMemoryLimit класса MemoryCache, поскольку они не имеют сеттеры реализованы (по крайней мере в версии .Net 4.0).

Я согласен с другими ответами в том, что AddOrGetExisting следует использовать, если вам нужен только один экземпляр объекта, кэшированного. Если нет, вы можете кэшировать альтернативные элементы другим ключом.

Answer 4

Чтение документации, похоже, что кеш не пытается вычислить размер объектов, которые он кэширует. Это имеет смысл, потому что это не то, что может быть сделано из самого процесса для произвольных типов (вы можете сделать это для структур фиксированного размера или массивов структур фиксированного размера, но это о нем); немного поискового запроса подтвердит это вам. Однако он знает, сколько оперативной памяти доступно на компьютере; вы можете получить это от new Microsoft.VisualBasic.Devices.ComputerInfo().AvailablePhysicalMemory. Таким образом, предположительно кеш выполняет две вещи:

1. Он отслеживает, когда последний раз использовался последний объект.
2. Опросы для статистики памяти с некоторым интервалом.

Затем в каждом опросе объем доступной памяти находится в допустимых пределах, или нет. Если он находится в допустимых пределах, он ничего не делает. Если он не запускает удаление элементов, сначала будет удален последний элемент, который был последним.Он продолжает удалять элементы, пока память не вернется в допустимых пределах.

Если вы думаете об этом, это почти все, что вы можете сделать с информацией, доступной в кеше.

Эта стратегия в порядке, но она, очевидно, ломается, если у вас есть другие объекты, содержащие ссылки на элементы в кеше, поскольку удаление элемента из кеша не освободит его для сбора мусора. Это точка обратного вызова, чтобы выполнить очистку, чтобы гарантировать, что больше нет ссылок на объект.