Избегание множественных репопуляций одной и той же области кэша (из-за concurrency)

Ответ 1

Самым большим улучшением этой проблемы является то, что ehcache (начиная с версии 2.1) поддерживает политику кэширования transactional. Это значительно смягчает проблемы, описанные в этой проблеме.

Чтобы сделать еще один шаг (блокировать потоки при доступе к одному и тому же регистру кеша запросов), нужно будет реализовать QueryTranslatorFactory для возврата пользовательских (расширенных) QueryTranslatorImpl экземпляров, которые будут проверять запрос и параметры и блокировать по мере необходимости в методе списка. Это, конечно, относится к конкретному варианту использования кеша запросов с использованием hql, который извлекает многие объекты.

Ответ 2

Я не совсем уверен, но:

Позволяет одновременно просматривать доступ к элементы уже находятся в кеше. Если элемент имеет значение null, другие блокировать до тех пор, пока элемент с тем же ключ помещается в кеш.

Не означает ли это, что Hibernate будет ждать, пока какой-либо другой поток помещает объект в кеш? Что вы наблюдаете, правильно?

Hib и кеш работают следующим образом:

• Hib получает запрос для объекта
• Hib проверяет, находится ли объект в кеше - cache.get()
• Нет? Hib загружает объект из базы данных и помещает в кеш - cache.put()

Итак, если объект не находится в кеше (не помещается в него в предыдущую операцию обновления), Hib будет ждать 1) навсегда.

Я думаю, вам нужен вариант кеша, где поток ожидает только объект на короткое время. Например. 100мс. Если объект не прибыл, поток должен получить нуль (и, следовательно, Hibernate будет загружать объект из базы данных и помещать его в кеш).

Собственно, лучшей логикой было бы следующее:

• Убедитесь, что другой поток запрашивает один и тот же объект
• Если true, подождите долго (500 мс), чтобы объект прибыл
• Если не верно, немедленно возвращайте null

(Мы не можем ждать 2 навсегда, так как поток может не помещать объект в кеш - из-за исключения).

Если BlockingCache не поддерживает это поведение, вам нужно самому реализовать кеш. Я сделал это в прошлом, это не сложно - основные методы get() и put() (хотя API, очевидно, вырос с тех пор).

UPDATE

Собственно, я просто прочитал источники BlockingCache. Он делает именно то, что я сказал - заблокировать и ждать таймаута. Таким образом, вам не нужно ничего делать, просто используйте его...

public Element get(final Object key) throws RuntimeException, LockTimeoutException {
    Sync lock = getLockForKey(key);
    Element element;
        acquiredLockForKey(key, lock, LockType.WRITE);
        element = cache.get(key);
        if (element != null) {
            lock.unlock(LockType.WRITE);
        }
    return element;
}

public void put(Element element) {
    if (element == null) {
        return;
    }
    Object key = element.getObjectKey();
    Object value = element.getObjectValue();

    getLockForKey(key).lock(LockType.WRITE);
    try {
        if (value != null) {
            cache.put(element);
        } else {
            cache.remove(key);
        }
    } finally {
        getLockForKey(key).unlock(LockType.WRITE);
    }
}

Так странно, что это не сработает для вас. Скажите мне что-нибудь: в вашем коде это место:

Ehcache cache = manager.getEhcache("foo");

синхронизируется? Если одновременно возникает несколько запросов, будет ли только один экземпляр кеша?