VMware виртуальная машина ESX, Windows 2008 Server R2, полная память, но общее количество процесса нигде рядом?
Вы описываете передачу журналов, но Вы хотите использовать 'дифференциальные' резервные копии вместо резервных копий журнала, который является проблемой с Вашим подходом. С передачей журналов Вы восстанавливаете базу данных однажды, затем применяете резервные копии журнала, поскольку они создаются на основном сайте, и Вы никогда не должны восстанавливать восстановление первоначального полного резервного копирования. Просто продолжайте применять журнал, поставленный за каждые несколько часов, и Вы будете иметь свою копию только для чтения в наличии.
Производительность хоста ухудшится немедленно каждый раз, когда "перегрузка" происходит - непрерывная загрузка и из страниц памяти при трудных условиях памяти.
У Вас могла бы быть утечка памяти где-нибудь. Если диспетчер задач не показывает чрезмерное использование памяти для единственного процесса (BTW, на какое значение Вы смотрели? Диспетчер задач обычно показывает частные байты, хотя необходимо искать "рабочий набор" для текущего использования физической памяти), модуль/драйвер ядра мог бы быть другим возможным кандидатом. Смотрите на статистику памяти Проводника Процесса, особенно использование памяти ядра - они будут более подробными и могли бы получить Вас шаг вперед к разрешению.
Посмотрите на количество обращений к странице, как на лучший индикатор чрезмерного использования памяти. Если вы (слишком) часто обращаетесь к странице, снижение производительности, скорее всего, связано с нераспределением памяти. В противном случае я бы поискал в другом месте.
Если вы не включили драйвер балуна (и тогда вы не увидите его использования), проблема не в этом.