Какая «оптимизация» происходит, когда вы используете одну машину для создания нагрузки / стресса?

Заголовок этого вопроса представляет мою основную озабоченность, но если вы будете читать дальше раздела вопроса , вы найдете некоторую предысторию нашей установки .. которая может быть или не быть релевантно / полезно.

Вопрос

Мы проводим стресс-тестирование нашего приложения с использованием Gatling и запускаем сценарий Gatling на единственной машине. Мы' повторно обнаружив, что наше приложение способно справиться с высокой нагрузкой, создаваемой инструментом для снятия напряжения; однако он не справляется с относительно небольшой нагрузкой от реальных пользователей.

Мой вопрос: какой вид оптимизации или оптимизации на уровне ОС / сети происходит, когда параллельные запросы выполняются с одной машины / ОС в приложение, по сравнению с одновременными запросами с нескольких машин (т. Е. Обычных пользователей, использующих свои веб-браузеры)?

Общие сведения

У нас есть приложение Tomcat, которое находится за Apache через AJP, которое само находится за Citrix Netscaler через порт 80 (мы также планируем исключить Apache из уравнения, но это другое дело ...).

Наше приложение зависало при относительно низкой нагрузке (соединение CLOSE_WAIT между apache и tomcat), и мы re находится в процессе нагрузочного тестирования, чтобы решить проблему. Взаимоблокировки, возникающие в нашем экземпляре SQLServer, возникали довольно часто, поэтому мы решили начать с них. Чтобы воспроизвести проблему и впоследствии протестировать наши исправления, мы используем одну машину для генерации нагрузки с помощью Gatling.

Когда мы только начинали, мы могли надежно воспроизводить тупиковые ситуации с помощью этого инструмента. После некоторой оптимизации тупиковые ситуации исчезли, как и соединения CLOSE_WAIT. Затем мы запустили приложение в нагрузку, которой мы были очень довольны, и оно работало без каких-либо серьезных сбоев.

К сожалению, когда исправления были применены к производственной системе, мы все еще наблюдали такое же исходное поведение. Это заставляет меня задуматься, не является ли нагрузка, создаваемая инструментом стресса, хорошим представлением того, что? на самом деле происходит в реальном мире из-за того, что он исходит из одного источника, а не из множества различных клиентов, разбросанных по Интернету .