Слишком мало RAM выделено VPS.
Используйте tcpdump для отображения файла pcap, а затем используйте сценарий для фильтрации / вычисления вывода. Посмотрите эту ссылку о tcpdump и pcap.