Deconfigure сервер VNC и вместо этого загружаются vnc модуль в конфигурации Xorg.
vnc
Используйте wirehark на сервере.
Затем вы можете захватить весь трафик и проанализировать его послесловия.