Новый экземпляр был бы хорошим уровнем изоляции. TFS устанавливает несколько баз данных, в дополнение к sharepoint и созданию отчетов о сервисных базах данных. Я просто не был бы доволен всеми теми базами данных, создающими помехи моему основному экземпляру, но это будет работать также.
Ваш экземпляр имеет требуемые порты, открытые на (виртуальном) уровне брандмауэра периметра, но что относительно программного брандмауэра это встроено в Windows? Попытайтесь войти в Панель управления и временно отключить Windows Firewall для тестирования. В той точке действительно ли Ваши сервисы доступны от удаленного клиента?