Внешний Клиент должен использовать наш прокси, который будет фильтрован нашим брандмауэром

Проверьте и идентификационные данные пула приложений и идентификационные данные анонимного пользователя на сайте. Для сайта, если Вы устанавливаете анонимного пользователя для использования идентификационных данных пула приложений, которые делают вещи инструментом для очистки, пока Вы не совместно используете пулы приложений между недоверяемыми сайтами. Протестируйте со своим административным пользователем и удостоверьтесь, что контроль учётных записей не борется с Вами. Обязательно задержите пользовательскому пользователю после тестирования.

Другая возможная проблема может быть с тем, как профиль пользователя загружается из IIS. В расширенных настройках для пула приложений экспериментируйте с "Профилем пользователя Загрузки".

Другая вещь попробовать состоит в том, чтобы запустить приложение через cmd.exe. Например:

var p = new Process();
string command = "notepad.exe";
p.StartInfo.FileName = "cmd.exe";
p.StartInfo.WorkingDirectory = "valid working directory";
p.StartInfo.Arguments = String.Format("/C {0}", command);