Как я подключаю к Ядру Сервера 2008 года R2, который не находится в том же домене от mmc/server менеджера

Можно использовать директиву перенаправления по http virtualhost для перенаправления на https сайт, где аутентификация сделана. Вы могли также использовать mod_rewrite, чтобы сделать перенаправление. Основные вещи не состоят в том, чтобы только установить аутентификацию на http virtualhost и перенаправить все на https virtualhost, где аутентификация сделана.