Действительно ли Ваш регистратор является хостом DNS? Необходимо также удостовериться, что это создало A-запись для субдомена для указания на сервер Win2008R2. Попытайтесь проверить с помощью ping-запросов свой субдомен и видеть, где он решает. Если IP-адрес решает к чему-то еще, чем Ваш сервер Win2008, то это - неверная конфигурация DNS. Если IP-адрес является Вашим сервером Win2008, то это - проблема конфигурации на IIS.