IIS 7 является намного более модульным, чем IIS 6: то, когда Вы устанавливаете его (путем добавления роли "веб-сервера" к серверу), можно выбрать, который показывает веб-сервер, будет и не поддерживать. Основная Аутентификация HTTP является точно одним из них (и IIRC, который это не включено по умолчанию), поэтому в первую очередь, необходимо проверить, установлено ли это на самом деле на сервере, иначе у Вас даже не будет опции включить его в самом IIS. Можно проверить это с экранов Roles and/or Role Services в Диспетчере серверов.
Я полагаю, что Вы хотите отключить интегрированную аутентификацию:
http://codesnip.net/iis7-integrated-windows-authentication-win-2008
Также вот некоторая более подробная информация о том, как Internet Explorer реагирует: