Доступ к сайту с помощью комбинации IP/имени хоста
Сам сервер DNS не связывается к Вашему веб-серверу вообще, для этого невозможно "сказать их серверам DNS, что этот IP является неправильным".
Кроме того, Перенаправление HTTP к новому IP-адресу не будет, вероятно, работать как ожидалось (названный VHosts, и т.д.?). Имейте свой пониженный TTL записей DNS? В противном случае сделайте это теперь...
Ваша установка действительно подражает установке производственного веб-сервера, размещающего несколько доменов, таким образом, это корректно, если это - Ваша цель.
Что касается доступа к тем (виртуальным) доменам, обычно который был бы через отдельные записи DNS (или непосредственно через Записи или косвенно через Записи CNAME) для каждого домена. Веб-сервер использовал бы URL от веб-браузера для определения, к какому домену/сайту получают доступ, и затем регулируйте веб-обмен соответственно.
В Вашем случае, для тестирования, можно вручную "фальсифицировать" аспекты DNS через локальный Файл hosts клиентской машины, выполняющей веб-браузер с несколькими комбинациями хоста, вернувшимися к веб-серверу. Это позволит URL, ввел в веб-браузер для разрешения правильно назад к веб-серверу, где URL может затем быть считан сервером для регулирования веб-обмена на корректный сайт - http://mytestdomain1.com по сравнению с http://mytestdomain2.net, и т.д., и т.д...
1) Да
2) Можно получить доступ к только одному из веб-сайтов через http://ServerIP/ или http://ServerIP:80/, который является тем же (чтобы быть точным, один сайт на ip:port комбинация). Для доступа к нему этот путь выбирают сайт и создают новую привязку, но оставляют пробел поля "Host Name". Это даст IIS команду рассматривать этот сайт как "выгоду все" (будет использоваться в качестве последнего в очереди, когда IIS не может соответствовать доменному имени).
Для доступа к локальным сайтам через доменные имена можно "фальсифицировать" их при помощи hosts файл, например (C:\Windows\System32\drivers\etc\hosts).