Для соединения с именованным экземпляром через домены, я должен был всегда создавать псевдоним для экземпляра и сделал, чтобы удаленные клиенты соединили использование псевдонима. Необходимо удостовериться, что Сервис Браузера SQL работает на сервере, размещающем SQL Server для этого для работы.
Если Вы соединяетесь с экземпляром по умолчанию, он должен хорошо работать для соединения IP вместо имени хоста.
Править:
Для Вашего брандмауэра необходимо будет позволить входящий трафик через на порте TCP 1433 по умолчанию для SQL. Если SQL послушает на другом порте, чем 1433 затем, то необходимо будет позволить трафик в том порте вместо этого.
Попытайтесь использовать ODBC для установки DSN для тестирования различных типов соединения. Это иногда дает больше диагностической информации, и легко переключиться между типами соединения (TCP/IP, Каналы, и т.д.)