Почему опции режима аутентификации сервера, отображаются серым в SQL-сервере 2005

Это связано с тем, что ваш пользователь windows может не иметь права изменять режим аутентификации. Ваш локальный пользователь не входит в группу windows "Administrators" и не имеет для этого необходимых прав.

Подробнее об этом можно прочитать здесь и здесь.