Все, что необходимо знать об Увеличении масштаба (Серверы "большой железяки") или Масштабирование горизонтально (Много небольших серверов) может быть считано на сообщении Jeff Atwood здесь: http://www.codinghorror.com/blog/archives/001279.html. Перейдите по ссылкам в его сообщении "Моему Масштабирующемуся Герою", который также дает Вам хорошую историю.
В тех сообщениях нет никаких ответов, но это даст Вам ясное направление о том, как достигнуть Ваших собственных ответов, потому что общие ответы будут отличаться.
И если Вы понятия не имеете, кто Jeff Atwood, он - один из отцов-основателей Переполнения стека / сайты Отказа/Суперпользователя Сервера и всемирно известный блоггер в поле программирования/IT, и пока Вы никогда не должны брать личные мнения о межтрубах как евангелие, твердые числа в том сообщении действительно наводят на некоторое размышление.
Прочитайте эти две статьи и сообщите мне, есть ли у Вас больше вопросов:
Я также рекомендую MOSS 2007 Компаньон Администратора Bill English - он содержит главы по конфигурированию сетевой нагрузки балансирующаяся и реализующая отказоустойчивость.