решение слишком большой проблемы трафика

Если это уже находится на сбалансированной ферме загрузки, и Вы получаете слишком много загрузки, и Вы уже оптимизировали столько, сколько Вы можете, естественный следующий шаг, казаться, разворачивать свою ферму для удовлетворения требованию.

Если Вы поражаете максимальную способность подсистемы балансировки нагрузки, и у Вас есть неактивные серверы, можно попытаться сбалансировать более равномерно использование своего рода обратной связи со стабилизаторами как mod_cluster. При тихом ударе пределов можно попробовать Циклический алгоритм DNS как альтернатива распространению нескольких URL. Таким образом, можно разгрузить выравнивание нагрузки клиенту. Можно добавить обратную связь к этому решению с lbnamed. Большая подсистема балансировки нагрузки является другим подходом, который, конечно, требует большего количества $.

Ваш API может использовать в своих интересах кэширование?

Если определенные части API становятся названными часто и возвращают те же результаты, что-то как memcached могло бы значительно помочь Вам.

Я не вижу преимущества для наличия определенных URL для различных клиентов. Мне кажется, что любой, Вам нужны больше серверов и/или Ваше выравнивание нагрузки, не работает правильно.

Подсистема балансировки нагрузки уровня 7 позволила бы Вам выделять те клиенты, которые считают 'высокой стоимостью' к кластеру/машине, который настраивается для обработки их определенных запросов. Я предполагаю, что это - 'занятой' клиент, который делает долю львов запросов и разделяет их к их собственному серверу, то, почему Вы считали предоставление им отдельным URL. С подсистемой балансировки нагрузки уровня 7, linuxvirtualserver.org, Вы могли отфильтровать конкретные URL и иметь довольно легкое для обслуживания системы.

В то время как Вы в конечном счете хотите решить проблему, правильный путь, с помощью чего-то вроде этого мог бы купить Вас достаточно времени.

Я посмотрел бы на тех клиентов более тяжелого использования прямо сейчас. Можно ли заряжать их больше? Является их использование больше, чем это должно быть? Можно ли помочь им оптимизировать свои системы так, чтобы они не должны были делать такое тяжелое использование? Можно ли добавить ограничение уровня к API? Их использования достаточно, чтобы смочь предоставить им их собственный сервер и заряжать их соответственно?

Следующий шаг должен посмотреть на Вашу архитектуру. У Вас есть кэширующиеся прокси перед Вашими веб-серверами? У Вас есть отдельные серверы баз данных? Все Ваши серверы оптимизированы, а также Ваш код? Вы кэшируете абсолютно все, что Вы возможно можете? У Вас есть хорошие аппаратные средства?

После того как Вы уверены, что Ваша архитектура максимально оптимизирована, действительно просто необходимо добавлять дополнительные поля к установке выравнивания нагрузки каждый раз, когда Вы начинаете поражать пределы (является ли это дополнительными кэшами, дополнительные веб-серверы или дополнительные серверы бэкэнда будут зависеть, на каких пределах Вы совершаете нападки).

Вы попытались выполнить http://developer.yahoo.com/yslow/ и http://code.google.com/speed/page-speed/, который является плагинами к Firebug, пытаясь проанализировать количество запросов, сгенерированных, когда страница загружается?