Вы не упоминали стоимость, но на аппаратном уровне существует много опций. Barracuda и Sonicwall делают устройства более высокого качества, но можно хотеть посмотреть на продукты Топки Цепочки для часов. Они запускают на уровне приблизительно 600$ и могут обеспечить широкий спектр функций как те, Вы ищете. Просто добавьте веб-Блокировщик к единице X10e.
Вы, вероятно, сталкиваетесь с уничтожителем из памяти.
Увеличьте сумму RAM в сервере, или если не возможный, увеличьте подкачку.
Я немного удивлен, что можно заставить CentOS 5.3 делать что-либо полезное с такой небольшой памятью.
Уменьшите Ваш FCGI_CHILDREN
обнулять. Это рекомендуется для более новых lighttpd версий. Набор больше max-procs
вместо этого. Попытайтесь настроить количество макс.-procs. Если Ваш сайт не будет коваться все время, то просто имение 2 будет более чем достаточно.