Лично я попробовал бы VMware Server, Windows работает очень хорошо на нем, это является сформировавшимся и свободным.
Для такого уровня маршрутизации вам потребуется что-то более гибкое и программируемое, например Haraka. Вы можете переслать все на сервер Haraka, и тогда ловушка get_mx может решить, куда направлять почту на основе темы.