Я хочу установить выделенный сервер с IP-адресом, весь трафик к тому IP должен будет быть передан к доменному имени

Этого нельзя добиться, кроме как с помощью определенных служб (например, HTTP через mod_rewrite HTTPd).

iptables не поддерживает это. Вы можете использовать имена хостов в правилах, но они разрешаются при добавлении правила, а не при его оценке. Единственный вариант сделать это на уровне IP - это добавить задание cron для регулярной очистки и перенастройки iptables для работы с изменяющимся IP.