Для этого вида вещи Вы хотите IDS (Система обнаружения проникновения). Вероятно, самым популярным, которое работает на Linux, является Фырканье.
Если Вы просто хотите что-то только для одного сервера, Вы могли бы попробовать что-то как psad, который основан на iptables. Это может автозаблокировать любого выполняющего сканирование портов.
К сожалению, нет. Вы испытываете необходимость для восстановления от резервного копирования.