В зависимости от конфигурации брандмауэра Вы можете использовать ping SYN TCP.
Эффективно Вы или вернете ACK, если он послушает на порте или RST, если это не.
Различные инструменты существуют, которые делают это, особенно NMAP
Добавьте следующее к своему sendmail.mc:
define(`RELAY_MAILER_ARGS', `TCP $h 587')
define(`ESMTP_MAILER_ARGS’, `TCP $h 587′)
Это должно получить Вашу исходящую почту, отправляемую Sendmail на порте 587.
У Вас должен будет также быть sendmail, настроенный, чтобы сделать TLS. Это немного выходит за рамки Вашего вопроса, но можно найти много достойных руководств о том, как сделать это w/Google, если Вы не знакомы.