Я предложил бы открыть гнездо TCP для вашего отдаленного сервера SMTP, порт 25.
Если связь открывает и возвращает 220 кодов, это означает, что сервер доступен и достижим.
Это было бы подобно команде TELNET
sst:~ sst$ telnet relay.skynet.be 25
Trying 195.238.5.128...
Connected to relay.skynet.be (195.238.5.128).
Escape character is '^]'.
220 relay.skynet.be ESMTP
quit
221 relay.skynet.be
Connection closed by foreign host.
Doing so with Cocoa requires some coding although. This is documented in Cocoa Stream Developer Guide at http://developer.apple.com/library/mac/#documentation/cocoa/Conceptual/Streams/Streams.html#//apple_ref/doc/uid/10000188-SW1
Or you always have the choice to fall back to good old C code, like explained here :
How to Create a TCP socket connect using C to a predefined port