telnetを使用すればポートを指定して接続確認することができます。
コマンドは次のように指定します。
>telnet 接続先ホスト名 ポート番号
接続に失敗した場合は次のようにメッセージが出力されます。
>telnet xxxxxx.xxxxxx.com 5439 接続中: xxxxxx.xxxxxx.com...ホストへ接続できませんでした。 ポート番号 5439: 接続に失敗しました
成功した場合はtelnetのコマンド画面となります。
なお、telnetはwindowsだけでなくlinuxでも使用することができます。
Redhat系のOSであればyumでインストール可能です。