結論
VPS や クラウド で用いる場合にどのポートを開ければいいか
結論
クライアントがデータベースに接続するために開けるポート
5003
補足
上記だけで良いと思いますが、外から Admin Console に直接つなぐ場合は 16000 を開けるとよいです。が、外からつなぐという時点で HTTPS にするべきですし、その場合は 443 で受けて、リバースプロキシを用いて内部で振り分けるべきだと思います。
さらに補足
5003 への疎通を監視して FileMaker Server が起動しているかいないかの死活監視ができます。「サーバが起動していない場合に通知をさせる」、などの用途に有用かと思います。
ただ、サーバがフリーズしている場合を監視するのは不可能なようです。フリーズをしていても疎通は問題なくできるからです。この点、同じようなことをしたい人の例がいくつか検索でヒットしますが、解決策は見つかっていないようでした。
ゴリゴリと独自に実装すればフリーズの監視もできるかと思いますが、その監視が必要な時点で別の本質的な問題が発生していると思いますので、自作することにあまりメリットはないかと思います。