はじめに
私はネットワーク関係の仕事をしているのですが、NW機器のテストなんかではまずpingをすることがよくあります。
その癖でといいますか、AzureでVMを構築した際にまずpingしてからRDPしようとしたのです。
でも、pingできないのです。
ということで、理由を調べてみました
Azureの仕様
下記を見る限り、Azure Load Balancerを通るとICMPプロトコル（ping)は許可されないみたいです。
クラウド サービスに ping を実行することはできますか。
いいえ、通常の "ping"/ICMP プロトコルは使用できません。 インターネット制御メッセージ プロトコル (ICMP) は、Azure Load Balancer では許可されていません。
じゃあいつLoad Balancer通るねんって話なんですが・・・
探しても見当たらないので簡単にテストしてみます。
パブリックIPの有無
AzureのVMにパブリックIPを付与した場合：ping可能
AzureのVMにプライベートIPしかない場合：ping不可
前提として下記の確認は必要
・NSGでICMPを許可している
・コンピュータ上でICMPが許可されている（ローカルのFirewall)
その他
Load Balancerを通る場合はpingが通らないと考えるので
例えばAzure Firewallなどを経由してVMへpingさせるのはできないと思われます。
最後に
パブリックIPを付与すればひとまずpingができました。
公式では下記のPsPingを使うことを推奨しているようです。
参考
NetworkWatchrのIPフロー検証などportalから利用できるネットワーク診断ツールみたいなものもあります。