bash系のプロセス置換（process substitution）がサポートされているシェルで可能。
公開鍵認証で認証エージェントに鍵を追加してある等、sshでパスワードやパスフレーズを入力せずに接続できる必要がある。
diff <(ssh host1 cat file1) <(ssh host2 cat file2)
sshでコマンド実行した結果をdiffする例。
diff <(ssh host1 "rpm -qa"|sort) <(ssh host2 "rpm -qa"|sort)
ローカルでも、コマンド実行した結果をdiffする例。
diff <(sort file1) <(sort file2)
昔書いたブログ記事からでした。
しげふみメモ : リモートホストのファイル等でdiffする方法