margin、paddingなどの単位について

最適議論は対象デバイス、デザイン、アクセシビリティなどの要件によるとしか言いようが無いと思います。

割合指定(%、vw、vh、rem)も固定指定(px)もデバイスによって大きさが可変します
解像度が高いと固定指定は小さくなり、割合指定は大きくなります。
割合は細かい調整が難しいので最小単位で調整できる固定指定を使わざるを得ないこともある。

これは僕の個人的な好みかもしれないですが、余白の設定はpxかremが良いと考えています。
多くのケースで余白は「何かの倍数」にすると美しく見えます。例えば「狭い余白は8px」「それ以外は16px」「広めの余白は24px」のような感じです。remで指定するなら0.5rem、1rem、1.5remとなりますかね。
逆に余白の指定に%等を使った場合、時として見た目が汚くなります。例えば260px✕340pxの要素で「margin:5%;」と指定したとすると、「上との余白は13pxで、横との余白が17px」となり、ユーザーに「なんかバラバラ……」という印象を与えます。ですので、%などは使いにくいと僕は感じています。
参考になれば幸いです。