レイテンシーのp50とかp75とかp90とかってどういう意味？

経緯

自分が作ったAPIが遅い場合に先輩エンジニアから 「〇〇さんが作ったこのAPI、p90レイテンシーで上位に入ってるから見てみて」 とか言われたがいや、「p90」ってなにぃぃ！！ となったので調べてみることにした。

DataDog等の性能測定ツールを見てみると「p50」とか「p99」とか書いてあるはず。

結論

総アクセス数のxx%:レイテンシー(ms)

つまりp90レイテンシーが300msの場合は
総アクセス数の90%は300ms以下のレイテンシーという意味になる。

参考