はじめに
AWSのソリューションアーキテクトの勉強をしている中で、「スループット」と「レイテンシー」の意味を毎回忘れてしまうので、記憶定着と備忘のため。
スループット
一言で言うと「時間あたりの処理能力」のこと。
要は一回の処理でどのぐらいのデータを送ったりできるか、という指標で、もちろん高ければ高いほど性能が良いということになる。
ただし、あんまり一度にたくさんのデータを送ったりすると、次に書くレイテンシーが低くなる。
レイテンシー
一言で言うと「ポチってから応答が返るまでの時間」のこと。数え方は「低い（良い）」か「高い（悪い）」。
通信の遅延時間とも言う。
Webオンラインシステムやスマホゲームなどは通信の度に何秒も待たされるとものすごいストレスになるので、そういう場合はスループットよりもレイテンシーが重視される。
まとめ
スループットとレイテンシーはどっちが良い・悪いではなく、（基本的には）トレードオフになるみたいです。
Amazon RDSでレイテンシーを高めたい時はどの構成にするべきか、みたいな問題は割とよく見ますが、毎回何がどれだかを忘れます。
（スループットならリードレプリカ、可用性ならマルチAZ、レイテンシーならSSDだったか。覚えてたらいつかまとめます）