sshとはコンピュータやネットワーク機器を操作するときに必要な通信規格（簡単にいうとルールだね）のこと。
sshはインターネットへの接続時が安全だっていわれてるよ。
Secure Shell の略称
他のコンピュータに遠隔でログインしたり、特定のサーバーへアクセスするためのプロトコル、通信規格のこと
ここからイメージしやすいように例えて説明します。
サーバーを建物だとします。
あなたは建物に入りたいが、手続きが必要です。（この手続きをSSH公開鍵認証という）
手続きは簡単です、認証に必要なものを３つ揃えるだけです。（公開鍵、秘密鍵、電子署名）
まずは誰にも知られてはいけない秘密の書類（秘密鍵）を作ります。
これは家から持ち出すことは必要ないです（ネットワーク上に送信しない）
大切に保管していてください。
この秘密の書類（秘密鍵）をもとに、とある書類（公開鍵）を作ります。
ちなみに、これらの書類（秘密鍵・公開鍵）をキーペアなんて言います。
この、とある書類（公開鍵）は入館したい建物に登録しておきます。
さて、いよいよ入館しましょうか。
入館する時は自分の持っている書類をもとに、署名（電子署名）を作ります。
この署名の内容は毎回ランダムに作成されます。
なので、この署名は万が一、外で落としたり、盗まれても、秘密の書類の中身を推測するこはできないです。
作った署名を入館先（サーバー）へ送ります（ネットワークを使って）。
入館先の担当者は受け取った電子署名の内容と、登録されている書類（公開鍵）で不正なものでないか検証します。
正しいと認証された時、無事に入館することができます！
いかかでしょうか。
手続きのイメージが湧くと、環境構築がスムーズになると思います。