表題のような質問をよく受けるので、記事にしてみました。
この記事を読み進めれば、ローカル環境でコードを書き、GitHubにアップロード(プッシュ)することができるようになります。

この記事で解説する内容

Gitとは
GitHubとPCの接続
開発環境の構築

前提

GitHubのアカウントを作成済みであること。
ブラウザでgithub.comにサインインできること。

Gitとは？

GitHubは、Gitをベースにした開発環境です。Gitはファイルのバージョン管理ツールで、「バージョンごとにバックアップを取っておきたいが、最新のものがわからなくなるのは嫌だ」という方におすすめです。

Gitがよくわからん

Gitの勉強におすすめなコンテンツについては、後ほど説明します。とりあえず、初期設定をしましょう。

Windows・Macの場合

GitHub Desktopという公式ソフトがおすすめです。

インストール

GitHub Desktopのダウンロードページからソフトウエアをダウンロードし、インストールします。私がやってみた時は、管理者権限は不要でした。
念の為、Gitもインストールしておきます。Gitのダウンロードページ
こちらも管理者権限は不要でした。

サインイン

インストールして立ち上げると、GitHubへのサインインを求められるので、サインインします。

おしまい

これで初期設定は終わりです。簡単すぎる...

ここまでの内容+αの内容が、公式のドキュメントに画像つきでわかりやすく載っていたので、リンクを張っておきます。
GitHub Desktop を使った最初のリポジトリ作成方法 - GitHub Docs

Linux(Debian系)の場合

Linuxの場合はターミナル上での作業になります！最後まで頑張りましょう！！
※UbuntuもDebian系です

Gitのインストール

以下のコマンドを実行します。

$ sudo apt-get install git

SSH接続

GitHubとPCをSSH接続という方法で接続します。SSH接続がなにか気になる人はこちらの記事を読んでみてください。
ざっくりいうと、暗号化された状態で、PCとサーバーの間で通信する仕組みになります。
SSH接続には、「公開鍵」と「秘密鍵」と2つが必要になるので、これを作成します。
「公開鍵」単体なら公開しても大きなリスクはありませんが、「秘密鍵」は絶対に公開してはいけません！

またもやわかりやすい記事を見つけたので、ご紹介します。
お前らのSSH Keysの作り方は間違っている
タイトルからして、「ん？これは、、、もうSSH接続しちゃってる人向けの記事なのか...?」と思われるかもしれませんが、ご安心を。初SSH接続の方でもこの記事のとおりにすればSSH接続が可能です。

開発環境

とりあえずGitHubにはつながったけれど、エディタ選びに困っているそこのあなた！
私のオススメはVisual Studio Codeです。
無料で使えて、しかも動作が軽いです。
ダウンロード

Gitってなんぞや？

Gitはバージョン管理ツールのことです。
資料作成時に、日付をファイル名の末尾のつけて保存することでバックアップを取っていませんか？そのように、Gitは「◯月◯日△時△分に、〜を変更したぜ」というように、ファイルの変更履歴を残すことができます。また、いつでもその時のファイルを復元することができます。
さらに、複数人で同じファイルを編集している時、Gitはいい感じにそれぞれの変更をまとめてくれます。
Gitは1人で使っても、チームで使っても便利なツールです。

Gitはややクセの強い概念を持っていますが、それを自分のものにしてしまえばファイルの管理が一気に楽になります。

だいたいこんなイメージです。

ローカルリポジトリとリモートリポジトリ

マシン上に保存してあるリポジトリ（フォルダ）をローカルリポジトリ、GitHubなどのサーバーにおいてあるリポジトリ（フォルダ）をリモートリポジトリと呼びます。
基本的には、初回時にリモートリポジトリのデータをマシンにコピー(Clone)して、ローカル上で編集し、リモートリポジトリに上げる(Push)する（誰かがリモートリポジトリを変更していた場合は、データをダウンロード(pull)する）という流れです。
コマンドで操作する場合は以下のようになります。(XXXXXXの部分は人によって異なります。）

$ git clone XXXXXX.git #クローン

$ git push -u origin XXXXXX #プッシュ

$ git pull #プル

add・commit

Gitでバージョンを残すには、どこを変更したのか（あるいは、どこを追加・削除したのか）を明確にした上で（以下のコマンドの<COMMENT>に当たる部分）、commitという作業が必要になります。そして、commitをするためにはaddを行う必要があります。
コマンドで操作する場合は以下のようになります。

$ git add <FILE_NAME> #FILE_NAMEをadd

$ git add . #すべてのファイルをadd

$ git commit -m <COMMENT> #コメント付きでコミット

Gitが学べるコンテンツ

git入門 (全22回) - プログラミングならドットインストール

定番の、3分動画で学べる「ドットインストール」です。動画ではLinuxのターミナル上で操作していますが、Win/MacでGitHub Desktopを使用する方も、Gitの概念をわかりやすく説明してくれているのでおすすめです。
※「Git入門」レッスンは無料で視聴できるようです。(2021/4/28現在）

おわりに

もし、周囲に「GitHubのアカウントを作ったけれども使い方がわからない」という方がいれば、この記事をご紹介していただければ幸いです。

この記事で使用したスライドはGitHubで公開しています。

「GitHubのアカウント作ったけど、どうしたらいい？」(Windows, Mac, Linux)