こちらのツィートで、Visual Studio Code Remote Development(というか、Visual Studio Code Remote - SSH)だけで、ファイルをリモートサーバーへアップロード、リモートサーバーからダウンロードできる!ということで、雰囲気分かる動作をアップしておきます。
Remote Delopment is 何?という方は、こちらをご参照ください。
VSCode + Remote - SSHでRaspberry Pi開発
VS Code Remote Development、3種の違い
ローカルPCからリモートサーバーへ(アップロード)
ファイルを、Visual Studio Codeのエクスポーラーにあるフォルダへドラッグ&ドロップします。
下記動画は、workフォルダにあるtestファイルをアップロードしている様子です。
リモートサーバーからローカルPCへ(ダウンロード)
Visual Studio Codeのエクスプローラーにあるファイルを右クリックして、コンテキストメニューのダウンロードを選択します。
下記動画は、リモートサーバーにある.profileファイルをダウンロードしている様子です。