WordPressはインターネット上で運用する以上、セキュリティ対策として、常にWordPressを最新版にアップグレードすることは常識と言って良いだろう。
先日2016/05/06に、最新版 Version 4.5.2がリリースされたので、これを機にWordPressのアップグレード方法を示す。
以下に、一通りの方法がまとまっているので、まず読むことをオススメする。
WordPress のアップグレード/詳細

要約すると、流れは以下の通り（筆者の場合）：

データベースをバックアップ（-> クラウドを利用の場合、デフォルトでバックアップしていれば問題ない）
全てのWordPressファイルをバックアップ（-> 普段からgitなどで構成管理していれば問題ない）
全てのプラグインを無効化
アップグレード作業（-> ファイルの差し替えで済む）
できれば、プラグインもアップデートがあれば最新化
全てのプラグインを有効化
全てのWordPressファイルをバックアップ（-> gitで最新化）

ここでは、「4」が肝であるが、WordPress のアップグレード/詳細の通り、「削除する／してはいけないファイル一覧」に注意したい。
「取り消し線が引かれたディレクトリ・ファイルは削除、それ以外は残します。必要なファイルを削除しないよう注意深く作業してください。」とあるので、以下の通り行う。（※筆者の場合）

※以下の削除とは、「新しいファイルとの差し替え」を意味する。

wordpressディレクトリ
- wp-admin/ - 削除
- wp-content/
- plugins/
  - 「プラグイン」- 使用しなくなったものがあれば削除
  - languages/ - 削除
- themes/
  - 「デフォルトテーマ」 - 削除
  - 「子テーマ」 - 残す (※こんな時のため、アップグレードするのに、Wordpressは子テーマを使っていると楽である)
  - index.php - 残す
- index.php - 残す
  - wp-includes/ - 削除
  - wp-config.php - 残す
  - index.php - 削除
  - license.txt - 削除
  - readme.html - 削除
  - wp-activate.php - 削除
  - ... 以降、全ての「wp-◯◯」ファイル - 削除
  - xmlrpc.php - 削除

アップグレードが完了したら、問題なく出来たかバージョンを確認しておく。（以下、参考）
WordPressバージョンの確認方法

ちなみに、WordPressの主なセキュリティ対策については、以下に分かりやすくまとまっている。
WordPressのセキュリティ対策でしておくべき11の項目