以下のコマンドで言語パックを追加します。
(2019/11/08修正:locale以外にも日本語パッケージが含まれていない可能性があるので、パッケージをlangpack-jaに変更)
# dnf -y install langpack-ja
わかれば簡単なことだけど、ハマってしまった。
参考:
https://bugzilla.redhat.com/show_bug.cgi?id=1677927
https://www.server-world.info/query?os=CentOS_8&p=japanese