最終的にやることとしては、XKBの設定を以下のように変更します。

- key <AB11> { [ backslash, underscore] };
+ key <AB11> { [ underscore, backslash] };

xkbの正しいカスタマイズ方法

『Ubuntu18.04+英字配列で日本語入力の切替を左右altで行う+caps lockを左ctrlと入れ替え』
https://qiita.com/takashyx/items/e13daccee31797444beb

まずは上記記事などを参考に、正しい方法にてxkbの設定をカスタマイズしてみてください。

しかし、僕は色々頑張っても再起動時にカスタマイズ設定を反映させることができませんでした。
（他の記事の説明も上記記事と同様でしたので、僕固有の問題の可能性があります）

無理やり解決

諦めて元の設定ファイルを直接変更することにしました。

$ vi /usr/share/X11/xkb/symbols/jp

underscore という文字列で検索し、冒頭のdiffを適用します。
保存後、再起動して設定が適用されたことを確認しましょう。