irb, debug gem は Ruby の標準ライブラリですが、それ単体で Rubygems からインストールすることができます。なので、最新の Ruby でなくても、以下のコマンドで最新の irb, debug gem を利用することが可能です。
$ gem install irb debug
Bundler を利用している場合は以下の方法でインストールします。
$ bundle add irb debug # お好みで --group "development, test" をつけると良いです
(※ debug gem は bundled gem のため、 そもそも Bundler で利用する場合は Gemfile に書く必要があります)
debug, irb は近年のアップデートでかなり便利になってきたのでおすすめ
debug, irb は近年のアップデートで大きな改善、開発がされており、 (VSCode からのデバッグ、シンタックスハイライト等) 非常に便利になっています。おすすめです。
これらは Ruby のアップデートの話とセットで語られることが多いため、最新の Ruby に更新しないと利用できないとうっかり勘違いすることもあるかもですが、単体で gem として配布されているため、対応バージョンであれば単体でインストールすることができます。 (自分も恥ずかしながら勘違いしてました。。。)
Ruby の標準ライブラリは殆どが gem 化されている
irb や debug gem に限らず、Ruby の標準ライブラリはその殆どが Default gem や Standard gem として gem 化されています。
どの標準ライブラリが gem 化されているか、 Ruby の各バージョンにどのバージョンが添付されているかなどは、以下のページに掲載されています。
(また、 https://bugs.ruby-lang.org/projects/ruby/wiki/StdlibGem で gem 化の動機などがまとめられています)
Default gems や Standard gems に関しては以下の記事に詳しく解説されています。