唐突ですが、Rubyでは2.7から3.0へアップデートされる時、SortedSetというライブラリはGemに分離されました。
SortedSet has been removed for dependency and performance reasons.
「なるほど、じゃあRuby3に上げる時にSortedSetを使っていたらインストールすればいいんだな！」となるかもしれませんが、それはちょっと待ってほしいです(確かにそれでも動きますが)。
まずどこで使っているのかを、git grepなりエラーのスタックトレースなど適切な方法で確認しましょう。
もし自分が作成したコードで使っているのである場合、今回Gemへ分離されたのはパフォーマンスが理由なので、問題ない場合はインストールでも問題ありません(セキュリティなどだと話は変わりますが・・・)。
ただ、他のGemが依存していて自分のコードでは使っていない場合は、GemのChangelogやissueでどのような判断をしているかを覗きに行きましょう。
たとえば、wvanbergen/chunky_pngというpngファイルの読み書きを行うためのgemでは、そもそもSortedSetを使わない実装に切り替えています。
なので、chunky_pngでしかsorted_setを使ってないよ！という場合はchunky_pngを最新までアップデートする方が良いでしょう。
Rubyでは標準ライブラリをgemに分離する、というのは自分の記憶ではちょくちょくあったはずです(確認してないので滅多にないよ、というマサカリが飛んできた場合はごめんなさい)。分離に巻き込まれた場合安易に追加するのではなく、利用しているのはどこなのか、もしGemの場合どのような対応をしているのか確認をするようにしましょう。