Google ColabからローカルAI環境へ移行するなら、DGX Sparkは無難でしょうか？

DGX SparkはLLMローカル実行・検証用としておすすめできますか？

おすすめできます。「巨大なモデルを1台で動かしたい」なら、良い選択肢です。

RTX 4090 / 5090搭載PCと比べたメリット・デメリットは何ですか？

メリットは、御指摘の通り128GB unified memoryであることです。
CPUとGPUがコヒーレントにアクセス可能であり、高速かつ効率的なデータ処理を実現できます。
「箱として環境が揃っている」ため、環境固定がしやすいです。

デメリットとして、全部が速いわけではなく、速度最優先ならRTXが勝つ局面があります。
帯域・演算資源で押し切れる領域ではRTX 4090 / 5090搭載PCが有利になることもあります。

「巨大なLLMを動かしたい」ならDGX Spark、「画像生成やスピード重視の試行錯誤」ならRTX 4090 / 5090搭載PC搭載PCとなります。

128GB unified memoryは、24GB-32GB VRAMより実用上かなり有利ですか？

「モデルを動かせるか、動かせないか」の境界線において決定的に有利です。
LLMは演算よりもまずメモリに載るかがボトルネックになりやすいです。

Colab / クラウドGPUを使い続けた方がよいケースはありますか？

ときどき巨大GPUが必要、台数スケールが必要、初期投資を避けたいケースです。

経験者ではありません（かじった程度）ので、あまり鵜呑みにはしないで下さい。

無難にDGX Sparkを選ぶのはありなのか？

DGX Sparkは初めて目にしますがスペックのTensorコア数を見る限り「AI特化型」だと感じます。逆に言えばAI処理以外には向かない、専用機器とも言えるでしょう。
Tensorコアしか使わない処理するという明確な目的があるなら何も言いませんが、「無難に」と曖昧に考えてるなら、考え直した方が良いでしょう。迷っている今はおすすめはしません。

RTX 4090 / 5090搭載PCと比べたメリット・デメリットは何ですか？

確かコア自体はTeslaシリーズと同じはずですが、RTXにはリミッターが付いてます。そういう意味ではAIに関連する処理は少し弱いとおもいます。

Colab / クラウドGPUを使い続けた方がよいケースはありますか？

Colabなら現行の環境を使い回せるのが大きいでしょう。わざわざ再セットアップする手間、環境構築など余分なところが除けます。今のColabはランタイムのバージョンを固定できますから、以前からあったバージョンが変わる度にモジュール云々でエラーが…ような問題も減らせます。

現状無料版のColabを使っているのであれば、今処理しているモノも16GBのVRAMで回せていることになります。

Colab ProならT4以外のGPUも選べますし、Google Cloudと連携するとさらにGPUのバリエーションも増えます。

まずは少額のサービスからテストしてみて、本当に必要だと感じるならそこで初めてDGX Sparkを購入する選択肢が出てくるかと思います。

unified memoryは誤り訂正のないNon-ECC環境かつメモリ速度はGPUの1/10以下なのであんまりホビー用途以外に使うのは無難ではないと思います。容量とコスパを重視する人はベンチの結果から最終的にMacでOkとなり、その結果品薄で大容量メモリ搭載モデルのMacが買えなくなっているという現状。
本当の無難は今利用されているColabのCPUやGPUの系列で組むことだと思います。Workstation上で動いているならRTX PRO 6000 Blackwell Max-Qあたりを検討してメモリの懸念があるなら複数枚刺しの拡張性を考慮するだと思います。

皆様ご回答ありがとうございました。
非常に有意義な情報でした。
心から感謝申し上げます。