勉強より機械学習を学びたいと考える人が機械学習を使って次の課題発見や課題解決しようとしない点を調査すべきと感じます。
1.GeminiもCopilotも3つの本のタイトルから次に読むべきおすすめ本を紹介してくれます。
2.原始的な機械学習であるgoogle検索でもQiitaの記事を列挙します。
　https://qiita.com/aokikenichi/items/0e064ecd3824fab9424d
以上のことからツールの仕組みや応用ではなく、基本的な使い方は知っているだろう有識者でも使おうとしない課題は何か？だと思います。

@BunaImage さんが紹介してくださった
https://qiita.com/aokikenichi/items/0e064ecd3824fab9424d
記事の著者です。

データ分析やプログラミング言語（Python）の応用的な使い方、よく使われるアルゴリズムについての知識がまだ不足していると感じています。これらの前提知識を先に身に付けるべきか、過去に読んだオライリー本のディープラーニングシリーズの続きを読んでRNNや生成AIの原理について学ぶべきか、あるいはすでに基礎を学んだCNNについてもっと深く学ぶべきか、悩んでいます。

悩む時間があったらこれ全部やった方がいいです

また、優先順位は上記ほど高くありませんが、機械学習をアプリに実装する方法やGPUの使い方についても勉強したいと考えています。今までは自分のPCの性能のみを使ってプログラム実行環境で機械学習をしてきましたが、そろそろ応用に活かしたいと考えています。

悩む時間があったらこれ全部やった方がいいです

質問
何から先に勉強すべきか、また、おすすめの専門書・参考書があれば教えてください。

順番は他人が決められないですよ。ゴールが決まってるならばそれに対する最短ルートの推奨はできます。
ただ「趣味」で「大雑把に機械学習をもっと勉強したいと考えて」らっしゃるのですよね
それに優先順位はないです。やりたいことをやればいいのじゃないでしょうか。

具体的に「これをやりたい」ということが決まっていないので、理解を深めるためにこの順番で学ぶとスムーズだ、
　（中略）
シリーズ化している本や、冊数が豊富なシリーズだと次のステップを迷わずに進めるので嬉しいです。

そういう方のためにステップを踏んだ進め方の紹介をしています

• ITスキルロードマップ roadmap.sh がすごい。AI and Data Scientist について対応する本をまとめた
  • ロードマップを紹介している記事に対してその内容を学ぶ書籍を紹介しています
  • ごく一般的に言われる「王道」のロードマップと思います
• 2024年版機械学習・データ分析の必須10冊+ガチ90冊+Next5冊=105冊
  • テーマが決まればそれに対して入門書から専門書までどの順番で学んだほうが良いか示しています

これに照らすと深層学習はかなり広範ですのであなたに必要なのは数学です。数学をひたすら学んで土台を固めてください……
こんなアドバイス嫌ですよね
だから自分が何をしたいかを決めるのは自分です趣味でやっているのであればロードマップに則る必要はないですし、必要性があって例えば画像解析のみならばこのロードマップ以外のルートもあり得ると思います。

趣味だけでやるならそれを極めたらいいですよね
理工系学生で修士を目指されているなら研究テーマに近いもの、あるいは将来の就職に役立たせたいならその方向性に近いもの
など決め方はいろいろあると思います

・今まで学習したことは仕事のためでしょうか？趣味でしょうか？
・日本語の書籍に限定された質問ですか？

「何から先に勉強すべきか」に対して明確な回答は思いつきませんでした。一案としては、画像処理を中心に一定の基礎知識はすでにお持ちのようなので、 何らかの「やりたいもの・知りたいこと」を決めてそれを実行するにあたって必要な知識を習得していく という、いわゆる「パラシュート勉強法」的なアプローチをとってみるのはいかがでしょうか。

思いついた「やりたいもの・知りたいこと」が、例えば「自分がスマホで撮った写真を自動でフォルダ分け / タグ付けして整理したい」であればプログラミングやアプリ開発のことを学んだり、処理を高速化するためにGPUの使い方を学ぶことになると思いますし、もし「画像生成がやりたい」であれば生成AI系の勉強をしていくことになるのではないかと思います。あるいは「最近出たこの論文を理解したい」といったものであれば、論文内に出てくる技術を勉強していくことになるのではないかと思います。

やりたいことや問いを考えるのは難しさもありますが、それ自体もAIの応用の勉強に繋がるよい機会かと思います。打算的な話になりますが卒論のテーマ探しにつながったり、面接のときの話のネタにもなるかと。

とはいえ「パラシュート勉強法」は人によって合う合わないがあるので、引き続き知識を積み上げるアプローチをとりたい場合でも参考になるようにいくつかおすすめの勉強法や書籍を述べますと

(1) 研究の流れの全体像を把握する

例えば画像処理の分野において、どういった課題やタスクがあり、どうやって解決されて来たのか、CNNやRNNはどう活用されてきたのか、CNNの次に何が使われていたのか、など把握すると今後の勉強の際にも活きるのではないかと思います。

具体的な方法としては、例えば SSII2024という学会では 技術マップ というものが公開されており、研究のこれまでの流れやトレンドを掴むヒントになります。あるいはサーベイ論文を読んだり、学会のチュートリアルセッションの資料など（例えば こういうのやこういうのみたいなスライドなど）を見てみたりするのもよいかと思います。

(2) Deep画像処理を深めていきたい場合

CNN系のあとViT系が流行っていたので（CNNも廃れたわけではないようですが）、順番に画像処理系の基礎的なアーキテクチャを抑えていくならViTを学んでみるのもよいかと思います。例えば『Vision Transformer入門』はコードも理論面もまとまってて良書だったと思います。

(3) 機械学習全般について勉強したい場合

古い本ですが『統計的学習の基礎』は個人的には勉強になった本です。画像処理やディープラーニングの話はほぼ無い本ですが、例えば「（平均二乗誤差で測った）予測誤差はバイアス、バリアンス、削減不能な誤差の3つに分解できる」「バギング（bagging、アンサンブル学習の手法）はバイアスを増やさずバリアンスを減らす手法」「正則化はバイアスを増やす代わりにバリアンスを減らす（かもしれない）手法」などの、「なぜこの手法でうまくいくのか」についての理論的な説明がちらほら入っていたのが印象的な本でした。（ただ、ページ数が多いので全部の章を精読する本ではないと思います）

ちなみにディープラーニングの場合でそういった理論の話だと『深層学習の原理に迫る』が一般向けの（数式少なめの）本としては出ています。一般向けでない、より深い話はこういった資料などを追っていくのがいいのかなと思います。

多少なりとも参考になれば幸いです