ゼロから学ぶローカルLLM #2 LLMはどうやって文章を生成しているのか? トークンと推論の仕組みを理解する
はじめに 前回の記事では、ローカルLLMとは何なのか、ChatGPTとの違いを通して基本的な仕組みについて整理しました。 今回はもう少し踏み込んで、そもそもLLMはどうやって文章を生成しているの...
254 search resultsShowing 1~20 results
You need to log-in
はじめに 前回の記事では、ローカルLLMとは何なのか、ChatGPTとの違いを通して基本的な仕組みについて整理しました。 今回はもう少し踏み込んで、そもそもLLMはどうやって文章を生成しているの...
はじめに 前回の記事では、LLMが文章をトークンとして扱い、次に来るトークンを予測することで文章を生成している仕組みについて整理しました。 今回は、ローカルLLMについて調べていると必ずと言って...
はじめに 前回の記事では、LLMの「モデル」とは何なのか、そして7B・14B・32Bなどの数字が何を表しているのかについて整理しました。 またモデルのパラメータ数が増えるほど、推論に必要な計算量...
はじめに DroidKaigi 2026、お疲れ様でした! 今年もAndroidに関する様々なセッションがあり、どのセッションに参加するか悩んだ方も多かったのではないでしょうか。 自分もタイムテ...
はじめに これまでの記事では、モデル、GPU・VRAM、量子化、推論エンジンなど、ローカルLLMを動かすために必要となる知識について整理してきました。 前回の記事では、LLMモデルを実際に動かす...
はじめに GitHub Actionsでは、PushやPull RequestなどをトリガーとしてWorkflowを実行するだけではなく、指定した時間に定期実行することもできます。 定期実行は下...
はじめに 最近、SNSなどで「ローカルLLM」や「Ollama」という言葉を見かける機会がかなり増えましたね。 一方で、 ローカルLLMって結局何? ChatGPTと何が違うの? 何ができるよう...
はじめに Androidアプリのメモリリークを検出するライブラリとして、LeakCanaryを利用している方も多いのではないでしょうか。 Android Studioでは、ProfilerからL...
はじめに 前回の記事では、モデルをより少ないメモリで動かすための「量子化」と、ローカルLLMでよく利用されるモデルファイル形式「GGUF」について整理しました。 ローカルLLMについて調べている...
はじめに 前回の記事では、なぜローカルLLMでGPUが使われるのか、そしてVRAMがなぜ重要なのかについて整理しました。 また、モデルが大きくなるほど必要なVRAMも増えていくことについて触れま...
はじめに 最近、OpenAIから新しいモデル「GPT-6 Astra」が発表されました。 普段ChatGPTを利用している方であれば、気になる部分も多いのではないでしょうか。 そこで今回はGPT...
最近はAIを使ってコードを書く機会がかなり増えてきました。 自分も日常的にAIを活用していますが、開発速度が上がった一方で、コードレビューの難しさは以前より増しているように感じています。 という...
2026年10月13日、Googleが新しいAIモデル「Gemini 4 Argon」の一般提供を開始しました。 今回のモデルは、コーディングや複雑な推論、AIエージェントによる長時間のタスク処...
はじめに Android Studioには数多くのショートカットがありますが、実際によく使うものは意外と限られています。 そこで今回は、私がこれだけ覚えればキーボードだけでできる操作がぐっと増え...
はじめに ご覧いただき、ありがとうございます。 いきなりですが、質問です。 あなたはエンジニアですか? デザイナーですか? それともディレクターでしょうか? 多くの方が、自分の職種を思い浮かべな...
はじめに Kotlin 2.4.0がリリースされました! そこで本記事では、Kotlin 2.4.0で追加・Stable化された変更点のうち、Android開発で利用機会がありそうなものを中心に...
はじめに 以前、Git 3.0で予定されている変更点についてまとめました。 今回はその中でも最も大きな変更の一つである「SHA-256への移行」について深掘りしていきます。 一見するとSHA-1...
はじめに Gitは開発現場では欠かせないツールですが、「最近Gitって何か変わったの?」と聞かれると、意外と答えられない方も多いのではないでしょうか。 現在も最新バージョンは2系ですが、Gitで...
はじめに 2026年6月16日、Android17が正式リリースされました。 今回のアップデートでは、AIを活用した新しい方向性が示されたほか、カメラやメディア機能の強化、接続性の改善、大画面デ...
はじめに 毎年のようにCPU性能やAI機能に注目が集まりますが、GoogleはAndroid 17に向けてメモリ効率の重要性について改めて発信しています。 近年のAndroidアプリは、Jetp...
254 search resultsShowing 1~20 results
Qiita is a knowledge sharing service for engineers.