弱点1：回答は統計処理である

多くの人がここで騙されます。

AIは「次に来る確率が高いトークン」を予測しているだけです。正しいから回答しているのではありません。確率的に高いから回答しています。

私のような少数派の開発スタイル（Riverpodを使わない、小さな自己完結型Widgetで構成するなど）を取ると、AIの回答がしばしば的外れになります。大多数が採用しているアプローチが「正解」として返ってくるからです。

大量のテキストを学習した結果、博士のような知識を持っていますが、回答はその統計処理にすぎません。

弱点2：自分で作ったコードを追えなくなる

Geminiは「ベストプラクティス」を知っています。だから勝手にRiverpod（状態管理ライブラリ）を入れてきました。

しかし、開発が進んで複雑になっていくと、自分で作ったコードを追えなくなりました。

Providerの修正が必要な変更を頼むと、修正すべき箇所をすべて修正できません。文法エラーになるものは検出できますが、そうでないものは実行時エラーになったり、意図しない表示になったりします。

これが「推論の弱さ」です。

知識は博士レベル。でも推論は小学生レベル。

複雑な依存関係を追い続けることができません。だからこそ、私はRiverpodを使わず、小さな自己完結型Widgetで構成する方法を選んでいます。AIと協働するなら、AIが追える範囲に複雑さを抑える設計が重要です。

弱点3：学習データの時期が古い

Gemini 2.5 Proに「いつまでのFlutterを学習しているか」と問うと「2025年後半（10月〜11月頃）」と答えます。

しかし、どんどん追求していくと、回答の実質的なベースはデータ量が豊富なFlutter 3.24〜3.27（2024年末〜2025年初頭）あたりということを白状します。

最新のFlutterでコードを書きたい場合、Geminiのハルシネーションはひどいものになります。

ChatGPTは「2024年の春〜初夏まで」と正直に言うので、まだ信頼できます。ただし「最新の情報を調べて」と明示的に言わないと古い情報で回答が返ってきます。そうすると時間がかかり、トークンの使用量も増えます。

これが「継続学習の問題」です。

現在のLLMは一度学習したら固定されます。新しい知識を追加しようとすると、古い知識を忘れる（破滅的忘却）。だからWeb検索で補っていますが、それは継続学習ではなく外部ツール依存です。

だから私は、モダンなパッケージを避けて、SQLiteなど昔からある技術を選んでいます。

新しいパッケージは学習データが少なく、AIのハルシネーションが多発します。一方、SQLiteのように長年使われている技術は、学習データが豊富で、AIの回答精度が高い。FlutterでもDrift（旧Moor）のような新しいORMより、sqfliteで直接SQLを書く方が、AIとの協働はうまくいきます。

枯れた技術を選ぶことは、AIと協働する上での実践的な戦略です。

弱点4：継続学習ができないことによる経済的限界

継続学習ができないため、毎回一から学習してモデルを作らなければなりません。

だからOpenAIは非営利から営利に転換し、巨額の投資を集めています。あまりにも経済性が悪すぎます。このビジネスモデルがいつまで持つのか、私には疑問です。

これらの弱点が企業導入を阻む

継続学習ができないことは、業務導入の最大の障壁になっていると考えられます。

企業は自社の業務知識をAIに学習させたい。でも学習させると他の知識を忘れる。だからRAGやSkillsで回避するしかありません。

では、RAGを設計できるのは誰か。Skillsを作れるのは誰か。

優秀なPM兼アーキテクトです。

そんな人材はほとんどいません。だから企業導入は進まない。

AIは「誰でも使える」と宣伝されています。でも現状は「優秀な人しか使いこなせない」のが実態です。

個人開発者として生き延びるために

AIの弱点は多いですが、改善されていくでしょう。問題は、私たちがどうAIと付き合うかです。

私が実践していることは3つです。

1. AIの限界を理解する

魔法ではなく、確率と最適化の道具だと理解する。だからこそ、AIが追える範囲に設計を収める。Riverpodを避けて自己完結型Widgetを選んだのは、この理由です。

AGIに期待しない。 「もうすぐAGIが来る」「AIがすべてを解決する」という話を聞くと、今の苦労が無駄に思えるかもしれません。でも、AGIを待ちながら競争に巻き込まれると、みんな消耗するだけです。

来るかどうかわからないものを待つより、今のAIの限界を理解して、その範囲で使いこなす。その方が確実に成果が出ます。

2. 目的・設計・構造を手放さない

実装はAIに任せても、「何を作るか」「なぜ作るか」は自分で決める。AIは優秀な実行機械ですが、目的を与えなければ、目的そのものを代行してきます。

3. 自分の思考様式を活かす

私は言語化が苦手です。でも、だからこそAIは「翻訳装置」として強力な武器になります。頭の中の構造をAIに言語化してもらい、コードに変換してもらう。この使い方なら、弱点を補い合えます。

結論：AIに使われないようにする

感情がなく疲れもしらないAIに使われると悲惨なことになると思いませんか？

AI時代に価値を持つのは、コードを書く人間ではありません。構造を作れる人間です。

考えることをやめない。設計を手放さない。判断を委ねない。

それが、AIと共に開発を続けるための条件だと、今回のアプリ公開を通じて確信しました。