この記事は、居酒屋の会話劇を通してLLM内部挙動や、AI担当になったエンジニアの苦労を、リラックスして理解することを目指した 技術ポエム です
～ ２年前 「ＤＸ推進担当ねっ」 そして今・・ ～
- 🇯🇵 : この記事は、擬人化したLLM内部の担当が居酒屋でエンジニアと酒を飲み、愚痴り合いながら問題を解決するエンタメ学習物語です
- 🇺🇸 : A tech comedy where personified LLM internals and engineers drink at a pub, vent, and solve system problems together. Enjoy learning via browser translation!
- 🇨🇳 : 一篇技术喜剧小说：拟人化的LLM组件与工程师在居酒屋喝酒、倾诉并共同解决系统问题。请使用浏览器翻译阅读！
ある日突然AIが同僚になった
彼らは某企業のＤＸ推進室に抜擢されたAIサービスチームの面々。
２０２４年、AIが魔法使いのような期待を向けられていた時代・・
若手エンジニアの （ かい ） と呑んでいるのは、導入されたLLMモデル本人とRAGの３人
👔若手エンジニア かい
社内SEをしていたが、上司から「明日からＤＸ推進ね」と軽く言われ、ベンダーいちおしのAIレンタルパック責任者になっていた
🤖AI（LLM）の本体 ジェミ
「最新・最安・超長文」を売り文句に華やかなデビューをしたAI
開発・運用保守つきのクラウドパッケージで業務効率UPを約束された張本人
📚RAG
初期パッケージとして付いてきた、データベース（ベクトルＤＢ）
なんでも詰め込まれて少し弱気になっている
用語
ベクトルＤＢ
LLM（大規模言語モデル）
SaaS（サース）
クラウド上でホストされ、APIやブラウザ経由で機能を提供するソフトウェア
※詳細はクリック
👔かい 、 🤖ジェミ 、 📚RAG
……とりあえず、お疲れ。乾杯 （たいもんや！）
カチン、とジョッキが鈍くぶつかる。
自社専用の魔法のチャットが簡単に作れるはずだった
社内規則と議事録をAIに学習させろ
2024年、夏。
世界は、生成AIに夢中だった。
Googleが前月に発表した最新ＡＩ Gemini 1.5 Flash
その「100万トークン、長文、動画爆速！ さらに低コストで処理できる」という圧倒的なスペックは、瞬く間に市場を席巻した。
時計の針は午後10時を回る
かい |
どうしてこうなった？ DXって何がデラックスで何をする所なんだ？ そして、お前らの凄さが俺には全くわからないんだ。 今まで作ってきた業務システムとどう違う？ 🤖ジェミ、 📚RAG。 お前ら一体何ができるんだ？ |
|
かいちゃん、落ち着いて 俺達は命令通りに処理をしたり聞かれた事を答える少し曖昧なプログラムなんだ。 社内規則から有給申請方法を答えたり、日報をまとめたりしているよ。 ただ・・ 皆んなの質問が曖昧で答えがあっているかわからないんだ。 |
ジェミ 
|
RAG |
僕もどうしたらいいかわからないんですよ
突然、「 社内規定_2024_最新(コピー)(4).xls」 という大きなファイルが投入されて、この所ずっと言葉を刻んでは格納の繰り返しです。 ガンガンに途切れてましたが、ベクトルって伝わります？
|
３人はの呑む勢いがとまらない
|
かい |
社内規定が大問題になってる。 なんでちゃんと答えないんだ？ 「PoCのデモ」では、ベンダー営業マンの質問に正しく答えてたじゃないか。 ジェミ？ 100万文字入るっていうのは嘘だったの？ |
|
ちがうよ、かいちゃん。 『100万文字を一気に読める』 能力はあるんだ でもRAGに途中で切れた文章が入ってると探せないし、昔の社内規約も書かれていると、どっちを答えていいかわからないんだ。 （ブチッ） 超能力者や占い師じゃないんだから無理 |
ジェミ |
|
RAG |
標準のアップロード画面からそのままExcelを入れるだけじゃ駄目なんだよ
結合セルや関数、グラフやマクロが整理されてなかった。 （ブチッ） 要するに・・・ ゴミデータなんです |
自社専用の魔法のチャットが簡単に作れます。 ライバルより先にやりましょう！
甘い言葉に踊らされた経営層は、実態や裏側の技術を理解しないまま
高額なセットレンタル契約のハンコを押したからだ
〜暴かれたハリボテと月額契約の闇〜
ゴミを入れたのに、宝が出ることを期待されるRAGの悲劇
焼酎のロックが本音を引き出す
🤖ジェミ ： あーあ、可哀想なRAG。 粗悪な飯（データ）ばっかり食わされて
📚RAG ： かいちゃん、ちゃんとExcelを整理してから投入してよ。
文の途中で無惨に切り刻まれたゴミデータが、僕のお腹（ベクトルDB）に無理やり詰め込まれてるんです。
今日テストチャットで 「出張費の清算ルール」 って質問してくれましたよね？
僕、ベクトル検索したけど……肝心の 「出張費」 と 「清算ルール」 って単語が、別のデータに分かれて保存されてたんです
だから上手く関連性（類似度）が見つけられなかったんです
👔かい ： えっ、それをAIが自動で区切ってくれるんじゃないの？
シートにバージョンが書いているから、これは古い過去の内容だからってわかるよね
重要な所は表形式にして見やすくしているし、太字や色までつけてキッチリ作っているよ
🤖ジェミと📚RAGが、目を丸くして顔を見合わせている
|
かい |
おいおい。 まさか、ただの文字数カウントで分割してるのか？ それなら午後にフォルダ毎投入した議事録はどうだ？ |
|
（笑うしかない・・） かいちゃん 始まったばかりだから仕方ない 人間が見て読みやすい形式と、AIの理解は別なんだ。 202404_開発部_議事録.xlsx というフォルダ階層やファイル名は、テキストとして中身に書き込んであげないと、俺達には理解できない。 数式・関数・マクロ・オブジェクトも一つづつ整理してほしい |
ジェミ |
|
RAG |
ベンダーは「ExcelやPDFを放り込むだけでAIが学習します」 って言ってたけど、PoC用では事前に整理したデータを投入してたんだ つまりAIが見つけやすいように人間が手作業できれいに整えた仕込みの綺麗な情報なんだよ 実際の業務で使う表や図が混ざった複雑な、何百ページものデータをそのまま放り込めば、システムは一瞬で崩壊する。
|
ExcelをMarkdownに綺麗に変換する自作スクリプトが出始めた頃
👔かい ： もしかして、高額な月額オプションで「有料前処理プラグイン」っていうのがあったけど、あれを契約しないと行けなかったのかな
RAGデータ投入の課金が高いって指摘されたばかりだから、提案できないよ
🤖ジェミと📚RAGが、やさしく見つめている
🤖ジェミ＆📚RAG 心の声・・
自慢したいんだけど、俺達は、最新の学習を受けた天才なんだ。
最大100万トークンっていう、本1冊分の文章すら数秒で記憶して処理できるポテンシャルがある。
ベンダーの作ったチャット画面（フロントUI）は 「最新のAIシステム」じゃない。
ただの文字列結合ツールだ
RAGが間違って持ってきた「使えないデータ」を繋ぎ合わせて
最後に「この情報をもとに答えてね」っていう固定の命令文をつけてAPIに投げつけるだけ
だから、間違えて当然で、答える時は正解だとおもってる。
才能の無駄遣いにもほどがある・・なんて かいちゃんに言えないなぁ、、
そして２０２６年夏が来る・・
とりあえず、お疲れ。 🍻乾杯！（たいもんや！）
|
かい |
２年も前になるのか・・懐かしいな あの時は、有志のツールや自作スクリプトでデータ整理をした 結局入れたけど、精度が低いからって使われなくなったし |
|
（懐かしみながら・・） かいちゃん 覚えているよ 今から考えると、「数値や進捗の書かれたExcelをそのままぶち込む」という戦い方を間違えていた。 数値や管理データはSQLやAPIを介して処理させ、RAGはピュアな文脈だけに絞るという「切り分け」の時代 ベンダーの売り方も「システム連携・データ基盤の整備」へと変わりつつある |
ジェミ |
|
RAG |
2年前の僕たちのように「魔法のRAGツール」を探すのはもうやめよう。 本当は「どのデータをRAGに流し、どのデータをSQLとして管理するかという、データの交通整理だったんだ。 これが、本当のDXの姿だったのかもしれないね |
２年分の酔いが回ってきた頃・・
👔かい ： なんだか説教されだしたぞ、俺にもいわせてくれ
今からAIを本格導入しようとしている企業、あるいは古いオンプレモデルの買い替えに悩んでいる企業に言いたい。
🤖📚 「やべ、スイッチ入ったよ」
「高額なAIパッケージ」や「流行りのAIエージェント」を買う前に時間をかけて確認してくれ。
AIが何をして、人間がその準備やチェックをどれくらいするかだ
2026年でも社内の業務効率化が魔法のようには進まない。
過去の人間用のデータをAI用に整理するのは泥臭く必要だ
投入データの整理が楽になっても確認作業が減るわけではない
AIの知識や性能はもう充分進化している。
・ 自社の社内データの何割が、AIに読ませられるほど綺麗に整っているか？
・ 整えるのにどれくらい時間がかかり、これから作る資料も同じ整理ができるのか？
・ 最新モデルかを気にするのはその後だ
🤖ジェミと📚RAGが、やさしく見つめている
AIは悪くない、計算してるだけだ・・
（全員がゼェゼェと息を切らし、かいを見つめている）
👔かい
「AIエージェントが自律して・・と勧めてくる」 奴らも必死だ。
中身はエンジニアががんばって書いた「条件分岐をした業務フローチャートの連続」だ
AIはその中の、ほんの一部の文字起こしを担当しているに過ぎない。
🤖📚うん。 もう言っちゃえ。
厄介なのは、そこに他社APIのブラックボックスな挙動が絡むことだ。それぞれが99%の精度でも、連鎖すれば全体の数％で「理由のわからないサイレントバグ」が起きる
そして現場のユーザーは、その数％の失敗を見て「このAIは使えない」とシステムを疑う。
AIの曖昧さを許容し、「失敗したときに、いかに綺麗に人間にバトンタッチさせるか」という、従来のシステム設計以上の泥臭い仕掛けがいる。
『自律』という魔法の言葉に逃げず、INとOUTを泥臭く定義し直す覚悟のある企業だけが、2026年のAIエージェントの波に乗れるんだ
🤖📚よく言った・・
かいちゃんのポエム
👔
エンジニアのみんな、ありがとう。
世間や経営層は、最新のAIを指して「魔法だ」「自律だ」と無邪気に騒ぎ立てます。しかし、その「魔法」の裏側で、動かないExcelのセル結合を一つずつ解除し、文字化けしたチェックボックスの挙動を追いかけ、ブラックボックスなAPIのエラーログを深夜に血眼になって解析しているのは、他でもないエンジニアだ。
「高いツールを入れたのになんで動かないんだ」と上席に詰められ、「AIなんだからよしなにやってよ」と顧客に無理難題を言われ、どれだけ裏側で泥臭いシステム設計とエラーハンドリングを重ねても、動いた瞬間には「AIってやっぱり凄いね」と、すべての手柄をAIに持っていかれる。
成功して当たり前、少しでもバグれば「使えない」と切り捨てられる業務システムの冷酷な目線に晒されながら、誰も見向きもしない「データのドブさらい」をコツコツと続けている。
2026年の今、世間が流行りの言葉に踊らされる中で、「INとOUTの厳密な設計」という、いつの時代も変わらないエンジニアリングの本質に立ち戻っている
魔法の正体は、AIの賢もあるが、どこまでも冷静にコツコツと現実のデータと業務のバランスに向き合い続けた「忍耐と職人技」だ。
数々の苦難を乗り越え、今日も画面に向き合う方へ・・
あなたの地道な一歩一歩が、日本の遅れたDXを本当に前へと進めています。私たちの戦いは、ここからが本当の強みになる。今日もゆっくり、最高のシステム（魔法）を組み立てていきましょう。本当にお疲れ様です。
そして、共に進み続けましょう
👔
かいは笑みを浮かべ、ゆっくり深呼吸した・・・
AIに責任はない、使うのは人間だ
最後までお付き合い頂きありがとうございます。
エンタメ寄り、学習が嫌にならないポエム風のジャンルとしてお楽しみ下さい。
裏方で頑張るエンジニアさん達の、少しでも息抜きになったら幸いです。
～記事一覧～
１話目 ノイズがあるとハルシが増える
２話目 そこに情報があったのか・・
３話目 LLMは悪くなかった
４話目 裏方も言いたいことがある
５話目 ＤＸ推進って何するの？