AIは言葉も料理も理解していない？ - 近年の画像生成AI -

最近多いAI広告

飲食店のメニューからスーパーのポスター、SNSのレシピ投稿に至るまで、AIによって生成・補正された料理の画像を見かけない日はなくなりました。😣
私も最近は外に出るたびに生成物に出会い、エンジニアの端くれとしてその時の感情を忘れないよう、密かに写真に収めるのが日課になりつつあり、写真フォルダには大量のAI生成メニュー画像があります。笑

先日、友人と入った飲食店で不自然なAIメニューを見つけ、「最近こういうの多いよね」と話したところ、友人はAI画像であることに全く気づいていませんでした。AIに日ごろから触れる人間にとってはホットな話題でも、普段テクノロジーに深く触れない人々にとっては、少しの違和感は景色に溶け込んでしまうのだと気付かされました。

コスト削減や作業の効率化という点において、AIはいい手段ではありますが、その手軽さの裏で、自社ブランドの毀損や消費者からの激しい反発、さらには景品表示法違反などの法的トラブルに発展するケースが相次いでいます。

本記事では、最近批判が相次ぐ「AI食品画像」がなぜ、どのように生まれるのか、AIが構造的に抱えるハルシネーションがなぜ生まれるのかを言葉にすることによって、AIに丸投げすることの危なさを書き留めておければと思います。

※本記事は特定の団体や企業を批判する意図はありません。AI批判の意図もありません。

AIは言葉も料理も「理解」していない

画像AIの適当具合を理解するためには、まず私たちが普段よく使っているChatGPTやGeminiといった「テキスト生成AI」が、なぜあんなに自信満々にウソをつくのかを知る必要があります。
まずはAI食品画像を作ってみようと思います。

最終的にはこのような画像が出力されました。
ネットで大炎上するほど崩壊した画像にはなりませんでしたが、よく見るとコップにつくささってるリンゴの大きさ、信州リンゴ園などの情報どこから来た？など、ところどころに拭いきれない嘘が存在しています。

なぜそうなる？

ただ「広告を作って」と頼んだだけで、なぜこのような違和感が生まれるのでしょうか。その理由は、AIが料理の構造や言葉の意味を理解しているわけではないからです。具体的には、以下の4つの要因が挙げられます。

1. 現実の物理法則を知らない

人間は「リンゴ」という言葉を聞けば、その丸さや重さといった物理的な実感を伴って理解します。しかしAIにとって、世界は単なるデータの羅列です。
AIは対象物の立体構造や動き、光と影の働きなど3D的な空間構造を理解していません。

そのため、一見きれいな画像を生成しても、よく観察すると

• 肌艶に違和感(輝きすぎ)
• 光源の位置と影の方向が一致しない箇所がある
• 複雑な模様が溶け合っている箇所がある
  といった、物理的におかしい矛盾を平然と出力してしまいます。

2. 自然な雰囲気などの抽象的な感情が読めない

AIは赤いリンゴ、笑顔の女性など、写っている物体や色を分類・認識するのは得意です。しかし、写真が伝えたい気持ちや表情のニュアンスといった抽象的な文脈の理解は非常に苦手です。
たとえば、同じ笑顔の写真でも、それが心からの喜びなのか皮肉を含んだ愛想笑いなのかは判断できません。そのため、企業が「温かい雰囲気を残しながら自然に加工してほしい」と指示しても、AIはその感覚的な要望に応えられず、ただそれっぽい無機質で不自然な画像にしてしまうのです。

3. データ偏重と精度低下

現在のAIの根幹は、過去の膨大なデータから次に来る確率が高い要素を予測して繋ぎ合わせるシステムです。
AIの性能はどんなデータで学習したかに大きく左右されるため、学習データにあまり含まれていない珍しい被写体、特定の地域の文化的背景、医療機器や特殊な機械などのニッチな領域では、途端に誤認識や不自然なハルシネーションが急増します。

4. 倫理や法律を考慮しない

もっとも危険なのは、AIには善悪や法律の概念がないという事実です。

さっきAIに生成してもらった「美味しいりんごジュース」の広告も以下の法律に違反している可能性があります。(パッケージだけでなく広告、ポスター、Webサイト、TVCM、SNSなどにも同様の表示規制上の検討が必要です)

AIは指示されれば、他人の著作物とそっくりな構図を出力したり、事実とは異なるフェイク画像を生成したり、学習データの偏りに起因する差別的な表現を出力したりもします。

これらはAIの“ミス”ではなく“仕様”です。

普通にデザイナーや専門家がリンゴジュースの広告を作ってくれと頼まれたなら、そもそもジュース広告にルールや制約はあるかな…？とか調べますよね？
ですがAIは指示された通りの成果物を作るのみなので、元来それがどうやって作られてきたかなどは気にせず成果物を生み出してしまうのです。

メニューなどもこの一面が強く、実際に写真を取り込んでいたとしても指示内容によっては全く別のものになっていてもAIは何も感じないのです。
著作権侵害や倫理的リスクを防ぐブレーキは、AIの内部には存在せず、使う側が注意深く管理するしかないのです。

このようにAIは、事実として正しい情報や現実の法則を守ろうとしているのではなく、確率的にもっともらしい模様を完成させることを最優先に動くシステムに過ぎません。

画像はどう作られているのか

こうした認識のズレに加えて、画像生成AI特有の描き方も違和感を生む大きな原因です。

多くの人が誤解していますが、AIによる画像の高画質化や補正は、従来の画像編集ソフトにある「シャープネス」や「色調補正」のような単なるフィルター処理ではありません

現在の主流であるAIは「拡散モデル（Diffusion Model）」に加え「Flow Matching（Rectified Flow）」と呼ばれるFlowベースの技術（FLUX.1やStable Diffusion 3などで採用）と呼ばれる技術を使っています。AIに「この写真をメニューっぽく加工して」とあいまいな依頼したとき、拡散モデル使用AI内部では以下のような処理が行われています。

1. 画像を意味ごとに圧縮
2. 指示に基づいて圧縮された画像にノイズを注入
3. 指示がベクトル化(画像の行く先を決める的な)
4. ベクトルに沿って、学習データの中からノイズ状態から完成画像へと向かい、ノイズを剥がしながら再描画

つまり、AIは元の画像を加工しているではなく、画像を一度ドロドロに溶かしてAIの記憶を頼りに新しい絵の具で同じような絵を模写しているようなものなのです。ロゴの文字が謎の象形文字に崩壊したり、あり得ないものが混ざったりするのはこのせいで起こってしまいます。

だが、凄まじいスピードで進化する最新モデルたち

とはいえ、象形文字になる、物理的におかしくなる（指が6本になる等）などAI特有の弱点は、現在進行形で急速に克服されつつあるみたいです。
私も上記のリンゴの画像など記事に使う画像を生成するとき、違和感はありますがクオリティが高くてびっくりするときもありました。

ほんの数年前（2022〜2023年頃）のモデルと比べ、現在私たちがアクセスできる主要なモデルは複雑な指示の正確な理解、画像内への文字の正確な描写、実写への肉薄というフェーズに突入しています。

1. ChatGPT（DALL-E 3）
   以前のモデルから劇的に進化し、ユーザーが入力した複雑なシチュエーションを漏らさず画像に反映するプロンプトへの追従性に長けています。
   OpenAI公式ブログ / DALL-E 3 System Card

2. Gemini（Imagen 3）
   実写のようなリアリズムと、画像内に看板やパッケージの文字を正確に書き込む能力が飛躍的に向上しています。
   Google DeepMind Imagen 3

3. Midjourney（v6）
   クリエイターから絶大な支持を集める。かつての弱点だった文字の描写や指示への忠実さを克服し、プロのカメラマンが撮影したような質感表現において他を圧倒しています。
   Midjourney公式リリースノート

現在の最新モデルを使えば、指定した文字を正確に描画させることも、人体の構造を破綻なく出力することも十分に可能です。

つまり、技術的には不自然なAI画像(倫理や法律の面は別だが)を回避する手段はすでに存在しているのです。

それにもかかわらず、なぜ今もなお街中に「不自然でおかしなAIメニュー」が溢れ返っているのでしょうか？
それは結局のところ、技術の限界ではなく、それを使う人間のリテラシーに原因が行き着くのです。

まとめ：AI時代にこそ求められる審美眼と専門性

私が最近街中で不自然なAIメニューを見かけたときに抱くもやもやは、まさにこの「意味を理解していないツールに自分のこだわりのある製品を世に知らすための広告などの制作を丸投げしている姿勢」から来ます。

現在街中で見かける不自然なAIメニューの多くは、モデル性能だけでなく、導入時の設計やレビュー工程にも課題があるように感じます。
生成AIは制作の初速を大きく上げてくれる一方で、法令適合性や事実性、ブランドとの整合性を自律的に担保できるわけではありません。だからこそ、最終判断を担う人の確認と承認プロセスがこれまで以上に重要になります。

AI時代において、人間の専門家やプロフェッショナルの役割は失われるどころか、むしろ重要性を増しています。それは、AIが秒速で生成してきた大量の草案の中から、致命的なウソを見抜き、修正し、責任を持って承認するレビュアーとしての審美眼なのかもしれません。

「よく分からないからAIに任せる」という姿勢は、企業にとって時限爆弾を抱える行為に等しいと言えます。正しい知識を持った人間がAIを使いこなし、最後のキーパーとして厳格な検品体制を敷くこと。それこそが、AIという強力なツールを安全に武器として活用するための唯一の道なのだと私は思います。