この記事は、note・Zennにも掲載しています。
商品を紹介する記事をAIに書かせていたら、渡してもいない中身について、具体的な感想が返ってきました。場面も、作り手の仕事ぶりも、終わり方も。
全部、AIが作ったものでした。そして文章としては自然なので、気づくまでに記事を10本近く出していました。
この記事は、その原因と、止めるためにやった4つのことの記録です。商品紹介に限らず、AIに「体験したこと」を書かせるすべての場面で起きます。
最初に起きたこと
商品を紹介する記事をAIに書かせていました。渡していた情報は、たったこれだけです。
1. 商品名: （正式タイトル）
URL: （アフィリエイトリンク）
概要: （メーカー名）
推奨CTA文言: 詳細はこちら
商品名とメーカー名、それだけ。中身を説明するデータは一行も渡していません。
にもかかわらず、返ってきた記事にはこう書かれていました。
最初は玄関で緊張していた人が、後半には勝手に冷蔵庫を開けている。
○○さんの演技も、序盤のよそよそしさと後半のくつろぎ方の差がしっかり作ってあって、時間が経ったことを説明台詞なしで伝えてくる。
事が済んだあとに、いきなりスタッフロールに行かず、部屋のカットや、身支度のカット、何気ない会話を一枚挟んでくる構成。
全部、根拠がありません。場面も、演技も、終わり方も、AIが作ったものです。
しかも文章としては自然です。読んでいて違和感がない。だから公開されるまで気づきませんでした。私がこれに気づいたのは、記事を10本近く出したあとでした。
なぜこうなるのか
理由は単純で、情報は少ないのに、長い文章を要求したからです。
「2000字以上でレビューを書いて」と指示すれば、モデルは2000字を埋めようとします。材料が足りなければ、それらしいものを作って埋めます。悪意ではなく、指示に忠実であろうとした結果です。
この構図は、商品の種類を問いません。家電でも、書籍でも、旅行先でも、飲食店でも、「実物に触れていないAIに、触れた人の文章を書かせている」なら同じことが起きます。
何がまずいのか
三つあります。
1. 読者の信頼が一瞬で消える
その商品を知っている読者が一人でも読めば、嘘だと分かります。そして一度分かると、他の記事も全部疑われます。サイト全体の信頼が、一本の記事で吹き飛びます。
2. 法的なリスクがある
商品の内容について事実と異なる説明をして購入を促すのは、景品表示法の優良誤認にあたる可能性があります。「AIが勝手に書いた」は理由になりません。公開した人の責任です。
3. 実在の人物について、根拠のないことを書いてしまう
これが一番怖い部分でした。私が扱っていた商品には実在の出演者がいます。AIは、その人の演技について具体的な評価を書いていました。褒めていても、根拠がなければ捏造です。
対処1：渡せる事実を全部渡す
まず疑ったのは、自分の渡し方でした。
APIからは、実はもっと多くの情報が取れていました。使っていなかっただけです。
- 正式タイトル
- 出演者、制作者、レーベル
- 収録時間
- 発売日
- 分類タグ（複数）
- レビューの件数と平均点
- 公開されているサンプル素材の種類と枚数
これを全部、構造化して渡すようにしました。
1. タイトル: （正式タイトル）
出演: （氏名）
メーカー: （社名）
収録時間: 119分
発売日: 2024-05-31
ジャンルタグ: （タグA、タグB、タグC）
レビュー: 平均4.38／5.0（40件）
公開されている素材: サンプル画像12枚、サンプル動画あり
これだけで、書ける内容がかなり変わります。「レビュー40件で平均4.38なら、評価はある程度固まっている」という書き方ができるようになる。事実に基づいた具体性は、捏造の具体性より説得力があります。
対処2：「書いてはいけないこと」を名指しで禁止する
渡す情報を増やしても、足りない部分はやはり埋めようとします。そこで、書いてはいけないものを具体例つきで列挙しました。
抽象的に「正確に書いてください」と指示しても効きません。効いたのは、こういう書き方でした。
あなたは紹介する商品を見ていません。
与えられるのは上記の項目だけで、中身の情報はありません。
したがって次は絶対に書かないでください。これらはすべて創作になります。
- 具体的な場面の描写（「玄関で緊張していた」「冷蔵庫を開けている」など）
- 構成・編集・撮り方への言及
- 結末の内容
- 作り手や出演者の仕事ぶりへの具体的な評価
（「序盤と終盤の温度差」「表情で見せてくる」など、見ていなければ書けないこと）
書いてよいのは、与えられた事実と、そこから読み取れることだけです。
「見た感想」ではなく「気になっている商品」として紹介してください。
断定を避け、「〜そうだ」「〜かもしれない」といった書き方にしてください。
ポイントは、実際に出てしまった悪い文章を、そのまま禁止例として書いたことです。自分の失敗作がそのまま教材になります。
対処3：本当に見たときだけ、感想を書かせる
ただし、全部の記事が「まだ見ていません」で終わるのも困ります。書き手が本当に触れたものについては、本物の感想を載せたい。
そこで、メモを置いたときだけ感想を書いてよいという仕組みにしました。
-
notes/商品ID.txtというファイルを置く - そのファイルがある商品にだけ、メモの内容がプロンプトに渡る
- メモのない商品には「メモなし（見ていない商品として扱うこと）」と明示して渡す
視聴メモ（実際に見た感想。この範囲でのみ感想を書いてよい）:
前半の会話がとにかく長い。40分くらい何も起きない
その長さが効いていて、後半の落差が大きく感じた
（メモがない商品には）視聴メモ: なし（見ていない商品として扱うこと）
メモは箇条書きで十分です。書いた範囲だけが記事になり、書いていないことは足されません。
この仕組みのいいところは、自分が何本見たかが、そのままコンテンツの厚みになることです。見ていないのに見たふりをする必要がなくなります。
対処4：生成した文章を、機械で検査する
指示を書いても、必ずしも守られるとは限りません。そこで、生成後に自動で検査をかけました。
「見ていなければ書けない表現」を集めて、引っかかったら人間が確認する、という単純なものです。
FABRICATION = re.compile(
r"カメラ|カット割|長回し|ラストシーン|終盤の|序盤の|表情で見せ"
r"|の演技は|の芝居は|だから買った|外さなかった"
)
これを記事ごとに通して、検出数を記録します。件数が減っていけば、指示が効いている証拠になります。私の場合、対処前は1記事あたり5〜10件、対処後は0件になりました。
検査は完璧である必要はありません。 目的は全部を捕まえることではなく、自分の指示が効いているかを測ることです。
書き方そのものが変わった
対処をしたあと、記事はこう変わりました。
前
○○さんの演技は、快楽に流されていく過程を段階で見せてくるタイプだった。（中略）だから俺は買った。
後
タイトルに入っている情報だけで、構図がかなりはっきりしています。（中略）収録時間は120分、レビューは10件で平均4.70。件数はまだ少ないですが、評価は高めです。
確かめたいのは一点だけです。（中略）まだ見ていないので、ここは断定しません。
嘘がなくなった結果、文章はむしろ強くなりました。 「確かめたい」で終わるので、読者がサンプルを見に行く動機にもなります。
言い切らないことは、弱さではありませんでした。何を知っていて何を知らないかがはっきりしている文章のほうが、読んでいて信用できます。
この章のまとめ
- AIは、情報が足りないまま長文を要求されると、足りない部分を作って埋める
- 自然な文章なので、公開するまで気づかない
- 渡せる事実を全部渡す。それだけで具体性が変わる
- 禁止は抽象的に書かない。実際に出てしまった悪い文章を、そのまま禁止例にする
- 本当に触れたときだけ、メモを渡して感想を書かせる
- 生成物を機械で検査して、指示が効いているかを数字で測る
この問題は、商品紹介に限りません。AIに「体験したこと」を書かせるすべての場面で起きます。 自分の書かせている文章の中に、AIが知りようのない具体性が混ざっていないか。一度、検索をかけてみることをおすすめします。
規制のある分野（医療・金融・法律・成人向けなど）で、AIに文章を書かせる仕組みを個人で作っています。うまくいかなかった部分も含めて書いています。
次は「検査がすり抜けられた4回」について書きます。