ChatGPTと長文を書いていたら、誰が言った言葉なのか分からなくなった
ChatGPTを使って実際に文章を作りながら、人間とAIでどうすればより良いコンテンツを作れるのかを試しています。
現在は、ChatGPTと一緒に長文記事を一本制作・公開し、その制作過程で起きた現象や失敗、気づきを個別のケースとして記録しています。
この記事も、その実験中に実際に起きた一例です。
ChatGPTが言った言葉を、私が気に入った
ChatGPTと長文の記事を作っている途中で、こんな話をしていました。
長く会話していると、ChatGPTの返答が少しずつ自分の好む方向に寄ってくるように感じる。
私が、
「そこ面白い」
「その方向でもっと掘りたい」
「綺麗にまとめすぎないでほしい」
「その変な部分は残したい」
と何度も返していると、その後の出力にもそうした傾向が増えてくる。
そんな現象について話していました。
そのときChatGPTが、
「AIは鏡というより、少し増幅器に近いのかもしれない」
という表現を出しました。
私は、
「それだ」
と思いました。
自分が言いたかったことを、かなり分かりやすく表現してくれたからです。
そこで、その言葉をその後の文章でも使うようになりました。
ここまでは特に問題ありません。
問題はその後です。
しばらくすると「私が言った言葉」みたいになっていた
長文記事の制作を続けていると、後からChatGPTがそれまでの内容を整理して文章にする場面が何度もあります。
その中で、
「AIは鏡というより増幅器に近い」
という考え方が、いつの間にか私自身が最初からそう表現していたような形で文章に組み込まれることがありました。
でも、私は覚えていました。
いや、それ最初に言ったのお前だろ。
私が話した現象をもとにChatGPTが「増幅器」という言葉を出した。
↓
私がその表現を気に入った。
↓
その後、私もその言葉を使うようになった。
という順番です。
ところが長いやり取りを繰り返しているうちに、
誰が最初にその表現を作ったのか
という情報が曖昧になっていました。
内容としては間違っていないのがややこしい
これが少し面白いところです。
現在の私は実際に、
AIは鏡というより、少し増幅器に近いのかもしれない
という表現を気に入っています。
自分の記事にも使っています。
自分の考えを説明するときにも使えます。
なので、
「これは私の考えです」
と言っても、それほどおかしくありません。
でも、
「この言葉を最初に考えたのは私です」
となると違います。
この二つは似ていますが、別の情報です。
この表現に同意している
↓
現在は自分でも使っている
↓
最初から自分が言った
最後の矢印だけは自動ではつながりません。
「うまく言葉にしてくれる」と「正確に記録している」は別だった
長くChatGPTを使っていると、
「この人はこういう表現が好きそうだ」
「こういう方向を面白がる」
「こういうまとめ方は嫌がる」
といった傾向が、会話の中でかなり共有されていきます。
その結果、
「そうそう、それが言いたかった」
という文章が出てくることがあります。
これはとても便利です。
ただ、その便利さによって私は一つ勘違いしかけました。
私に合った返答をするようになったことと、過去の出来事を正確な時系列で保存していることは別です。
さらに言えば、
うまく言葉にしてくれることと、私の人生について私より正確に覚えていることも別です。
文章制作の相手として「通じる」ようになってくるほど、記録装置としても信用したくなります。
でも、この二つは分けて考えた方がよさそうです。
長文制作では「内容」だけでなく「発言者」も確認する
この出来事以降、過去の会話を材料に文章を作るときは、
- 誰が最初に言ったのか
- いつ出てきた考えなのか
- 当時から考えていたのか
- 後から採用した考えなのか
- ChatGPTの解釈なのか
- 私自身の解釈なのか
という点も少し気にするようになりました。
普通の記事なら、ここまで厳密にする必要はない場合も多いと思います。
例えば、
「この表現分かりやすいな。使おう」
くらいなら、共同制作では普通に起こります。
ただし、
「この考えがどのように生まれたか」そのものを書く場合は話が変わります。
発言者と時系列が、そのまま記事の内容になるからです。
重要な経緯は、人間側でも残しておく
今のところ私がやっている対策は、ものすごく原始的です。
重要なものは元の会話やメモを残しておく。
これだけです。
特に、
- 誰が言ったかが重要な言葉
- 考え方が変化した瞬間
- 後から記事に使いそうな会話
- 時系列そのものに意味がある出来事
については、ChatGPTが後からまとめた文章だけを一次資料にしないようにしています。
ChatGPTに、
「これまでの経緯をまとめて」
とお願いすれば、とても読みやすい文章を作ってくれます。
でも、それは、
「過去の会話そのもの」ではなく「過去の会話を現在の文脈から整理した文章」
として扱った方が安全だと感じています。
AIと共同制作すると、言葉の所有者が少し曖昧になる
この経験は、困ったことではあるのですが、同時に少し面白くもありました。
私が話したことをChatGPTが言語化する。
その言葉を私が気に入って採用する。
採用した言葉を使って、さらに私が考える。
その考えをまたChatGPTが整理する。
こうなると、
「どこまでが私で、どこからがAIか」
を一文単位で綺麗に分けるのは難しくなってきます。
だから私は、
「AIが考えたから私の考えではない」
とも思っていません。
気に入って採用し、その後も自分で使っているなら、それは現在の自分の考えの一部にはなっています。
ただし、
現在誰の考えになっているかと、
最初に誰がその言葉を出したかは別です。
今回混ざったのは、そこでした。
AIは議事録ではなく、共同制作相手として扱うことにした
この経験から、ChatGPTとの長いやり取りについて、今はこんなふうに考えています。
| ChatGPTに任せていること | 扱い |
|---|---|
| 自分の考えを整理してもらう | かなり任せる |
| 別の表現を提案してもらう | かなり任せる |
| 大量の会話から文章を作る | かなり任せる |
| 自分では思いつかなかった言葉を出してもらう | 良ければ採用する |
| 過去の発言者を確認する | 元の記録も確認する |
| 細かい時系列を確認する | 元の記録も確認する |
つまり、
共同制作相手として便利であることと、議事録として正確であることは別。
この区別をするようになってから、かなり扱いやすくなりました。
AIには文章を作ってもらう。
AIが作った言葉も、良ければ普通に採用する。
でも、
「これ誰が最初に言ったんだっけ？」
が重要になったら、元の記録を確認する。
今のところ、このくらいの距離感で使っています。
文系Qiita部
この記事で扱った現象は、ChatGPTと長文を作っている途中で起きたことの一つです。
実際には、一つの記事を長期間一緒に作っていると、
文章が綺麗に整理されすぎたり、
途中の細かい情報が消えたり、
誰が最初に言った言葉なのか分からなくなったりと、
他にもいろいろな「なんか変だ」が起きました。
それらを一つずつ切り出して観察した記録を、
「文系Qiita部」にまとめています。
この実験の元になった長文記事
今回のケースは、私がChatGPTと一緒に長文記事を制作している途中で実際に起きたことを、個別に抜き出して整理したものです。
制作過程全体は、noteの
「何も役に立たないAIに書かせた記事が5000円で売れた」
という記事に残しています。
かなり「AIで稼ぐ」系に見えるタイトルですが、これは意図的です。刺激的なタイトルから入った読者が、そのまま読み進めるとどのような内容にたどり着くのか、という実験も兼ねています。
実際の本文は「AIを使えば簡単に稼げる方法」の紹介ではありません。
ChatGPTと記事を作りながら、文章が綺麗に整理されすぎる問題、AIとの長いやり取りで発言者や時系列が曖昧になる問題、途中の思考をどう残すか、人間とAIでどこまで役割分担するか、といったことを試行錯誤した制作記録です。
つまり、タイトルの時点では中身をかなり偽装していますが、Qiitaから来る方には先にネタバレしておきます。
今回の記事を書く際には、この長文記事を制作ログ・メモとして参照しています。