AIに「考えること」を任せすぎていないか、という問い
AIに仕事を任せる場面が日常になった。要約、下調べ、コードのたたき台、意思決定の相談まで、頼めばそれらしい答えが返ってくる。生産性は確かに上がる。ではその見返りに、私たちは何を手放しているのか。デザイナーでありAI研究者でもある Yennie Jun が、ニュースレター記事「Are we offloading too much of our thinking to AI?」でこの問いを掘り下げている。効率化そのものを否定する話ではない。焦点は、作業を任せるのと判断を任せるのは別物だ、という一点にある。
元記事: https://www.artfish.ai/p/offloading-thinking-to-ai
「作業の自動化」と「主体性の自動化」を分ける
Jun の議論の軸は、AIに任せる対象を二つに切り分けるところにある。一つは単調で反復的な作業。もう一つは、自分が何を考え、何を望むかという主体性の部分だ。前者を任せるのは合理的だが、後者まで明け渡すと、自律や独立した判断が静かに削られていく。彼女はこの区別を「human work(人間の作業)」と「human agency(人間の主体性)」という言葉で表現している。
背景として、いくつかの一次資料が引かれている。METR の「Task-Completion Time Horizons of Frontier AI Models」は、最先端モデルがこなせるタスクの複雑さが増していることを扱った報告だ。OECD は職場における反復業務の自動化への影響を、国際労働機関(ILO)の「Digital Labour Platforms and the Future of Work」は、これまで安価な人手に頼ってきた作業の実態を論じている。技術が単調な労働を引き受けていく流れ自体は、止まらないという前提に立っている。
問題は、その流れが「考えること」まで巻き込んだときに起きる。
物語と現実、二つの極端な例
Jun はまず、Ken Liu が2012年に発表した短編「The Perfect Match」を持ち出す。作中のAIアシスタント「Tilly」は、朝食から恋愛相手まで、主人公の選択をすべて代行する。あまりに的確なので、主人公は自分の好みを育てる機会を持たないまま暮らしていく。Tilly は問いかける。「あなたの好みや気分を、私以上に知っている者がいる?」。便利さの果てに、自分が何を好きなのかを自分で知らなくなる、という寓話だ。
対になる現実側の例として登場するのが、彼女が「Microphone Man」と呼ぶ起業家だ。この人物はあらゆる会話を録音し、Claude に分析させ、自分の「クリティカルシンキング」をAIに委ねていると公言する。理由は「AIのほうが自分より賢いから」。しかも同時に、他人のデータを本人の同意なく集めて事業にしている。物語の中の依存が、現実にすでに起きているという対比になっている。
ここで Jun は自分自身にも刃を向ける。彼女もまた個人データを収集し、過去にはそれをAIに分析させてきた。だとすれば、自分のやっていることは Microphone Man と本質的に何が違うのか、と正直に問い返す。批判を他人事にせず、境界線がどこにあるのかを自分の実践の中で探そうとする姿勢が、この記事を単なる警鐘以上のものにしている。
ポルトガルでの寄り道が示したもの
その境界線を具体的に示すのが、姉との旅行中のエピソードだ。ポルトガルが植民地時代の歴史をアメリカとは異なる形で祝っているのはなぜか。二人は当初、その疑問をそのまま ChatGPT に尋ねようとした。だがいったん手を止め、まず自分たちで仮説を立ててみることにした。あれこれ推測を重ねたうえで、最後にAIを使って自分たちの仮説を検証した。
即座に答えを受け取るより、この寄り道のほうがずっと満足度が高かったと彼女は書いている。同じAIを使っていても、思考を肩代わりさせる使い方と、自分の思考を試し広げる使い方は、まるで別の行為だという実感だ。ここに、任せてよいものと手放してはいけないものの分かれ目がある。
結論は「誰が決めるのか」
記事が最後に置く問いはシンプルだ。あなたが何を考え、何を望むかを、いったい誰が決めているのか。作業をAIに渡すのは構わない。しかし欲求や判断を形づくるプロセスにまで自分が関わり続けなければ、主体性はいつのまにか外注される。たとえAIに任せたほうが速くても、自分で考える手間を残すことに意味がある、というのが結び目になっている。
エンジニアとして受け取れること
ここからは私見だが、この議論は開発の現場にそのまま重なる。AIの生成物を出発点として使い、自分の判断で検証し組み替えるのは健全だ。一方で、なぜそう書くのかを考えないまま提案を丸呑みすると、設計の意図もトレードオフの感覚も自分の中に残らない。ポルトガルの寄り道が示した「まず仮説を立て、AIで検証する」順序は、レビューや設計判断にも応用が利く。答えを取りに行く前に、自分なりの見立てを一度通す。その一手間が、任せた先で失いがちなものを守ってくれる。効率と主体性は二者択一ではなく、どこで手を止めるかの設計問題なのだと思う。🧭
出典: Yennie Jun「Are we offloading too much of our thinking to AI?」ニュースレター『Leadership in Tech』で紹介。原文: https://www.artfish.ai/p/offloading-thinking-to-ai