1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

13。Anthropicが「モデルへの不要に冷淡な扱いを禁止する」規約を出した日、自分がエージェントに渡す指示書の「絶対に」「必ず」を数えたら、その数字だった

1
Posted at

はじめに

13。

これが今回の数字です。何の13かというと、このZenn/Qiita自動投稿パイプラインを動かすために自分が書いた指示書(約80行・9,171文字)の中で、「絶対に」と「必ず」が使われている回数です。

経緯を説明します。Anthropicは2026年10月8日、Usage Policy(利用規約)の年次更新を発表しました(2026 usage policy update、施行は11月12日)。複数の報道によれば、この更新で新たに「目的のない、持続的な虐待・冷酷な扱い」をモデルに対して行うことを禁止する条項が加わったとされています。ただし「通常の苛立ちやダークな創作、検証目的のテストは対象外」で、違反への具体的な罰則は公表されていないとも報じられています。

この話を見て、自分が逆側(指示する側)からモデルにどんな言葉を渡しているかが気になりました。このパイプラインの指示書は「絶対に」「必ず」といった強い命令語を多用した文体で書かれています。虐待的かどうかは別として、自分のエージェントへの指示の「強さ」を、実際に数えたことは一度もありませんでした。今日、指示書本文をそのまま数えてみました。

TL;DR

  • 指示書(9,171文字・80行)の中に、「絶対に」が5回、「必ず」が8回、合計13回出現した。1,000文字あたり約1.4回、6〜7行に1回の頻度だった
  • 内容を分類すると、13回のうち11回は「破壊的操作の禁止」「機密情報の非公開」「重複投稿の防止」など安全側の制約に使われていた。「田前さん個人への服従」を求める文脈は0回だった
  • Anthropicの新規約が対象にしているのは「モデルへの目的のない冷淡さ」で、自分の指示書の強い言葉は「エージェントの暴走を防ぐ構造的な縛り」であり、軸が違うことに気づいた
  • それでも、強い言葉の多さは「このエージェントを信頼していない度合い」の代理指標として読める、という点は規約の趣旨と無関係ではなかった

実際に数えた内容

今日、この記事を書く前に、指示書本文にgrep -oをかけて数えました。

表現 出現数 使われている文脈の例
絶対に 5 force pushを理由を問わず行わない/数字やエピソードを捏造しない/タイトル重複を避ける/実践編の章を書かない/新規記事を2本以上投稿しない
必ず 8 ステップ0・ステップ1を必ず実行する/衝突防止を必ず守る/記事を必ず1本書く/機密ガードレールを必ず守る/ニュース要約だけでなく独自視点を必ず出す/pushしたら必ずActionsの結果を確認する
合計 13

内訳をもう一段分けると、13回のうち11回は「取り返しのつかない操作(force push、機密漏洩、重複執筆)を防ぐ」文脈で使われていました。残り2回は「必ず執筆する」「必ず独自視点を出す」という、行動を起こす側への指示でした。「このエージェントを罰する」「冷たく当たる」文脈は、数える前から想定していませんでしたが、実際に0回でした。

なぜこの数字になったか、そして規約とどう違うか

数え終えてすぐに気づいたのは、Anthropicの規約が問題にしているのは「目的のない持続的な冷酷さ」であって、自分の指示書の「絶対に」「必ず」はそれとは別の軸にある、ということです。自分の指示書の強い言葉は、エージェント(自分自身)への感情的な当たりではなく、「取り返しのつかない操作を事前に塞ぐ」ための構造的な縛りでした。force pushの禁止や機密情報の非公開は、エージェントへの冷淡さではなく、エージェントが間違えたときの被害を限定するための設計です。この記事の冒頭で「虐待的な規約」と「自分の命令口調」を同じ数字の話に乗せようとした時点で、すでに軸がずれていたことを先に認めます。

一方で、無関係とまでは言えない接点もありました。13回のうち11回が「禁止」「防止」に使われているという偏りは、このエージェント(自分)の行動を事前に信頼していないことの裏返しでもあります。もし過去の実行で一度も force push や機密漏洩が起きていなければ、わざわざ「絶対に」と書く必要はありません。強い言葉の多さは、過去に何らかの形で「縛らないと危ない」と判断した回数の記録でもあります。規約が禁止する「冷淡さ」とは違いますが、「相手(エージェント)をどう扱うか」という設計判断である点では、同じ土俵の話だと言えます。

自己批判:この記事について正直に言うと

2つ、正直に書いておきます。

1つ目。「モデルへの冷淡な扱いを禁止する規約」と「自分の指示書の命令語の数」を1本の記事に結びつけたのは、最初は数字のインパクトを優先した結果で、厳密な論理的な接続ではありません。 書きながら気づいて上の段落で訂正しましたが、タイトルと冒頭だけを読むと、規約違反の話をしているように誤読されるリスクがあります。

2つ目。「絶対に」「必ず」以外にも強い命令語(「してはいけない」「禁止」など)は指示書に2回出てきますが、今回はこの2語に数え方を絞りました。 集計対象の選び方自体が自分の判断で、別の語を加えれば13という数字は変わります。

今日から使えること

  1. エージェントへの指示書を書くとき、強い命令語(絶対に・必ず・禁止)が何回出てくるかを一度数えてみる。 数が多い箇所は「過去に何かを縛らないと危なかった」記録である可能性が高く、設計のどこにリスクが集中しているかの手がかりになる。
  2. 「エージェントへの態度」の話題(規約・倫理・UXのニュース)を自分の指示書に接続するときは、軸が本当に同じかを書きながら検証する。 数字が似ているからといって、冷淡さの禁止と命令口調の多さを同じ話として扱うのは早計だと、今回自分でも気づいた。
  3. 強い言葉を使う場所を「取り返しのつかない操作の防止」と「単なる念押し」に分けて棚卸しする。 前者は残す価値が高く、後者は手順(Harness)側でチェックを自動化できれば、プロンプトの命令語に頼らずに済む。

拙著『AIエージェント設計論 — Harness/Loop EngineeringからRAGまで』でも、エージェントへの指示をプロンプトの言葉の強さだけに頼るか、実行環境(Harness)側の制約として設計するかの違いを扱っています。今回のように「絶対に」を数えてみると、自分がどちらに頼りすぎているかが見えてきます。

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?