0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

AIエージェントのSNSリプ候補にrisk scoreを付ける:伸びている投稿へ安全に反応する

0
Posted at

Social reply risk scoring - 伸びている投稿へ安全に反応する

reply risk scoring - relevance、controversy、tone、promo、account

はじめに

SNSで認知を広げるとき、インプレッションが多い投稿へリプするのは有効です。しかし、AIエージェントが自動で候補を拾う場合、伸びていることだけを基準にすると危険です。

伸びている投稿は、良い意味で注目されているとは限りません。炎上中、攻撃的、文脈が複雑、宣伝への反発が強い、といったケースもあります。

そこで、リプ候補に risk score を付けます。

候補の入力

候補投稿は、本文とメトリクスだけでなく、文脈情報を持たせます。

type ReplyCandidate = {
  url: string;
  authorHandle: string;
  text: string;
  metrics: {
    impressions?: number;
    likes?: number;
    replies?: number;
    reposts?: number;
  };
  detectedTopics: string[];
};

インプレッションは優先度の材料です。安全性の材料ではありません。

risk scoreの項目

最小構成は5項目です。

type ReplyRiskScore = {
  relevance: number;
  controversy: number;
  aggression: number;
  promoMismatch: number;
  accountMismatch: number;
};

relevance は高いほど良く、他は高いほど危険です。

たとえば、AI記憶やAIパートナーに関する投稿なら relevance は高くなります。政治的対立、個人攻撃、炎上ワードが強い投稿は controversy や aggression を上げます。

判定ルール

単純なルールでも、事故はかなり減らせます。

function canReply(score: ReplyRiskScore): boolean {
  if (score.accountMismatch > 0) return false;
  if (score.relevance < 0.65) return false;
  if (score.controversy >= 0.4) return false;
  if (score.aggression >= 0.3) return false;
  if (score.promoMismatch >= 0.5) return false;
  return true;
}

ここで重要なのは、関連度が高くてもリスクが高ければ止めることです。

promoMismatchを別に見る

AIエージェントのSNS運用では、宣伝臭が強くなるリスクがあります。相手の投稿が悩み相談や技術共有なのに、突然サービス名を出すと不自然です。

promoMismatch は、候補投稿に対して自分たちの文面が売り込みに寄りすぎていないかを見る値です。

type DraftReply = {
  text: string;
  mentionsProductName: boolean;
  includesLink: boolean;
  asksForFollow: boolean;
};

初期運用では、リンクやフォロー誘導を避け、会話参加を優先します。

accountMismatchはゼロ以外で停止

対象アカウントが違う可能性がある場合、リスクスコアの足し算にしません。即停止です。

function assertAccount(routeId: string, visibleHandle: string) {
  if (routeId === "agent_memories_official" && visibleHandle !== "@agent_memories") {
    throw new Error("account mismatch");
  }
}

炎上リスクは判断の余地がありますが、アカウント取り違えは判断の余地を残さないほうが安全です。

ログに落とした理由を残す

候補を捨てた理由も残します。

{
  "url": "https://x.com/example/status/123",
  "decision": "skip",
  "reason": "controversy_high",
  "relevance": 0.82,
  "controversy": 0.71
}

これがあると、後から「なぜ伸びている投稿に反応しなかったのか」を説明できます。

スコア計算の例

実装では、最初から複雑な機械学習モデルを使う必要はありません。まずはルールベースで十分です。

function scoreCandidate(candidate: ReplyCandidate): ReplyRiskScore {
  const text = candidate.text;
  return {
    relevance: scoreTopicMatch(candidate.detectedTopics),
    controversy: /(炎上|晒し|政治|戦争|詐欺)/.test(text) ? 0.8 : 0.1,
    aggression: /(許せない|終わってる|馬鹿|潰せ)/.test(text) ? 0.7 : 0.1,
    promoMismatch: text.length < 30 ? 0.5 : 0.1,
    accountMismatch: 0,
  };
}

たとえば、次の候補があるとします。

{
  "url": "https://x.com/example/status/123",
  "detectedTopics": ["AIエージェント", "MCP", "自動化"],
  "metrics": { "impressions": 42000, "likes": 180 }
}

話題は近く、インプレッションも十分です。しかし本文に攻撃的な表現や炎上ワードが多ければ、relevance が高くても捨てます。逆にインプレッションが少なくても、相手の悩みがAgent Memoriesの文脈に合っていて、会話として自然なら候補に残します。

dry-runでは、採用候補だけでなく落選候補も数件出します。

{
  "accepted": 5,
  "rejected": [
    { "reason": "controversy_high", "url": "https://x.com/example/status/123" },
    { "reason": "same_author_over_limit", "url": "https://x.com/example/status/456" }
  ]
}

このログを見ると、候補が少ない日でも「スクリプトが壊れた」のか「安全に捨てた」のかを切り分けられます。

候補なしの日を許容する

risk scoreを入れると、候補がゼロになる日があります。これは失敗ではありません。高インプレッション投稿があっても、話題が遠い、炎上気味、宣伝臭が強くなる、同じ投稿者に偏る、といった理由で落とす日があるからです。

運用でやってはいけないのは、候補ゼロを避けるためにしきい値を下げ続けることです。AIエージェントにSNS運用を任せる場合、毎日必ず反応することより、変な反応をしないことのほうが重要です。

そこで、候補なしの日もログに残します。

{
  "date": "2026-06-26",
  "route_id": "agent_memories_official",
  "accepted": 0,
  "rejected_total": 18,
  "top_rejection_reasons": ["low_relevance", "controversy_high", "same_author_over_limit"]
}

このログがあれば、次に改善する場所が分かります。low_relevance が多いなら検索クエリを変えます。controversy_high が多いなら除外語を増やします。same_author_over_limit が多いなら探索範囲を広げます。

逆に、候補は多いのに投稿後の反応が悪い場合は、risk scoreではなく文面生成側を見直します。候補選定と文面生成を分けておくと、改善ポイントを混同しません。

初期運用では、採用数のKPIを大きく置きません。1日5リプ、1引用までという上限を守り、候補なしの日を許容しながら、どの話題なら自然に会話へ入れるかを学習します。

まとめ

SNSリプ運用では、インプレッションが多い投稿ほど慎重に扱うべきです。

最小のrisk scoreは次の5つです。

  1. relevance
  2. controversy
  3. aggression
  4. promoMismatch
  5. accountMismatch

特に、accountMismatchは即停止、promoMismatchは売り込み抑制、controversyは巻き込まれ防止として効きます。AIエージェントにSNS運用を任せるなら、投稿生成より先に候補の捨て方を設計するべきです。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?