0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

AI返信事故を止めるGASロールバック台帳と機能フラグの作り方

0
Posted at

AIで問い合わせ返信の下書きを作る運用では、誤案内を見つけてから原因を調べ始めると、その間も同じ設定で下書きや送信が続くおそれがあります。先に必要なのは精度改善ではなく、送信経路を止め、承認済みの設定一式へ戻し、人が再開を決められる仕組みです。

この記事では、GoogleスプレッドシートとGoogle Apps Script(GAS)で、AI返信の運用モード、設定バンドル、障害記録を管理する最小構成を作ります。AI APIやメール送信には接続せず、停止と復旧の制御面だけを実装します。

この記事で作るもの

処理の流れは次のとおりです。

  1. 異常を検知した担当者が運用モードを draft_only へ変更する
  2. 適用中のプロンプト、FAQ、分類、モデル設定をバンドル単位で記録する
  3. 障害の影響範囲を問い合わせ参照IDで残す
  4. 承認済みの復旧バンドルへ切り替える
  5. 固定テスト後に責任者が再開を承認する

AIの候補作成と人間確認を分けるレビューゲート

この仕組みは顧客への訂正や自動返信を実行しません。契約、料金、返金、苦情、個人情報を含む判断は人が行います。

シートを3つ用意する

runtime_control

現在の運用状態を1行だけ保持します。

列 例 用途
mode draft_only auto_send / draft_only / disabled
active_bundle reply-bundle-2026-07-08 現在使う設定一式
changed_at 2026-07-16T10:20:00+09:00 最終変更時刻
changed_by cs-ops-owner 操作者
reason incident:AIR-20260716-01 変更理由
restart_approved_by 空欄 再開承認者

bundles

復旧単位を管理します。

列 例
bundle_id reply-bundle-2026-07-08
status approved
prompt_version prompt-v12
knowledge_version faq-2026-07-08
classifier_version classify-v5
model_config model-config-v3
approved_by cs-ops-owner
approved_at 2026-07-08T14:00:00+09:00

incidents

問い合わせ本文ではなく、参照IDと判断だけを記録します。

列 用途
incident_id 障害識別子
detected_at 検知時刻
first_affected_at 影響開始候補
bundle_id 発生時の設定一式
inquiry_refs 対象問い合わせの参照ID
status investigating / mitigated / closed
owner 対応責任者
note 個人情報を含まない判断メモ

列を名前で参照する

列順の変更で停止処理が壊れないよう、ヘッダーから列番号を作ります。

const SHEETS = {
  CONTROL: 'runtime_control',
  BUNDLES: 'bundles',
  INCIDENTS: 'incidents',
};

function getSheet_(name) {
  const sheet = SpreadsheetApp.getActive().getSheetByName(name);
  if (!sheet) throw new Error(`Sheet not found: ${name}`);
  return sheet;
}

function indexColumns_(header, required) {
  const index = Object.fromEntries(
    header.map((value, position) => [String(value).trim(), position]),
  );
  required.forEach((name) => {
    if (!(name in index)) throw new Error(`Missing column: ${name}`);
  });
  return index;
}

function nowIso_() {
  return Utilities.formatDate(
    new Date(), Session.getScriptTimeZone(), "yyyy-MM-dd'T'HH:mm:ssXXX",
  );
}

スプレッドシートのタイムゾーンは運用拠点に合わせ、変更履歴ではISO 8601形式を使います。

最初に送信経路を止める

原因調査より先に draft_only または disabled へ切り替えます。

function setSafeMode(incidentId, operator) {
  if (!/^AIR-\d{8}-\d{2}$/.test(incidentId)) {
    throw new Error('Invalid incident ID');
  }
  if (!String(operator).trim()) throw new Error('Operator is required');

  const sheet = getSheet_(SHEETS.CONTROL);
  const values = sheet.getDataRange().getValues();
  if (values.length !== 2) {
    throw new Error('runtime_control must contain exactly one data row');
  }

  const col = indexColumns_(values[0], [
    'mode', 'changed_at', 'changed_by', 'reason', 'restart_approved_by',
  ]);
  const row = values[1];
  row[col.mode] = 'draft_only';
  row[col.changed_at] = nowIso_();
  row[col.changed_by] = operator;
  row[col.reason] = `incident:${incidentId}`;
  row[col.restart_approved_by] = '';
  sheet.getRange(2, 1, 1, row.length).setValues([row]);

  console.log(JSON.stringify({
    event: 'safe_mode_enabled', incidentId, operator, mode: 'draft_only',
  }));
}

運用側の返信処理は、毎回 runtime_control.mode を確認し、auto_send 以外では送信しない設計にします。GASが一時的に読めない場合も、安全側へ倒して送信しないようにします。

障害記録を追加する

個人情報を複製しないよう、問い合わせは業務システム側の参照IDだけを渡します。

function openIncident(input) {
  const required = [
    'incidentId', 'firstAffectedAt', 'bundleId', 'inquiryRefs', 'owner',
  ];
  required.forEach((key) => {
    if (!input[key] || (Array.isArray(input[key]) && !input[key].length)) {
      throw new Error(`Missing input: ${key}`);
    }
  });

  const refs = [...new Set(input.inquiryRefs.map(String))];
  if (refs.length > 100) throw new Error('Too many inquiry references');

  getSheet_(SHEETS.INCIDENTS).appendRow([
    input.incidentId,
    nowIso_(),
    input.firstAffectedAt,
    input.bundleId,
    refs.join(','),
    'investigating',
    input.owner,
    '',
  ]);
}

note に問い合わせ原文、氏名、メールアドレス、電話番号を入れないでください。顧客への訂正が必要かは、権限を持つ担当者が元システムで確認します。

承認済みバンドルだけへ戻す

プロンプトだけを前の版へ戻しても、FAQや分類ルールが新しいままでは状態を再現できません。設定一式をバンドルとして復旧します。

function findApprovedBundle_(bundleId) {
  const sheet = getSheet_(SHEETS.BUNDLES);
  const values = sheet.getDataRange().getValues();
  const col = indexColumns_(values[0], [
    'bundle_id', 'status', 'prompt_version', 'knowledge_version',
    'classifier_version', 'model_config', 'approved_by', 'approved_at',
  ]);

  const row = values.slice(1).find(
    (item) => String(item[col.bundle_id]) === bundleId,
  );
  if (!row) throw new Error(`Bundle not found: ${bundleId}`);
  if (String(row[col.status]) !== 'approved') {
    throw new Error(`Bundle is not approved: ${bundleId}`);
  }
  if (!row[col.approved_by] || !row[col.approved_at]) {
    throw new Error(`Approval evidence is incomplete: ${bundleId}`);
  }
  return { row, col };
}

function rollbackBundle(bundleId, operator, incidentId) {
  findApprovedBundle_(bundleId);

  const sheet = getSheet_(SHEETS.CONTROL);
  const values = sheet.getDataRange().getValues();
  const col = indexColumns_(values[0], [
    'mode', 'active_bundle', 'changed_at', 'changed_by', 'reason',
    'restart_approved_by',
  ]);
  const row = values[1];

  row[col.mode] = 'draft_only';
  row[col.active_bundle] = bundleId;
  row[col.changed_at] = nowIso_();
  row[col.changed_by] = operator;
  row[col.reason] = `rollback:${incidentId}`;
  row[col.restart_approved_by] = '';
  sheet.getRange(2, 1, 1, row.length).setValues([row]);
}

復旧後も draft_only のままにします。ロールバック成功と自動送信再開は別の判断です。

再開にはテスト結果と人間承認を要求する

再開関数へ、固定テストの実行IDと責任者を渡します。

function approveRestart(input) {
  const { testRunId, testStatus, approver } = input;
  if (!testRunId || testStatus !== 'pass' || !approver) {
    throw new Error('Passed test and approver are required');
  }

  const sheet = getSheet_(SHEETS.CONTROL);
  const values = sheet.getDataRange().getValues();
  const col = indexColumns_(values[0], [
    'mode', 'changed_at', 'changed_by', 'reason', 'restart_approved_by',
  ]);
  const row = values[1];

  if (String(row[col.mode]) !== 'draft_only') {
    throw new Error('Restart approval requires draft_only mode');
  }

  // 最初は下書き運用の再開だけを承認する。
  row[col.changed_at] = nowIso_();
  row[col.changed_by] = approver;
  row[col.reason] = `restart_approved:test:${testRunId}`;
  row[col.restart_approved_by] = approver;
  sheet.getRange(2, 1, 1, row.length).setValues([row]);
}

ここでは auto_send に変えません。一定件数の下書きを人が確認した後、自動送信が本当に必要な場合だけ別の承認手順で切り替えます。

再開前チェックリスト

  • 通常FAQが承認済みの根拠IDと版を返す
  • 根拠のない質問を推測せず保留にする
  • 契約、金額、返金、苦情を人間確認へ送る
  • 問い合わせ原文や個人情報を障害台帳へ複製しない
  • 問題が起きた入力を架空ケースで再現し、不合格にならない
  • 復旧バンドルの全構成要素が承認済みである
  • 当番とは別に、再開責任者が結果を確認した
  • 再開後の監視件数と確認時間を決めた

権限と保護を追加する

実運用では次も設定します。

  • runtime_control と bundles の編集範囲を保護する
  • スクリプト実行者を当番と運用責任者へ限定する
  • 操作者名を自由入力にせず、社内の識別子と照合する
  • スプレッドシートの変更履歴だけに頼らず、障害IDと変更理由を残す
  • 障害中にGASが失敗したら、送信処理を安全側で停止する
  • 平常時に draft_only への切り替え訓練を行う

GASやシートの権限は認証そのものの代わりにはなりません。重要な操作ではGoogle Workspace側の共有設定、二要素認証、監査ログも組み合わせます。

この構成で自動化しないこと

このサンプルは、AI出力の正しさの保証、問い合わせ本文の外部AI送信、顧客への自動訂正、返金・契約判断を扱いません。停止解除や自動送信再開もAIへ任せません。

まずは平常時に、担当者が15分以内に draft_only へ切り替え、承認済みバンドルを特定できるか試してください。できなければ、精度改善より先に停止場所、復旧版、再開責任者を1枚へまとめるのが安全です。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?