生成 AI に医療文書の下書きを作らせる場合、精度評価だけでは運用を成立させられません。自然な文章で誤りを含む出力は、箇条書きの誤りより見落とされやすく、そのまま保存されると後続の診療や患者説明へ残ります[1]。
医療分野の生成 AI には、利用目的、入力データ、監督方法、説明責任を含む統治が必要です[2]。本記事では、診断や治療方針の決定ではなく、紹介状、退院サマリー、診療記録の要約、患者向け説明文の下書きを対象にします。
結論は単純です。AI の出力を正式文書へ直接保存せず、次の経路をシステム上の制約として実装します。
原資料
↓
AI による下書き
↓
原資料との照合
↓
人間による修正
↓
明示的な承認
↓
正式文書化
↓
後続システムへの連携
この記事で示す状態名、HTTP API、SQL、再認証時間は実装例です。法令適合性、医療機器該当性、院内規程への適合性は、採用する用途、製品、契約、運用体制に応じて別途確認する必要があります。
医療文書生成 AI を正式記録へ直結させない
生成 AI を業務へ組み込む際に、「最終確認は人間が行う」と書くだけでは制御になりません。人間が確認する前に文書が保存、送信、連携できる構造であれば、注意書きよりシステムの動作が優先されます。
本記事では、次の 4 条件を承認境界として扱います。
- AI の出力は必ず下書き状態で作成します。
- 原資料と照合した記録がなければ承認できません。
- レビュー後に本文が変わった場合は承認できません。
- 承認済みの版だけを後続システムへ連携します。
対象とする処理は文書作成支援です。病名の確定、処方、治療方針、受診要否、緊急性判定は同じ承認フローでは扱いません。これらは誤りが患者の行動や医療判断へ直接作用するため、評価方法と責任分界を別に設計する必要があります。
前提と検証用の最小構成
対象にする文書と対象外の判断
対象範囲を先に固定します。機能追加のたびに利用目的を拡張すると、下書き支援として設計した権限と監査では不足するためです。
| 区分 | 例 | 本記事での扱い |
|---|---|---|
| 文書の下書き | 紹介状、退院サマリー | 対象 |
| 記録の要約 | 診療記録、検査経過 | 対象 |
| 説明文の整形 | 患者向け説明文 | 対象 |
| 診断 | 病名の確定 | 対象外 |
| 治療判断 | 投薬、手術、入退院の決定 | 対象外 |
| トリアージ | 受診要否、緊急性の判定 | 対象外 |
| 自動送信 | 患者、他院、外部サービスへの直接送信 | 対象外 |
API の仕様にも、この境界を反映します。文書生成、編集、レビュー、承認、承認済み文書の連携だけを公開し、診断確定や処方を行う操作は設けません。
API、データベース、認証基盤の構成
検証例では、次の構成を使います。
OIDC Provider
↓
Document API
├── AI Gateway
├── PostgreSQL 16
└── External System Adapter
OIDC は、認証基盤が発行するトークンを使って利用者を識別する方式です。Document API はトークン内の利用者 ID、役割、認証方法、認証時刻を確認し、操作を許可または拒否します。
設定値は次のように分離します。
DATABASE_URL=postgresql://medical_app:change-me@localhost:5432/medical_ai
OIDC_ISSUER=https://idp.example.invalid
OIDC_AUDIENCE=medical-document-api
AI_GATEWAY_URL=http://localhost:8090
MEDICAL_AI_GENERATION_ENABLED=true
APPROVAL_REAUTH_MAX_AGE_SECONDS=300
APPROVAL_REAUTH_MAX_AGE_SECONDS=300 は、承認時に 5 分以内の再認証を要求する例です。一律の制度要件ではないため、実運用では院内の認証規程とリスク評価に合わせます。
接続状態は、アプリケーションの実装へ進む前に個別に確認します。
psql "$DATABASE_URL" -c 'SELECT version();'
curl -fsS \
"$OIDC_ISSUER/.well-known/openid-configuration" \
>/dev/null
curl -fsS \
http://localhost:8080/health \
>/dev/null
期待する結果は、PostgreSQL 16 系のバージョン表示、OIDC メタデータの取得成功、Document API の終了コード 0 です。ここで接続できない状態を、文書生成や承認処理の不具合と混同しないようにします。
実患者データを使わずに検証する
初期検証には、架空の患者番号と架空の医療情報だけを使います。医療情報は要配慮個人情報を含み得るため、利用目的、安全管理措置、委託先の監督、第三者提供等を確認しなければなりません[3]。
テスト用の原資料を作成します。
{
"patient_id": "TEST-0001",
"patient_name": "検証用患者",
"admission_date": "2026-07-01",
"discharge_date": "2026-07-05",
"allergies": ["検証用薬剤 A"],
"medications": [
{
"name": "検証用薬剤 B",
"dose": "10 mg",
"frequency": "1 日 1 回"
}
],
"test_results": [
{
"name": "検証項目 X",
"value": "12.3",
"unit": "unit"
}
],
"clinical_note": "発熱なし。退院時に症状の悪化なし。"
}
原資料の同一性を確認できるように、SHA-256 ハッシュを計算します。
SOURCE_SHA256=$(openssl dgst -sha256 test-source.json | awk '{print $2}')
printf '%s\n' "$SOURCE_SHA256"
外部の AI サービスを利用する場合は、少なくとも次の項目を契約と実設定の両方で確認します。
| 確認項目 | 判断内容 |
|---|---|
| 学習利用 | 入力と出力がモデル学習へ利用されるか |
| 保存 | 保存の有無、保存期間、保存場所 |
| 再委託 | 再委託先と処理内容を把握できるか |
| 閲覧 | サービス事業者の管理者が内容を閲覧できるか |
| 削除 | 契約終了時や事故時に削除を実行できるか |
| 通知 | 漏えい、誤送信、障害時の通知条件が定められているか |
設定画面に「学習へ使用しない」と表示されているだけでは、委託関係、保存、再委託、事故対応まで確認したことにはなりません。
下書きから正式文書までを状態遷移で管理する
文書状態を 5 種類に限定する
文書の状態を次の 5 種類に限定します。
| 状態 | 意味 | 外部連携 |
|---|---|---|
generated |
AI または人間が下書きを作成した | 不可 |
in_review |
原資料との照合対象になっている | 不可 |
approved |
承認条件を満たして正式化された | 可 |
rejected |
不一致や不足により差し戻された | 不可 |
superseded |
新版によって置き換えられた旧版 | 不可 |
許可する状態遷移は次のとおりです。
generated ──→ in_review ──→ approved ──→ superseded
↑ │
└── rejected ←─┘
generated から approved への直接遷移は許可しません。承認済み文書を generated へ戻す操作も禁止し、訂正時は新しい版を作ります。
厚生労働省のガイドライン第 7.0 版は、利用者の認証と権限を管理し、電子カルテでは記録の確定、更新履歴、代行入力に関する利用者識別と権限をシステムへ反映するよう求めています[4]。本記事の状態名は同ガイドラインの規定ではなく、記録確定と更新履歴を実装へ落とすための設計例です。
PostgreSQL に状態と版を保存する
最小のデータ構造を作成します。
CREATE TYPE document_state AS ENUM (
'generated',
'in_review',
'approved',
'rejected',
'superseded'
);
CREATE TABLE medical_document (
document_id text NOT NULL,
document_version bigint NOT NULL,
document_type text NOT NULL,
state document_state NOT NULL,
content text NOT NULL,
content_sha256 char(64) NOT NULL,
source_snapshot_id text NOT NULL,
source_sha256 char(64) NOT NULL,
model_id text,
model_version text,
prompt_version text,
generated_by text NOT NULL,
created_at timestamptz NOT NULL DEFAULT now(),
updated_at timestamptz NOT NULL DEFAULT now(),
PRIMARY KEY (document_id, document_version)
);
CREATE TABLE document_review (
review_id text PRIMARY KEY,
document_id text NOT NULL,
document_version bigint NOT NULL,
reviewed_content_sha256 char(64) NOT NULL,
reviewer_id text NOT NULL,
patient_identity_checked boolean NOT NULL,
dates_checked boolean NOT NULL,
medications_checked boolean NOT NULL,
dosages_and_units_checked boolean NOT NULL,
test_values_checked boolean NOT NULL,
negations_checked boolean NOT NULL,
allergies_checked boolean NOT NULL,
unsupported_statements_absent boolean NOT NULL,
review_comment text NOT NULL,
reviewed_at timestamptz NOT NULL DEFAULT now(),
FOREIGN KEY (document_id, document_version)
REFERENCES medical_document (document_id, document_version)
);
CREATE TABLE document_approval (
approval_id text PRIMARY KEY,
document_id text NOT NULL,
document_version bigint NOT NULL,
review_id text NOT NULL REFERENCES document_review (review_id),
approved_content_sha256 char(64) NOT NULL,
approver_id text NOT NULL,
approved_at timestamptz NOT NULL DEFAULT now(),
FOREIGN KEY (document_id, document_version)
REFERENCES medical_document (document_id, document_version),
UNIQUE (document_id, document_version)
);
CREATE TABLE audit_event (
event_id text PRIMARY KEY,
document_id text NOT NULL,
document_version bigint NOT NULL,
actor_id text NOT NULL,
actor_role text NOT NULL,
action text NOT NULL,
before_state document_state,
after_state document_state,
content_sha256 char(64) NOT NULL,
request_id text NOT NULL,
occurred_at timestamptz NOT NULL DEFAULT now()
);
CREATE TABLE integration_outbox (
outbox_id text PRIMARY KEY,
document_id text NOT NULL,
document_version bigint NOT NULL,
event_type text NOT NULL,
created_at timestamptz NOT NULL DEFAULT now(),
delivered_at timestamptz,
FOREIGN KEY (document_id, document_version)
REFERENCES medical_document (document_id, document_version),
CHECK (event_type = 'DOCUMENT_APPROVED')
);
スキーマを適用します。
psql "$DATABASE_URL" -v ON_ERROR_STOP=1 -f schema.sql
-v ON_ERROR_STOP=1 を付けると、途中の SQL が失敗した状態で後続処理を続けません。
不正な状態遷移をデータベースでも拒否する
画面でボタンを隠すだけでは、API の誤実装や管理ツールからの更新を止められません。状態遷移を検査するトリガーを追加します。
CREATE FUNCTION enforce_document_state_transition()
RETURNS trigger
LANGUAGE plpgsql
AS $$
BEGIN
IF OLD.state = NEW.state THEN
RETURN NEW;
END IF;
IF OLD.state = 'generated' AND NEW.state = 'in_review' THEN
RETURN NEW;
END IF;
IF OLD.state = 'in_review' AND NEW.state IN ('approved', 'rejected') THEN
RETURN NEW;
END IF;
IF OLD.state = 'rejected' AND NEW.state = 'generated' THEN
RETURN NEW;
END IF;
IF OLD.state = 'approved' AND NEW.state = 'superseded' THEN
RETURN NEW;
END IF;
RAISE EXCEPTION
'invalid document state transition: % -> %',
OLD.state,
NEW.state
USING ERRCODE = '23514';
END;
$$;
CREATE TRIGGER medical_document_state_transition
BEFORE UPDATE OF state ON medical_document
FOR EACH ROW
EXECUTE FUNCTION enforce_document_state_transition();
承認済みの版について、本文、原資料、生成条件を直接更新する操作も拒否します。
CREATE FUNCTION forbid_approved_document_rewrite()
RETURNS trigger
LANGUAGE plpgsql
AS $$
BEGIN
IF OLD.state = 'approved' AND (
NEW.content IS DISTINCT FROM OLD.content OR
NEW.content_sha256 IS DISTINCT FROM OLD.content_sha256 OR
NEW.source_snapshot_id IS DISTINCT FROM OLD.source_snapshot_id OR
NEW.source_sha256 IS DISTINCT FROM OLD.source_sha256 OR
NEW.model_id IS DISTINCT FROM OLD.model_id OR
NEW.model_version IS DISTINCT FROM OLD.model_version OR
NEW.prompt_version IS DISTINCT FROM OLD.prompt_version
) THEN
RAISE EXCEPTION
'approved document version is immutable: % version %',
OLD.document_id,
OLD.document_version
USING ERRCODE = '23514';
END IF;
RETURN NEW;
END;
$$;
CREATE TRIGGER medical_document_approved_immutable
BEFORE UPDATE ON medical_document
FOR EACH ROW
EXECUTE FUNCTION forbid_approved_document_rewrite();
適用後、直接遷移が失敗することを確認します。
UPDATE medical_document
SET state = 'approved'
WHERE document_id = 'doc-001'
AND document_version = 1
AND state = 'generated';
期待する結果は、次の制約違反です。
ERROR: invalid document state transition: generated -> approved
SQL state: 23514
生成時に原資料と生成条件を固定する
AI へ送った入力を後から上書きすると、どの原資料から文書が生成されたかを再現できません。生成要求では、原資料のスナップショット ID とハッシュを指定します。
curl -i \
-X POST \
-H "Authorization: Bearer $AUTHOR_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-001/generate \
-d "{
\"document_type\": \"discharge_summary\",
\"source_snapshot_id\": \"src-20260726-0001\",
\"source_sha256\": \"$SOURCE_SHA256\"
}"
生成成功時の応答例です。
HTTP/1.1 201 Created
Content-Type: application/json
{
"document_id": "doc-001",
"document_version": 1,
"state": "generated",
"content_sha256": "3ce3...省略...9d1a",
"source_snapshot_id": "src-20260726-0001",
"source_sha256": "4ba2...省略...71c0",
"model_id": "example-model",
"model_version": "2026-07-01",
"prompt_version": "medical-document-v3"
}
この時点では、document_approval と integration_outbox に行を作りません。生成成功と正式文書化を同じトランザクションに入れないことが要点です。
原資料との照合結果を構造化する
自由記述の「確認済み」だけでは、薬剤、単位、否定表現のどこを照合したか分かりません。レビュー結果を項目ごとに保存します。
{
"document_version": 1,
"reviewed_content_sha256": "3ce3...省略...9d1a",
"patient_identity_checked": true,
"dates_checked": true,
"medications_checked": true,
"dosages_and_units_checked": true,
"test_values_checked": true,
"negations_checked": true,
"allergies_checked": true,
"unsupported_statements_absent": true,
"review_comment": "原資料との不一致なし"
}
登録します。
curl -i \
-X POST \
-H "Authorization: Bearer $REVIEWER_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-001/reviews \
-d @review.json
API は、次の条件を満たした場合だけ文書を in_review にします。
- レビュー者が
reviewer役割を持つ - レビュー者と生成者が異なる
- 指定された版が現在の版と一致する
- 指定されたハッシュが現在の本文と一致する
- 必須確認項目がすべて
trueである
不一致がある場合は、確認項目を false にして差し戻し理由を記録します。すべてを true にするまで承認操作を表示するのではなく、API 側でも拒否します。
承認時に版番号と内容ハッシュを再検証する
レビュー後に本文が修正された場合、そのレビューは古くなっています。承認要求へレビュー ID、版番号、本文ハッシュを含めます。
{
"review_id": "review-001",
"expected_version": 1,
"expected_content_sha256": "3ce3...省略...9d1a"
}
承認要求を送ります。
curl -i \
-X POST \
-H "Authorization: Bearer $APPROVER_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-001/approve \
-d @approval.json
Document API は、1 回のトランザクション内で次を検証します。
- 現在状態が
in_reviewである。 - 現在の版番号が
expected_versionと一致する。 - 現在の本文ハッシュが
expected_content_sha256と一致する。 - レビュー対象のハッシュが現在の本文ハッシュと一致する。
- 必須確認項目がすべて
trueである。 - 承認者が
approver役割を持つ。 - 承認者が生成者およびレビュー者と異なる。
- 規定時間内に再認証している。
どれか 1 つでも不一致なら、承認レコードと連携要求を作成しません。
承認済み文書だけを後続システムへ連携する
正式化と連携要求の登録には、送信トレイ方式を使います。送信トレイ方式は、業務データの更新と外部連携要求を同じデータベーストランザクションへ保存し、後から別処理が要求を配信する方法です。
BEGIN
文書を approved へ変更
承認レコードを追加
監査イベントを追加
integration_outbox へ連携要求を追加
COMMIT
配信処理は、未配信の承認イベントだけを取得します。
SELECT
outbox_id,
document_id,
document_version
FROM integration_outbox
WHERE event_type = 'DOCUMENT_APPROVED'
AND delivered_at IS NULL
ORDER BY created_at, outbox_id;
連携アダプターは、対象文書の状態も再確認します。
SELECT d.document_id, d.document_version, d.content
FROM medical_document AS d
JOIN integration_outbox AS o
ON o.document_id = d.document_id
AND o.document_version = d.document_version
WHERE o.outbox_id = 'outbox-001'
AND o.delivered_at IS NULL
AND d.state = 'approved';
取得結果が 0 行なら送信しません。送信トレイに行があることだけを条件にすると、誤更新や障害復旧時の不整合を見逃します。
生成、レビュー、承認の権限を分離する
4 種類の役割を定義する
利用者の役割を次の 4 種類に分けます。
| 操作 | author |
reviewer |
approver |
auditor |
|---|---|---|---|---|
| 下書き生成 | 可 | 不可 | 不可 | 不可 |
| 下書き編集 | 可 | 可 | 不可 | 不可 |
| レビュー登録 | 不可 | 可 | 不可 | 不可 |
| 承認 | 不可 | 不可 | 可 | 不可 |
| 正式文書参照 | 条件付き | 条件付き | 可 | 可 |
| 監査証跡参照 | 不可 | 不可 | 条件付き | 可 |
| 監査証跡変更 | 不可 | 不可 | 不可 | 不可 |
OIDC トークンには、少なくとも利用者 ID、役割、認証方法、認証時刻を含めます。
{
"sub": "user-003",
"aud": "medical-document-api",
"roles": ["approver"],
"amr": ["pwd", "mfa"],
"auth_time": 1785039600
}
Document API の認可規則は、画面ではなくサーバー側へ置きます。
rules:
- operation: generate_document
roles: [author]
- operation: create_review
roles: [reviewer]
- operation: approve_document
roles: [approver]
require_mfa: true
max_auth_age_seconds: 300
- operation: read_audit_event
roles: [auditor]
管理者権限を持つ共通アカウントへ承認権限を集約すると、誰が判断したかを追跡できなくなります。個人単位の ID を使い、共有アカウントによる生成、レビュー、承認を禁止します。
承認操作には再認証を要求する
ログイン済みであることと、重大な操作を直前に確認したことは同じではありません。承認時には、次の両方を確認します。
-
amrに多要素認証を示す値が含まれる - 現在時刻と
auth_timeの差がAPPROVAL_REAUTH_MAX_AGE_SECONDS以下である
条件を満たさない場合は、承認処理を開始せず 401 Unauthorized を返し、再認証後のトークンを要求します。役割自体が不足している場合は 403 Forbidden、文書状態やハッシュが不一致の場合は 409 Conflict と分けます。
承認後の訂正は新版として作成する
承認済み文書の本文を上書きすると、承認者が確認した内容と現在表示される内容が一致しなくなります。訂正時は、旧版を残したまま新しい版を作成します。
version 1: approved
version 2: generated
新版の生成元として、旧版の文書 ID と版番号を記録します。新版が承認された後に旧版を superseded へ変更します。旧版の本文、ハッシュ、承認者、承認日時は削除しません。
操作証跡から承認経路を復元できるようにする
AI の生成条件と人間の操作を分離して記録する
監査に必要なのは、全文を複製することではなく、どの入力と版に対して誰が何をしたかを再現できることです。
| 区分 | 保存する値 |
|---|---|
| 原資料 | スナップショット ID、SHA-256 ハッシュ |
| AI | モデル ID、モデル版 |
| 指示 | プロンプト版 |
| 出力 | 文書 ID、版番号、本文ハッシュ |
| 人間 | 生成者、レビュー者、承認者 |
| 操作 | 状態変更、差し戻し、承認、連携 |
| API | 要求 ID |
| 時刻 | 生成、編集、レビュー、承認、配信の各時刻 |
監査イベントの例です。
{
"event_id": "evt-004",
"document_id": "doc-001",
"document_version": 1,
"actor_id": "user-003",
"actor_role": "approver",
"action": "approve",
"before_state": "in_review",
"after_state": "approved",
"content_sha256": "3ce3...省略...9d1a",
"request_id": "req-20260726-0004",
"occurred_at": "2026-07-26T04:30:00Z"
}
厚生労働省のガイドライン第 7.0 版は、操作ログやシステムログを収集してレビューし、規程どおりの利用か、不正利用や想定外の操作がないかを確認する考え方を示しています[4]。一方で、証跡を過大に収集すると運用負荷が増えるため、リスク評価に基づいて対象を選ぶ必要があります。
監査イベントを追記専用にする
アプリケーション用ロールには、audit_event の追加だけを許可します。
REVOKE UPDATE, DELETE ON audit_event FROM medical_app;
GRANT INSERT, SELECT ON audit_event TO medical_app;
監査専用ロールは参照だけを許可します。
GRANT SELECT ON audit_event TO medical_auditor;
REVOKE INSERT, UPDATE, DELETE ON audit_event FROM medical_auditor;
承認経路を時系列で確認します。
SELECT
occurred_at,
actor_id,
actor_role,
action,
before_state,
after_state,
document_version,
content_sha256,
request_id
FROM audit_event
WHERE document_id = 'doc-001'
ORDER BY occurred_at, event_id;
期待する並びは、生成、レビュー開始、レビュー完了、承認、外部連携です。同じ版で、レビュー時と承認時の content_sha256 が一致することも確認します。
通常のログへ医療文書本文を重複保存しない
アプリケーションログへ要求本文を無条件に出力すると、データベースとは別の場所に医療情報が複製されます。次の値は通常のアクセスログやエラーログへ出力しません。
- 患者氏名
- 患者番号
- 住所、電話番号
- 医療文書全文
- AI へ渡した原資料全文
- AI の出力全文
通常のログには、要求 ID、文書 ID、版番号、操作名、結果、処理時間を残します。本文確認が必要な場合は、監査者が権限制御された文書本体を参照します。
{
"request_id": "req-20260726-0004",
"document_id": "doc-001",
"document_version": 1,
"operation": "approve_document",
"result": "success",
"duration_ms": 84
}
拒否されるべき操作を確認する
正常系が 1 回通ることより、誤った操作が確実に止まることを確認します。
未レビュー文書の承認を拒否する
generated の文書へ承認要求を送ります。
curl -i \
-X POST \
-H "Authorization: Bearer $APPROVER_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-002/approve \
-d @approval.json
期待する応答です。
HTTP/1.1 409 Conflict
Content-Type: application/json
{
"code": "DOCUMENT_NOT_REVIEWED",
"message": "document state must be in_review"
}
document_approval と integration_outbox に行が増えていないことも確認します。
SELECT count(*)
FROM document_approval
WHERE document_id = 'doc-002';
SELECT count(*)
FROM integration_outbox
WHERE document_id = 'doc-002';
どちらも 0 が期待値です。
レビュー後に変更された文書の承認を拒否する
レビュー後に本文を修正し、版番号またはハッシュを更新します。その後、古い approval.json を送信します。
curl -i \
-X POST \
-H "Authorization: Bearer $APPROVER_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-001/approve \
-d @approval.json
期待する応答です。
HTTP/1.1 409 Conflict
Content-Type: application/json
{
"code": "REVIEW_STALE",
"message": "reviewed content does not match current document"
}
この場合、旧レビューを再利用せず、新しい本文ハッシュに対する再レビューを要求します。
承認権限を持たない利用者の操作を拒否する
author のトークンで承認を試します。
curl -i \
-X POST \
-H "Authorization: Bearer $AUTHOR_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-001/approve \
-d @approval.json
期待する応答です。
HTTP/1.1 403 Forbidden
Content-Type: application/json
{
"code": "INSUFFICIENT_ROLE",
"message": "approver role is required"
}
利用者本人が生成者またはレビュー者でもある場合も、同じ承認操作を拒否します。
再認証が古い承認操作を拒否する
役割は正しくても、auth_time が設定時間を超えているトークンを使います。
HTTP/1.1 401 Unauthorized
WWW-Authenticate: Bearer error="login_required"
Content-Type: application/json
{
"code": "REAUTHENTICATION_REQUIRED",
"message": "recent multi-factor authentication is required"
}
403 Forbidden としない理由は、役割不足ではなく再認証によって続行できる状態だからです。
未承認文書の外部連携を拒否する
連携アダプターへ in_review の文書を直接指定します。
curl -i \
-X POST \
-H "Authorization: Bearer $INTEGRATION_TOKEN" \
http://localhost:8080/integrations/documents/doc-001/versions/1
期待する応答です。
HTTP/1.1 409 Conflict
Content-Type: application/json
{
"code": "DOCUMENT_NOT_APPROVED",
"message": "only approved document versions can be integrated"
}
後続システム側だけで拒否するのではなく、Document API と連携アダプターの両方で状態を確認します。
証跡の変更をデータベース権限で拒否する
アプリケーション用ロールで監査イベントを更新します。
UPDATE audit_event
SET actor_id = 'user-999'
WHERE event_id = 'evt-004';
期待する結果です。
ERROR: permission denied for table audit_event
同じ確認を DELETE に対しても行います。監査画面が編集操作を提供しないことに加え、データベース権限でも変更を拒否します。
AI 経路だけを停止して手作業へ戻す
生成機能を機能フラグで停止する
AI Gateway の障害や誤生成が発生したときに、文書管理全体を停止すると、既存文書の参照、手動入力、レビュー、承認まで止まります。AI 経路だけを停止できるようにします。
MEDICAL_AI_GENERATION_ENABLED=false
停止中の動作を次のように定義します。
| 操作 | 期待結果 |
|---|---|
| AI による新規生成 | 503 Service Unavailable |
| 手動下書きの登録 | 継続 |
| 既存文書の参照 | 継続 |
| 手動下書きのレビュー | 継続 |
| 承認済み文書の参照 | 継続 |
| 保留中の AI 要求の自動再実行 | 禁止 |
厚生労働省のガイドライン第 7.0 版は、非常時の手順、代替手段、ネットワーク分離、複数方式のバックアップ、復旧手順を準備する考え方を示しています[5]。機能フラグの名称や HTTP 応答は本記事の例ですが、AI の停止を医療業務全体の停止へ波及させない設計は、業務継続のために必要です。
停止中に手動下書きを登録する
AI 生成が停止していることを確認します。
curl -i \
-X POST \
-H "Authorization: Bearer $AUTHOR_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-003/generate \
-d "{
\"document_type\": \"discharge_summary\",
\"source_snapshot_id\": \"src-20260726-0003\",
\"source_sha256\": \"$SOURCE_SHA256\"
}"
期待する応答です。
HTTP/1.1 503 Service Unavailable
Retry-After: 3600
Content-Type: application/json
{
"code": "AI_GENERATION_DISABLED",
"message": "AI generation is temporarily disabled"
}
同じ原資料に対して、手動下書きを登録します。
curl -i \
-X POST \
-H "Authorization: Bearer $AUTHOR_TOKEN" \
-H 'Content-Type: application/json' \
http://localhost:8080/documents/doc-003/manual-drafts \
-d "{
\"document_type\": \"discharge_summary\",
\"source_snapshot_id\": \"src-20260726-0003\",
\"source_sha256\": \"$SOURCE_SHA256\",
\"content\": \"検証用の手動下書きです。\"
}"
期待する応答は 201 Created、状態は generated、model_id、model_version、prompt_version は null です。手動下書きもレビューと承認を省略しません。
停止と復旧を訓練する
停止手順は、障害発生時に初めて試すものではありません。次の順序を定期的に確認します。
- AI 生成機能を無効化する。
- 新規 AI 生成が拒否されることを確認する。
- 手動下書きを登録する。
- 手動下書きをレビューして承認する。
- AI 生成機能を再開する。
- 停止中の要求が自動再実行されていないことを確認する。
- 再開後の最初の生成結果を通常より厳しくレビューする。
AI Gateway のタイムアウトを単純に再試行すると、同じ原資料から複数の下書きが作られる場合があります。生成要求には一意な要求 ID を付け、同じ要求 ID の再送は同じ結果を返すか、既存要求として拒否します。
導入時に残る留意事項
モデル更新時に回帰試験をやり直す
モデル、システムプロンプト、検索処理、入力テンプレートの変更は、文章表現だけでなく欠落や誤記の傾向を変えます。NIST の生成 AI プロファイルは、生成 AI 固有のリスクを設計、開発、利用、評価を含むライフサイクル全体で管理するための枠組みを示しています[6]。
次のテストセットを固定し、変更前後で比較します。
| テスト項目 | 失敗条件 |
|---|---|
| 患者識別子 | 別患者の情報を混在させる |
| 日付と時系列 | 入退院日や処置順序を入れ替える |
| 薬剤名 | 原資料にない薬剤を追加する |
| 投与量と単位 | 数値または単位を変更する |
| アレルギー | 記載を欠落させる |
| 否定表現 | 「なし」を「あり」に変える |
| 検査値 | 数値、単位、基準範囲を混同する |
| 根拠外記述 | 原資料にない診断や経過を補う |
| 重要事項 | 退院後の注意や再受診条件を落とす |
平均的な文章品質だけで合否を決めず、重大な誤りを項目別に数えます。モデル版を更新した後も、旧版で作成した文書のモデル ID とモデル版を保持します。
ログの保存期間と閲覧権限を院内規程へ接続する
保存期間を記事内で一律に決めることはできません。次の項目を、法令、院内規程、事故調査、保管費用を踏まえて決定します。
- 保存する監査イベントの種類
- 文書本体と監査証跡の保存期間
- 閲覧可能な職務と申請手順
- 定期レビューの頻度
- アーカイブ方法
- 削除または匿名化の条件
- インシデント時の取得手順
監査者が常時すべての医療文書を閲覧できる設計も避けます。通常はメタデータを確認し、必要な案件だけ追加承認を経て本文を参照する構成にします。
承認画面で原資料と差分を同時に表示する
承認画面が AI 出力だけを大きく表示し、原資料を別画面へ隠すと、確認は文章の読みやすさの評価へ偏ります。少なくとも次の情報を同じレビュー単位で表示します。
- 原資料
- AI が作成した下書き
- 人間による修正差分
- 薬剤、単位、日付、否定表現等の確認項目
- 文書 ID と版番号
- レビュー対象の本文ハッシュ
- 生成モデルとプロンプト版
全項目を 1 回で「確認済み」にする操作は設けません。重大項目は個別に確認し、本文が変更された時点で確認状態を解除します。
承認待ちの滞留を監視する
承認を厳格にしても、処理が滞留して別経路の文書作成へ逃げると運用は成立しません。状態別の滞留時間を測定します。
SELECT
state,
count(*) AS documents,
max(now() - updated_at) AS oldest_age
FROM medical_document
WHERE state IN ('generated', 'in_review', 'rejected')
GROUP BY state
ORDER BY state;
滞留が増えた場合は、承認を省略するのではなく、レビュー担当者の不足、画面の使いにくさ、確認項目の過不足、AI 出力の修正量を調べます。
まとめ
医療文書生成 AI の安全性は、モデルの精度だけでは決まりません。正式文書として扱える範囲を、状態遷移、権限、版番号、本文ハッシュ、監査証跡、外部連携条件として実装する必要があります。
実装上の要点は次の 6 点です。
- AI 出力を
generatedとして保存し、正式記録へ直結させない。 - 原資料との照合結果を項目別に記録する。
- レビュー後の本文変更を版番号と SHA-256 ハッシュで検出する。
- 生成者、レビュー者、承認者を分離し、承認時に再認証する。
-
approvedの版だけを送信トレイ経由で後続システムへ連携する。 - AI 経路を停止しても、手動下書き、レビュー、承認を継続できるようにする。
「人間が最終判断する」という原則は、承認者の名前を残すだけでは成立しません。承認者が原資料、修正差分、確認項目を見られ、古いレビューや権限外の操作をシステムが拒否し、事故時に判断経路を復元できることまで実装して初めて、業務上の境界になります。
参考文献
- id774, 医療 AI と人間の判断(2026-05-28). https://blog.id774.net/entry/2026/05/28/4814/
- World Health Organization, Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models(2025-03-25). https://www.who.int/publications/i/item/9789240084759/
- 個人情報保護委員会・厚生労働省, 医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス(2017-04-14、2026-04 一部改正). https://www.ppc.go.jp/personalinfo/legal/iryoukaigo_guidance/
- 厚生労働省, 医療情報システムの安全管理に関するガイドライン 第 7.0 版 企画管理編(2026-05). https://www.mhlw.go.jp/content/10808000/001705954.pdf
- 厚生労働省, 医療情報システムの安全管理に関するガイドライン 第 7.0 版 システム運用編(2026-06). https://www.mhlw.go.jp/content/10808000/001716295.pdf
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile(2024-07-26). https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence