Shieldstral公開で見直す、AI添付前の個人情報検査Python
Mistral's Shieldstral: 3B open-weights model for multimodal moderation
8月4日にMistralが公開したShieldstralの告知を見た。画像を含む内容のモデレーションを、オープンウェイトで扱えるようにするモデルだという。
これを見て、僕が先に片付けたくなったのはモデル選びではありません。営業資料、議事録、スクリーンショットを生成AIに添付する前の確認です。内容が適切かを判定する仕組みが進んでも、添付したファイルに担当者の連絡先やカード番号が残っていたら、送る判断は別に要ります。
社内で「送る前に見ておいて」と言っても、忙しいと抜けます。そこで、添付候補のファイル名とOCR済みテキストをJSONに出し、個人情報らしい文字列があれば送信保留にする小さなPythonを置きました。ここ地味に効きます。人に最終判断を残しつつ、見落としやすい箇所だけを先に赤くできます。
参照したニュース: Mistral: Shieldstral
先に決めるのは「検知したら送らない」範囲
このスクリプトは、メールアドレス、電話番号、マイナンバーらしい12桁、カード番号らしい13〜19桁を拾います。正規表現だけなので、個人情報を完全に判定するものではありません。たとえば12桁の受注番号も止まる可能性があります。
それでも送信直前のゲートとしては十分使えます。誤検知なら内容を確認して通す。検知を見逃したときだけ、そもそも添付操作に進まない。この優先順位です。
入力はOCRツールやPDF抽出ツールの出力を、次の形にそろえます。本文をAPIへ渡す必要はありません。
[
{"name": "提案メモ.txt", "text": "窓口は tanaka@example.jp、03-1234-5678"},
{"name": "製品概要.pdf", "text": "公開済みの製品説明です"}
]
添付候補をCSVにして止める
attachment_preflight.py として保存します。
import csv
import json
import re
import sys
from pathlib import Path
PATTERNS = {
"メールアドレス": re.compile(r"(?<![\w.+-])[\w.+-]+@[\w-]+(?:\.[\w-]+)+(?![\w.+-])"),
"電話番号": re.compile(r"(?<!\d)(?:0\d{1,4}[- ]?\d{1,4}[- ]?\d{4})(?!\d)"),
"マイナンバーらしい12桁": re.compile(r"(?<!\d)\d{12}(?!\d)"),
"カード番号らしい連番": re.compile(r"(?<!\d)(?:\d[ -]?){13,19}(?!\d)"),
}
def mask(value: str) -> str:
compact = re.sub(r"\s+", " ", value)
return compact[:3] + "…" if len(compact) > 3 else compact
def find_hits(text: str) -> list[tuple[str, str]]:
hits = []
for label, pattern in PATTERNS.items():
for match in pattern.finditer(text):
hits.append((label, mask(match.group())))
return hits
def main() -> None:
if len(sys.argv) != 2:
raise SystemExit("使い方: python3 attachment_preflight.py attachments.json")
source = Path(sys.argv[1])
attachments = json.loads(source.read_text(encoding="utf-8"))
if not attachments:
raise SystemExit("添付候補がありません")
rows = []
for item in attachments:
name = item["name"]
hits = find_hits(item.get("text", ""))
rows.append({
"ファイル名": name,
"判定": "送信保留" if hits else "確認済み",
"検知項目": " / ".join(label for label, _ in hits) or "-",
"検知例（伏せ字）": " / ".join(value for _, value in hits) or "-",
})
output = source.with_name("attachment_review.csv")
with output.open("w", newline="", encoding="utf-8-sig") as f:
writer = csv.DictWriter(f, fieldnames=rows[0].keys())
writer.writeheader()
writer.writerows(rows)
print(f"{output} を作成しました")
for row in rows:
print(f"{row['判定']:4} {row['ファイル名']} {row['検知項目']}")
if __name__ == "__main__":
main()
手元で上のJSONを attachments.json として実行した出力です。
$ python3 attachment_preflight.py attachments.json
attachment_review.csv を作成しました
送信保留 提案メモ.txt メールアドレス / 電話番号
確認済み 製品概要.pdf -
utf-8-sig でCSVを書いているのは、現場ではExcelで開く人がいるからです。BOM付きUTF-8にしておくと、日本語のヘッダーが文字化けしにくい。ここでCSVを開くなら、数式として解釈される値を扱う運用とは分けたほうが安全です。
なぜ本文だけでなくファイル名も台帳に残すのか
最初は本文だけを検査していました。ただ、共有フォルダから選んだスクリーンショットの名前に、取引先名と担当者名が入っていることがありました。本文が空でも、ファイル名を一覧に出すだけで気づけます。
このコードはファイル名の文字列そのものを検知対象にはしていません。取引先名まで機械的に止めると、営業資料がほぼ全部止まるためです。代わりにCSVへ必ず出し、送信保留の行だけでなく、添付物の取り違えも目で確認する形にしました。検査の精度より、作業を止めずに確認が続くことを優先しています。
OCR結果がない画像やPDFは、text を空にして「確認済み」と見なさない運用が必要です。その場合は入力JSONを作る段階で OCR未実施 の行を追加するか、画像添付をいったん保留にします。ここを自動で通してしまうと、画像対応のモデレーションモデルが出た話と、業務上の送信確認がごちゃ混ぜになります。
次に効くのは、添付操作の前にこのCSVを置くこと
Shieldstralのようなモデルが増えるほど、画像も含めてAIへ渡せる範囲は広がります。だからこそ、業務側では「何を判定させるか」より先に「何を渡してよいか」を短い手順にしておくと回ります。
まずはよく使う提案メモ2件で動かし、誤検知した番号を記録するといいです。正規表現を賢くする前に、送信保留のCSVを一度見る流れを作る。僕はこの順番が、現場では一番続きます。