本Advent Calendarは、国内で唯一の技術領域 責任あるAI の MVP受賞者を中心に、生成AIを含めたAIやデータを企業が利活用するときに気をつけるセキュリティやガバナンスを中心に紹介します。

この記事は、生成AIセキュリティに関わる全ての方に向けて、最新のガイドブックをポイントを絞って解説していくものです。

皆さんご存知の通り、ChatGPTをはじめとするテキスト生成AIは、私たちの仕事や生活を大きく変える可能性を秘めています。しかし、様々なリスクも存在します。
例えば、

などなど、様々なリスクが潜んでいます。これらのリスクを放置したままにしてしまうと、大変なことになりかねません。

このガイドブックは、テキスト生成AIを安全・安心に利用するために、想定されるリスクとその対策についてまとめたものです。特に、政府情報システムへの生成AI導入に関わる行政職員を対象としていますが、企業でAI導入を検討している方にも非常に参考になる内容となっています。

対象読者

構成

ガイドブックは、本文（前半6章）と発展的内容を含んだ付録（後半3章）で構成されています。

ガイドブックには様々な情報が盛り込まれていますが、特に重要なポイントを3つに絞って解説します。

生成AIには、テキストだけでなく、画像や音声、動画を生成できるものもあります。しかし、このガイドブックでは、テキスト生成AIに焦点を当てています。なぜなら、行政業務でやり取りする情報の多くはテキスト情報であり、デジタル庁におけるテキスト情報以外の生成AIの活用は検証段階だからです。

テキスト生成AIのリスクは、利用形態（特定のサービスに組み込まれた状態や、Web API形式等）やユースケースによって異なります。ガイドブックでは、これらの違いを意識し、デジタル・ガバメント推進標準ガイドライン実践ガイドブックで定義されている工程に応じたリスクや留意点をまとめています。

デジタル庁が実際に行った検証で判明したリスクや留意点が、可能な限り記載されています。これにより、机上の空論ではなく、実践的な対策を検討することができます。

ガイドブックには様々なリスクと対策が記載されていますが、ここでは特に注目すべきものをいくつかピックアップしてご紹介します。

「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」は、AI技術の進化に対応し、リスクを理解した上で安全な利活用を進めるための重要な指針です。AIドリブンな社会を実現するためには、このガイドブックを参考に、リスク対策をしっかりと講じていく必要があります。