結論から言うと
回答の生成は工夫次第でできそうですが、Copilot自体にExcelファイルへ記入させることは現時点(2025-09)ではできなさそうです。
セキュリティチェックシートへの回答は非常に時間が取られる
セキュリティチェックシートは取引先がセキュリティ上、必要な対策を講じているか、ルールや仕組みを定めているかなどを確認するためのものです。セキュリティチェックシートの記入項目は、20項目〜150項目ほどあり、非常に時間が取られるタスクです。
セキュリティチェックシートで聞かれることは、半分くらいは他社と共通しており、過去のセキュリティチェックシートの回答を読み込ませればAIによる回答が可能ではないかと考えました。
本記事では、登録する文書で気をつけることや作成してみた際の工夫などを紹介します。
(なお本記事に登場するデータは実在するサービスとは関係ありません。)
利用環境
筆者は会社でCopilot for Microsoft 365を契約しています。そのため、Copilot Studioでエージェントを作成したり、TeamsやExcelからCopilotとチャットできます。
セキュリティチェックシートについて
セキュリティチェックシートの一例を挙げます。
種別 | 確認項目 | 確認項目詳細 | 形式 | 回答 |
---|---|---|---|---|
可用性 | サービス稼働率 | サービスを利用できる確率 (計画サービス時間-停止時間)÷計画サービス時間 |
稼働率(%) | SLA99.0% |
信頼性 | 目標復旧時間(RTO) | 障害発生後のサービス提供の再開に関して設定された目標時間 | 時間 | 事象確認から3時間以内 |
サポート | サービス提供時間帯(障害対応) | 障害対応時の問合せ受付業務を実施する時間帯 | 時間帯 | 平日9:00~18:00 ※年末年始、祝日は除く |
各社形式は様々です。このように確認項目とその詳細を見て、形式に合わせて回答するというのが一連の手順です。
Microsoft Copilotのエージェント機能とは
Copilot Studioで作成するカスタムCopilotのようなものです。TeamsのCopilotメニューやCopilotのWebサイトで「エージェントの作成」を押すと作ることができます。ナレッジにファイルをアップロードすることで、そのファイルの中身を参照して回答を作成できます(RAGと同じ)。
実際のセキュリティチェックシート項目に対するCopilotの回答例
ナレッジにアップロードした質問文のコピーをCopilotの入力としたときには、手元では100%、該当箇所を参照してくれました。また、文章をちょっと変えて、同じ内容を聞いてもちゃんと該当箇所を根拠として引っ張ってきてくれました。2024年にCopilot StudioでRAG(Retrieval Augmented Generation)を作ったときには原文コピーでも7割くらいしか参照してくれなかったのに比べるととても成長しているなと感じました。
Copilotエージェントの回答精度を上げるために工夫したこと
単に、過去のExcelファイルをアップロードしただけでは精度が上がりません。
ナレッジには余計な情報を含まないテキストファイルを渡した
ナレッジにアップロードできるファイルはテキストファイルやPDF・Word・Excelなど様々です
セキュリティチェックシートは多くの場合、Excelファイルです。ですが、やってみて分かったのは過去のセキュリティチェックシートの回答をそのままExcelファイルで渡すとハルシネーションが多くなるということです。特に、回答例のあるシートが邪魔をします。実際は24時間365日サービスを提供しているのに、回答例に9:00-18:00などと書いてあることで、そちらが参照されたりします。
そのため、私は全ての過去のセキュリティチェックシートの回答をテキストファイルにしました。整形したテキストファイルは以下のような中身です。
サービスを提供する時間帯(計画停止の予定含む):
24時間365日
現在計画停止の予定はない
計画停止する場合の事前連絡期間・方法: 1ヶ月前にメール・ホームページにて連絡
(サービス時間ー停止時間)÷サービス時間: 99.0%
遠隔地ホットスタンバイサーバーの有無: 有り(福岡)
バージョンアップ計画・その際の通知について: バージョンアップを実施する場合は7日以上前に指定の連絡先へメールにて通知
障害発生時から復旧までの想定時間: 3時間以内
確認項目詳細と回答をコロン(:)で区切ったファイルです。回答が複数行にわたる場合は、タブでインデントをつけました。この時に確認項目の不要な例は削除することがAIのハルシネーションを抑える上で重要です。
原文のコピーを出力させるようにした
エージェントの指示には以下のようなプロンプトを与えています。
## やること
セキュリティシートの項目に過去の回答を参照して答えてください。
過去の事例になく、わからないものにはわからないと回答してください。
## 注意点
過去の回答があったものに関してはソースを示してください。
また、ソースを示すだけでなく根拠となった文章をまるまるコピーしてきてください。
複数回答が見つかった場合、重複を排除して全て列挙してください。
## 出力
まずは根拠となる原文のコピーを提示したあと、項目に対する最終的な回答を簡潔に提示してください。
ポイントとしては2つで
- 過去の事例にないものはわからないと出力させる
- 回答根拠となった文章のコピーを提示する
上記を入れることで、人間が見て判断しやすくなったと感じます。
課題として感じたこと
CopilotがExcelファイルを書き出せなかった
シートの質問部分だけ切り取ってExcelファイルにして、「このセキュリティチェックシートに回答して」とアップロードしてみました。すると、そのいくつかの質問に対しては回答してくれました(順番がバラバラでしたが)。その後、「回答したExcelファイルをダウンロードできるようにして」と投げかけてみましたが、ダウンロードリンクが出てきませんでした。なので、一気にファイルごと処理させるのは諦めて、ひとつひとつ質問をエージェントに入力する方法をとっています。効率は悪いですが、回答根拠も確認できるため、良いかなと思います。
過去の古い回答を参照してしまう
与えた過去の回答テキストの中には情報の古いものがありました。これに関しては、ナレッジに与えるファイルはアップデートしていかなければならないでしょう。
まとめ
CopilotのエージェントのRAG機能はとても精度が良いと感じました。常にドキュメントをアップデートすることに気をつけて運用すれば、セキュリティチェックシートを埋める際の補助にはなるかなと思います。一方、Excelファイル自体への記入の自動化は現状Copilotだけでは難しそうでした。今後できるようになることを期待して待ちたいと思います。