1. はじめに
この文書ではAI利用に関する上での、深刻なアクシデントを回避するための注意点を挙げています。
ディープラーニングの利用活性化により、多くの基準が各所で設けられているので、掘り下げたい人は、そちらを参考するのも良いでしょう。ここでは「最低限これくらいのことは意識しながら利用しよう」という自戒を兼ねた整理となります。
2. 利用開始前のチェックポイント
AIツールの導入を決定する前に、以下の項目を必ず確認してください。
-
提供元の信頼性
利用を検討しているAIサービスが、データセキュリティやプライバシー保護に関して十分な実績と透明性を持つ企業によって提供されているかを確認します。
-
入力情報の非学習利用
入力した情報が、AIモデルの学習に利用されない設定が明確に保証されているサービスを選定することが大前提です。管理者側で組織メンバーのデータ利用設定を一元管理できる機能があれば、より安全ですが、まずは利用する個々が意識することが大事です。
-
広告・宣伝を目的としたAIでないこと
無料または極端に安価なAIサービスの中には、特定の製品やサービスを宣伝する目的で、回答が意図的に調整されている可能性があります。 このようなAIを業務で利用すると、市場調査や情報収集の際に著しく偏った（バイアスのかかった）結果を得てしまい、ビジネス上の判断を誤る危険性があります。中立性が担保されたサービスを選択してください。
-
課金体系の把握
「使った分だけ支払う」従量課金制や月額固定のサブスクリプション制など、サービスの課金体系を正確に理解し、想定外のコストが発生しないように計画を立てます。
3. 利用中の注意点
AIツールの利用を開始した後は、以下のルールを全従業員が遵守する必要があります。
-
【最重要】AI提供者のサーバー（MCPサーバー）のリスクを常に意識する
ここでいう「MCPサーバー」とは、私たちが入力した情報を処理し、AIからの回答を生成する、サービス提供者のクラウド基盤全体を指します。 私たちのデータは、AIモデルの学習に使われない設定（オプトアウト）にしていても、外部サーバーが遵守するとは限りません。この事実から生じるリスクを、全従業員が理解しなければなりません。
-
個人情報・機密情報の入力は絶対禁止
「学習に利用されない」という設定は、「サーバー上で誰にも見られず、一切記録されない」ことを意味しません。サービス提供者は、濫用防止や品質管理のために一時的にデータを保持（ロギング）している可能性があります。万が一のサイバー攻撃や内部不正があれば、入力した情報が漏洩するリスクはゼロではありません。 そのため、顧客情報、個人情報、社外秘の技術情報や経営戦略などを入力することは、固く禁止します。
-
ハルシネーション（もっともらしい嘘）への警戒
AIは、このサーバー上で膨大なデータをもとに回答を生成しますが、その過程で事実に基づかない情報を生成する「ハルシネーション」を起こします。AIからの回答を鵜呑みにせず、最終的な事実確認と判断の責任は利用者自身にあることを肝に銘じてください。
- 裏付けの取得: 重要な情報は、必ず一次情報源（公的機関のWebサイト、専門文献など）でファクトチェックを行う。
-
多角的な検証: 複数の信頼できる情報源と照合し、情報の妥当性を確認する。
-
著作権と知的財産権
AIが生成したコンテンツ（テキスト、画像、コードなど）には、元の学習データに含まれる著作物との類似性が生じる可能性があります。そのため、生成されたコンテンツをそのまま商用利用する際は、著作権侵害のリスクがないか十分に確認する必要があります。特に、ロゴやデザイン、キャッチコピーなど、企業のブランドに関わる重要なコンテンツを生成する際には、人間による最終的なチェックと修正を義務付けるべきでしょう。
下記からの引用となります。
https://iroirotool.com/platform/ja/knowledge/ai/guide_line.html