AIガバナンスとデータガバナンスは、組織にとってどちらも非常に重要ですが、目的が異なります。この違いを理解することは大切です。特にEU AI法の導入によって、組織はAIの管理戦略を再検討することが求められています。このブログ記事では、違いを把握し、なぜこの2つを区別することが重要なのかを説明します。
AIガバナンス：次の時代へ
2018年、ヨーロッパの有名なデータ＆アナリティクスサミットで、業界をリードするあるアナリストが 「データカタログは新しいトレンドである！」と興奮気味に宣言しました。それ以来、企業はデータカタログ、データインベントリ、データ収集など様々な手段でデータを一元化し、管理してきました。その一方で、AI、特に生成AIは飛躍的に成長しました。機械学習（ML）モデル、分析プロジェクト、コード、生成AI、そしてそれらを展開するユースケースが増加したことによって、より具体的で厳格なガバナンスが求められてきました。データガバナンスは、AI時代に必要とされる民主化されたMLを扱うように設計されておらず、新たなガバナンスの枠組みが必要となっています。そこでAIガバナンスの出番となります。
AIガバナンスはデータガバナンスとどう違うのでしょうか？4つの主な違いを説明します。
違いその1: 定義
- データガバナンスは、組織のデータの可用性、使いやすさ、整合性、セキュリティの管理に重点を置いています。その目的は、規制や社内ポリシーを遵守しながら、データは正確で一貫性があり、責任を持って使用されるようにすることです。主な機能には、データ品質管理、データセキュリティ、メタデータ管理、データスチュワードシップ、データライフサイクル管理などがあります。
- AI ガバナンスは、AIプロジェクトの開発と展開に関わるプロセス、ポリシー、および制御を管理します。また、AIの取り組みは、組織の目標に合わせたルール、プロセス、要件を調整して適用します。主な活動には、モデルの文書化、リスク管理、バイアスと公平性の評価、監査可能性、AIシステムの説明責任などがあります。
組織がAIとデータの取り組みを拡大する際に、両方のガバナンスフレームワークを理解して実装することは、信頼とコンプライアンスを維持するために不可欠です。AI ガバナンスは、本質的に幅広く、バイアスの防止やモデルの説明可能性など、データ保護のコンプライアンスを超えた目的を網羅しています。
違いその2: 規制の状況
- データ ガバナンス: GDPR、DPA、CCPA、PIPEDA 、プライバシーとデータセキュリティに重点を置いたその他の地域または業界固有のデータ保護法に準拠します。
- AI ガバナンス:倫理的配慮とリスク管理を扱う EU AI 法など、AI に特化した新たな規制によって管理されます。業界固有のアプローチが AI 固有の規制を補完します。
重要な理由: GDPR を理解している企業は多いものの、AI 規制を理解している企業はほとんどありません。世界中の政府は、組織がAIを構築、購入、展開する方法を形作るために、規制および非規制での介入を進めています。
米国は、NIST AIリスク管理フレームワーク、AI権利章典、人工知能の安全、安心、信頼できる開発と利用に関する大統領令を導入しました。シンガポールのIMDAはAI Verifyをリリースしました。英国はAI規制の政策文書を発行し、AI Safety Institute を立ち上げました。また、EU AI 法は、リスクレベルに関連する要件と、非準拠に対する補完的な厳しい罰則を確立することで先例を確立しました。EU AI法を理解し、ガバナンスの実践を通じてその要件への準拠を管理することは、ヨーロッパで事業を展開するグローバル企業にとって主要な基準となりつつあります。
違いその3: 運用の実装
-
データガバナンス:データポリシー、一元化されたデータカタログ、データ管理、データ品質管理プロセスを通じて実装します。
-
AI ガバナンス:倫理ガイドライン、リスク評価フレームワーク、運用効率の評価、サインオフや承認ワークフローによる価値の監視、AI アプリケーションの把握システムなど、さまざまな目的を包含します。
重要な理由: AIガバナンスフレームワークは、データセットのカタログ化とは別のものである必要があります。AIの開発と展開における失敗を防ぐには、ルールの遵守と運用の実施が必要です。これは、AIを安全に拡張し、ガバナンスフレームワークに準拠していないことによる障害を回避するために極めて重要です。大規模言語モデルを含むような生成AIアプリケーションでも、データ漏洩、ハルシネーション効果、有害な結果などのリスクに関連する下流の影響を防ぐガバナンス対策も必要です。
違いその4: ステークホルダー
データガバナンス:データ スチュワード、データ チーム、IT 部門、コンプライアンス担当者、ビジネス ユーザーが関与します。
AIガバナンス:データサイエンティスト、MLエンジニア、リスク管理者、倫理学者、法律アドバイザー、ビジネスドメインの専門家など、より幅広い関係者が関与します。
重要な理由: AIガバナンスを成功させるには、さまざまなステークホルダー間のシームレスなコラボレーションが最も重要です。AIモデルの急速な普及を考慮すると、ビジネスチームには、IT、データサイエンスチーム、マネージャーやリーダーとともに、進行中のプロジェクト、パフォーマンス、ステータスを可視化し、効果的な優先順位付けと意思決定を促進するための統合プラットフォームが必要です。
Dataikuの特長
2021 年、Dataiku は、組織が AIプロジェクトをより詳細に制御および可視化できるように支援する AI ガバナンスを発表しました。これらの機能は、プラットフォームのネイティブ なデータ制御とデータコラボレーションを補完し、データ共有とデータガバナンスを促進します。
それ以来、Dataikuは新たな規制の枠組みに適応する機能を拡張してきました。カスタマイズ機能と価値実現までの時間を短縮するリソースで、Advanced Govern は EU AI 法をはじめとする現在および将来の規制への準備を加速するのに最適なソリューションです。Dataikuの先進的なAIガバナンスは、既存のシステムに接続し、データサイエンスチームの自律性を犠牲にすることなく、本番ワークフローにシームレスに統合されます。エンタープライズ生成AIアプリケーションの共通バックボーンである組み込みの LLM Mesh は、毒性検出やPII保護などの機能を備えた、適切な生成AI ガバナンスを保証します。
エンドツーエンドのAIとMLのライフサイクルガバナンス、協調的なリスク管理、生成AI制御を単一のプラットフォームに統合していることによって、Dataikuは、新しくリリースされた IDC Marketscape for AI Governance Platforms 2023でリーダーとしての位置づけられています。
結論
AIガバナンスとデータガバナンスはどちらも不可欠です。データガバナンスは、AIモデルに取り込まれるデータの正確性、安全性、信頼性を保証します。AIガバナンスは、これらのモデルが倫理的かつ透明性を保ちながら展開、運用、監視され、社会的価値と組織の優先事項に沿っていることを保証します。
AI ガバナンスは、予測型であれ生成型であれ、すべてのAIプロジェクトを管理する上で必須のものになりつつあります。技術革新を超えて、EU AI 法の正式化により、企業はあらゆるレベルで AI ガバナンスに取り組むことが求められています。これには、規制を理解し、それに応じて変更管理を適応させること、AIリテラシーを向上させること、これらのルールを AI プロジェクトのライフサイクルに統合することが含まれます。そうして初めて、企業は実験段階から持続可能なAIの産業化への移行を成功させることができます。
AIガバナンスは今や、予測型であれ生成型であれ、すべてのAIプロジェクトを管理するための必須要件となりつつある。技術革新にとどまらず、EUのAI法の正式化により、企業はあらゆるレベルでAIガバナンスに取り組むことが求められている。これには、規制を理解し、それに応じて変更管理を適応させること、AIリテラシーを向上させること、これらのルールをAIプロジェクトのライフサイクルに統合することなどが含まれる。そうして初めて、企業は実験から持続可能なAI産業化への移行を成功させることができる。
Dataikuによるガバナンスの詳細
Dataikuの主要機能の1つを詳しく学習して、監視しながら AI を安全に拡張し、最大の価値をもたらすデータのプロジェクトとモデルを優先する方法を理解します。Dataikuのガバナンス機能について詳しく知る。