AIの日々の業務での使用が多くの業界で拡大するにつれて、組織はデータドリブンの意思決定を伴うカルチャーへのシフトを経験しています。しかし、他のテクノロジーと同様に、AIの利用にはある程度のリスクが伴います。したがって、効果的に実装された監視、管理、そして明確で価値に基づいた組織的な優先順位を持つことは、安全にAI活用を拡大するために重要です。モデルリスク管理のコンセプトとガバナンスのカルチャーは、金融サービスセクターでは十分に確立されていますが、小売や製薬などの他の業界も、AIガバナンスに関するプロセスとカルチャーを転換することで、そのベネフィットを享受することができます。
AIリスクの管理は、とくにAIライフサイクルの中で発生する可能性のある潜在的で意図しない結果までを考慮すると、圧倒されるように思えるかもしれません。しかし、幸いなことに、チームがAIガバナンスと責任あるAIプロセスを構築する際に、チームをサポートするためのリソースが増えてきています。O'Reillyの近日出版予定の書籍「Machine Learning for High-Risk Applications: Techniques for Responsible AI」（Patrick Hall、James Curtis、Parul Pandey著）では、実践における責任あるAIのためのツールとプロセスベースのアプローチについて、概要が説明されています。これらには、コンプライアンスフレームワーク、サイバーセキュリティ、パイプラインの中のバイアスに対処するための新しいMLメソッドについて理解することも含まれます。
→今すぐダウンロード： O'Reilly Responsible AI Bookの1-3章
とくに、AIシステムの設計と実装の両方における監視プロセスの重要性を強調しています。このようなプロセスには、AIが組織の価値フレームワークに沿っているかを確かめるための、プロダクトライフサイクルにおける各部分のレビューの基準が含まれます。著者らは、そのようなレビュープロセスは、AI開発に浸透している「速く動き、物事を破壊する」という考え方とは対照的であると適切に指摘しています。この考え方は、機械学習（ML）の初期の頃から、研究者や大規模な機関が何ができるかというフロンティアを推進していた時代から受け継がれています。
しかし、今日では、より多くの組織が、価値が高く反復的なタスクを自動化するようなEveryday AIへと移行しています。非常に多くの業界にAIが浸透しており、多くの企業が内部レビューボードと新しいAIプロダクトの責任ある開発のためのガイドラインを開発しています。マクロレベルでは、これはAIの文化における注目すべき変化であり、モデルの迅速な運用化を優先するアプローチから、安全性の考慮と管理がスケーリングに組み込まれるアプローチへと転換しています。
この変化を考えると、現場の技術者も技術者ではない担当者も、どのリソースが、組織が安全かつ責任を持ってAIを拡張する方法に決定的な違いをもたらすかを理解する必要があります。
ツーリングが違いを生む
データエンジニアがSQLパイプラインに取り組み、データアナリストがスタンドアロンのBIツールを使用し、データサイエンティストが個々のノートブック内で作業し、運用チームがカスタムスクリプトを介してモデルをデプロイする組織を想像してみてください。レビューをするチームは、数百というモデルだけでなく、それぞれのデータプロダクトに関わるこれらの複数のツール全体でAIを追跡および監視しなくてはなりません。
AIガバナンスを安全で効率的に拡張するには、AIの開発と監視の両方のために一元化されたツールが必要です。たとえば、Dataikuと新しくリリースされたGovernノードを使用すると、レビューチームはモデルとプロジェクトのデプロイに関するチェックと権限を簡単に設定できます。モニタリングはDataikuデザインノードとシームレスに統合され、データパイプラインからデプロイまでのML開発の監視をスムーズにします。さらに、プロモーション基準を使用することで、責任あるAIのためのチェックリストをデータ実務担当者の既存のワークフローに簡単に統合できます。
AIの原則とレビュー基準を設定することは、AIガバナンスを実現するために重要ですが、実装と組織内の既存のプロセスとの統合も重要です。AIライフサイクルについての明確な組織ガイドラインは重要な出発点ですが、Hallら著者が明らかにしているように、これらの原則を実行するには、カルチャーの転換とすべてのステークホルダーのための適切なツールの両方が必要です。
--- ### **O'Reilly書籍の1-3章を事前リリース！** 本番環境でリスクの高い機械学習プロジェクトをデプロイ、監視、管理しながら、リスクを軽減したいですか？ O'Reilly書籍の事前リリースの1-3章をチェックし、最新のアプローチを確認しましょう。 [**→ここでしか手に入らない事前リリースをダウンロード**](https://pages.dataiku.com/oreilly-responsible-ai)
原文： A Modern Approach to ML Risk Mitigation Techniques and Controls