この記事の目的
「責任あるAI」という概念についてざっくり学ぶ。
責任あるAIとは
AIを設計、開発する上で考慮すべき指針のこと。
責任ある人工知能（AI）とは、AIの設計、開発、デプロイメント、使用の指針となる一連の原則であり、組織とその利害関係者の力となり得るAIソリューションに対する信頼を構築します。
引用元様
https://www.ibm.com/jp-ja/topics/responsible-ai
公平性
さまざまなステークホルダーのグループへの影響を考慮する
バイアス等を持たず、公平な判断を生み出すモデルを作る。
「大阪に住む人の好物は？」と聞いて即座に「たこ焼き」と返すようなモデルではだめ。
説明可能性
システム出力を理解して評価する
AIが作成した答えに対し、どうしてAIがその答えを出したのか具体的に説明できること。
プライバシーとセキュリティ
データとモデルを適切に取得、使用、保護する
ストレージにテストデータを配置する場合、それが個人情報を含む場合は必ず暗号化等の対応をする。
また、身近に良いテストデータがないからと言って、インターネットから出元もわからないようなデータを引っ張ってきたらだめ。
安全性
有害なシステム出力と誤用を防ぐ
悪いことに使わない、使われないようにする。
（昨今話題になっているディープフェイク等）
制御性
AI システムの動作をモニタリングおよび制御するメカニズムを備える
作って完成したら放置！ではなく、その後の動作についても責任をもってしっかり管理する。
正確性と堅牢性
予期しない入力や敵対的な入力があっても、正しいシステム出力を実現する
攻撃を受けても動作するようあらかじめ防御する手段を導入しておく。（Amazon Bedrock ガードレールを使ってあらかじめ宝くじ予想等の絶対的なデータを出力できないコンテンツは生成しないようにしておくとか）
Amazon Bedrock のガードレール
Bedrock が生成する答えに対し、あらかじめ制限を設けておくことができる機能。たとえば「株価の予想については聞かれても答えないでね」というような設定ができる。
ガバナンス
プロバイダーやデプロイヤーを含む AI サプライチェーンにベストプラクティスを組み込む
使用するAIが安全であることを確保する仕組みのこと。
Amazon SageMaker Model Cards
モデルの自己紹介カードのようなもの。
作成方法や利用目的、トレーニング方法や評価などが記載できる。
透明性
ステークホルダーが AI システムとの関わりについて十分な情報に基づいた選択を行えるようにする
モデルについて、どのようにトレーニングしたのか、どんなデータを使ったのか等、すべてが明らかになっていること。
引用文はAWS公式ページより
https://aws.amazon.com/jp/ai/responsible-ai/
AIを安全に開発するためのAWSサービス
AWSにはサービスへアクセスする権限を絞ったり詳細なログを管理したりすることで、安全なAI開発をサポートするサービスが存在する。
IAM（Identity and Access Management）
ロールとポリシーを作成し、ユーザーやリソースへ適用することでアクセス制限をかけるサービス。開発環境へアクセスできる人間を絞ったり、動作を制限できる。（モデルを更新することはできるけど、削除はできないようにする、とか）
Amazon Macie
S3に保存されたデータの中から、自動的に機密データを見つけ出してくれるサービス。ジョブとしての実行が可能なので一回設定すれば後は自動で機密情報を検出次第通知、保護までやってくれる。
名前は「まちえ」ではなく「メイシー」と読む。
AWS PrivateLink
AWSサービス同時をプライベートなネットワークを使用して接続することができる。
AWS PrivateLinkというサービスが存在しているわけではなく、VPCエンドポイントとVPCエンドポイントサービス（NLB）の組み合わせをそう呼んでいる。
AWS Config
AWSに存在するリソースの設定を管理するサービス。
リソースの設定が変更されたときや、禁止されている設定を誰かが適用しようとしたときに通知を送ることができる。現状の設定がコンプライアンス的に大丈夫なのかどうかも調べてくれる。
Amazon Inspector
脆弱性の診断を行うサービス。
EC2やLambda関数にも適用できる。
AWS Audit Manager
AWSのリソースの使用状況などを見て、コンプライアンスに準拠しているか等をチェックてくれるサービス。レポートも作成してくれる。
AWS Artifact
AWSのコンプライアンスに関するレポートや契約についての情報が閲覧できるサービス。サードパーティのレポートについても閲覧できる。更新されたら通知もしてくれる。
AWS CloudTrail
AWS上でどのユーザーがどんな操作を行ったかがわかるログを出力するサービス。開発中モデルの精度を意図的に下げようとしているユーザーや、許可されていないアクセスを行おうとしたユーザーがいたらこちらの機能で発見できる。
モニタリングサービスではないため、モデルの性能等は確認できない。混同しないように注意。
AWS Trusted Advisor
AWSのベストプラクティスと現在の環境を比較してアドバイスをくれるサービス。コストの最適化やパフォーマンスの改善などに役立つ。