はじめに
最近では、AIはかなり身近な存在になり、プロダクトにAIを組み込むことも珍しくなくなってきました。
AIを「どう活用するか」といった情報は世に溢れかえっている一方で、AIを使ったユーザー体験をどう設計するかといった情報は少ないように感じています。
実際に、調査をしてみると、「AIの機能をどう載せるか」だけでなく、「ガバナンスをどうデザインするか」という問題でもあるのだと実感し、単純に便利というだけでは片付けられない、特有の難しさがあると実感しました。
そこで、実務で押さえておきたい基本的なリスクと、デザインでどんな配慮ができるのかを整理する形でまとめようと思います。
今回のテーマ
今回のテーマは、「AIサービスをデザインするときのリスクとUI設計」です。
AIには不確実性があり、一定のリスクを持っているものだという前提に立ち、それをユーザーにどう見せるか、どう判断してもらうかのヒントを考察します。
伝えたい相手
- AI機能を初めて設計するデザイナー
- AIの扱い方に迷っている非デザイナー
- AIの技術には詳しくないが、まずUX設計の勘所を知りたい人
代表的な3つのリスク
AIは大変便利なものですが、その出力は絶対に正しいものとは限りません。用途によっては、その誤りが重大な影響を与えることがあります。
そのため、UIUXで不確実性を適切に伝え、過信を防ぐ設計が重要だと思います。
ここでは、特に知っておきたい3つのリスクをご紹介します。
1.誤判定
誤判定とは、学習データの偏りによって、誤った結果や偏った結果を出してしまうこと。
- 事例
- Googleフォトの自動ラベル付け機能で、特定の属性の写真にのみ不適切なタグを付けてしまった
- 原因
- 学習していたデータに偏りがあり、特定の属性の顔について学習精度が落ちていた
参考：GIGAZINE
2.バイアス
バイアスとは、社会に存在する先入観やステレオタイプがAIの判断に入り込み、それを強めてしまうこと。
- 事例
- Amazonが採用選考でAIを利用する研究開発をしていたところ、履歴書に「女性」という言葉や、女性の多い大学名が含まれている場合に低いスコアを付けていることが発覚し、最終的には、完全にバイアスを取り除くのが難しいとして開発が中止された
- 原因
- 学習した過去10年間の記録では、応募者の比率に男性が多かった。過去の採用記録に偏りがあることで、性別などの属性と採用傾向を誤って結びつけてしまった
参考：type 働き方 コラム
3.ハルシネーション
一見、正しそうな内容だが「事実とは異なる内容」や「文脈と無関係な内容」などが含まれた、誤情報をAIが生成すること。
- 事例
- アメリカの裁判において、ChatGPTが作成した虚偽の判例を含む法的文書が提出されるケースが複数発覚した
- 原因
- 弁護士側でChatGPT利用時の検証体制が十分でなく、誤情報がそのまま受け入れられてしまった
参考：読売新聞
AIサービスデザインは、ガバナンスのデザイン？
ここで言う「ガバナンスのデザイン」とは、難しい制度の話ではありません。
「透明性、責任分担をユーザー体験に落とし込むか」という意味で、AIサービスにおいては、それらが利用規約やポリシーの中だけでなく、画面や導線、説明文、確認ステップの中にまで入ってくるのではないかということです。
AIを使ったプロダクトは、効率化に大きく貢献しますが、設計次第では見えにくい不利益が生じる可能性もあります。
たとえば、従業員評価にAIを使うケースは、評価の整理や判断補助に役立つでしょう。
ただし、AIはあくまで意思決定を支える補助役であり、説明責任、最終判断の責任は人間が担うことが不可欠です。
安易にそういった機能を採用すると、なぜその評価になったのか本人に説明が出来ない、関係の薄い情報まで評価に紐付いてしまい、理不尽に低い評価が与えられる可能性も考えられます。
このような例をみると、AIサービスは便利な機能だけではないと分かります。だからこそ、「誰がどう責任を持つか」をユーザー体験のなかで設計する必要があると考えます。
4つの設計ポイント
AIサービスを初めて設計するときは、次の4つを押さえておくと整理しやすくなります。
1. 人間中心で考え、ユーザーが最終判断をしやすい形で設計する
AIはユーザーの判断を補助するものであり、決定はあくまでユーザーによって行われるべきという前提でデザインする。
- AIの提案や出力が、人間の意思決定を補助するものとして、適切に提供されている
- 人間の意思決定への感情的な誘導をしない
- AIからの出力をどう使うかを選択できるようにし、従わない選択肢も与える
◼︎sample
人間が最終的な意思決定をするための材料を整理し、判断を促す回答内容になっている。
2. プロセスの透明化
ユーザーの入力に対して、AIの判断がどのように行われたか、どのデータを使用したかなど、適切に説明する。
- 人間の入力に対するAIの応答プロセスと状態の変化を明確にする
- AIの結果や提案に対する判断理由を示し人間が判断しやすくする
- 疑問を持った場合に、参考情報や追加情報の取得をサポートする
◼︎sample
情報のソースが表示されているので、根拠を詳しく調べることができる。
3. 不確実性の提示
AIの判断が完璧でないことを示し、その前提で利用、判断してもらうよう促す。
◼︎sample
4. AIに関わる方針を明示
データの取扱いや利用方法など、プライバシー・セキュリティに関する指針を示し、すぐに確認できるようにする。
◼︎sample
最後に
これから先、AIはさまざまなプロダクトに自然に溶け込んでいき、ユーザーはAIを意識しないままAIを使うような場面が普通になっていくと思います。
だからこそ、AIのリスクをどう扱うかは、技術だけの課題ではなく、デザインの課題でもあると思います。また、デザインはAIの価値をユーザーの元へ届ける架け橋であると同時に、ユーザーを守るための砦にもなれます。
もし、AI機能の設計に関わる機会があれば、まずは「このUIは、AIを過信しない形になっているか」を1つ点検してみるのがおすすめです。
その視点だけでも、設計の解像度はかなり変わってくると思います。
参考資料
-
AI事業者ガイドライン
※執筆時「AI事業者ガイドライン（第1.1版）本編」を参照 - ハヤカワ新書 : AIガバナンス入門