EUによるAI規制案の説明Part4

前回からの続き

1.　特殊なリスクAI

　　以下、ハイリスクAIでなくても、特殊なリスクが認められるために透明性に関する義務を課せられているAIについて解説します。なお、ここの規制は、ハイリスクAIであってもローリスクAIであっても適用されます（前文（70））。つまり、ハイリスクAIであってもチャットボットなどは、52条によるAIであることの明示が求められますし、ローリスクAIであっても同じです。その意味で、ハイリスクAIやローリスクAIとは別の類型という形で整理するのは適切ではないとも言えます。ただ、記載の便宜上、第3の類型として記載いたします。

　・第52条
　　　プロバイダーは、人間と相互交流することを意図しているAIについては、AIシステムと相互交流していることを通知するような方法で設計及び開発する必要があります。まあ、つまりは、人間ではなくAIと交流していると明示せよということかと思います。ただし、犯罪の検出、防止、捜査及び訴追のためのものとして法律で認められている場合は、講習が犯罪の発生を報告することを可能とするものに限り、上記の義務は発生しません。
　　　また、感情認識システム又は生体分類システムのユーザ（ユーザの定義が要注意であることについては前回の記事を参照。）は、分析対象となる人間にシステムの動作を通知する必要があります（2項）。ただし、犯罪を検出、防止又は捜査するために認められている生体分類システムには、そのような義務は生じません。
　　　さらに、見たところ実在の人間、物体、場所又はその他の存在又は事件と見分けがつかない、及び本物又は真実と誤って見えてしまう画像、音声又は動画コンテンツを生成又は操作するAIシステムのユーザ（ユーザの定義は要注意で、前回の記事を参照。）は、コンテンツが人工的に生成又は操作されたものと開示する必要があります（3項）。

2.　特殊なリスクAIの解説

　⑴　相互交流AI

　　　まあ、いわゆるチャットボットなどを念頭に置いた規定になります。つまり、人間のように回答してもらうとAIに親近感を持ち精神的に依存したりすることがリスクとして警戒されています。ただ、AIと伝えるという手段が、この問題に対して有効な手段となって言うのかは疑問の余地があろうかと思います。AIとわかっていても、親切な言葉をかけられたりして親近感を持って依存することの方が多いかと思います。「AIって気づかなかった！」ってほとんどないと思うんですよね・・・

　⑵　感情認識等

　　　感情認識システムと生体分類システムですが、何を説明すればよいのですかね？原文は「the operation of the system」になっており、前文（70）の内容なども考えると、システムを利用して感情推定を行っていることを通知すればよいのかと思います。つまり「AIが顔の表情や体の動きから感情を推測しています」程度でよいのかと思います。

　　⑶　生成モデル

　　　　最後の3項は、いわゆる生成モデルについての規定になります。具体的な示し方としては、動画等のコンテンツに一定の表示を入れるなどのようです（実は以前法律雑誌に載せた論文で、この手法を提案しており、同様の手法をその後の他の論文等で見かけなかったので、残念だったのですが、この規制案で再会できて、うれしく思っています。）。ただ、結構難しくて、歯の画像から入れ歯の設計図を作成する生成モデルなんかもあるわけです（画像の捜査に該当するかと思います。）。これにAI生成の表示って必要なのですかね？

3.　ローリスクAI

　　ローリスクAIについては、規定はありません。なるべく頑張ってハイリスクAIの要求水準を満たしてほしいそうです。69条に行動指針を作るよう欧州委員会は支援するとあります。
　　個人的にはちょっと極端な気がしておりまして、ローリスクAIでも、判断理由がわかりにくいときは透明性を確保しましょうだとか、透明性としてAIを事業の中心にしている場合はAIポリシーを作って公表しましょうということもありえたと思います。

4.　その他の規定

本規制案には、例えば制裁に関する規制などもあり、弁護士はこの手のテーマが好きなので解説したがる人が多いかと思いますが、本解説では止めておきます。やはり重要なのは何を行う必要が生じるかだと思いますので。
また本規制案の適用範囲（どのような場合に日本企業に適用されるか）についても、重要なのですが、やや法技術的なため割愛します。前文（11）に説明があります。機会があれば、Annexの和訳とともに記事にできればと思います。

やっと終わりました。規制案が発表された次の週のゴールデンウイーク直前くらいから、規制案を読み始めて、何か書こうと思っていましたが、全然読み進まず、当初の計画ではゴールデンウイーク前半に読み終わり、後半でほぼ書き終わっているという仮想戦記だったのですが、（ちょうどイマイチ体調もよくなく・・・）ゴールデンウイーク中に読み終わりもせず、仕事が始まって作業が進まないという苦悶の状況で、やっと読み終わってからも書き始めるのに時間がかかるという状況でしたが、「流石に発表されてから1か月くらいのところで何か出さないとまずいだろ・・・」ということで書き始め、やっと終えました。
前回記載したようにAnnexの内容を和訳できたらと思っています。Annexの内容って結構重要なんですよね。