導入
現在、生成AIが一般人に簡単に使えるようになったことで、その素晴らしさが至るメディアで語られている。そこで、一度立ち止まってその素晴らしさがどのように悪用されているのかにも注目してみたい。
海外Webサイトの記事
➀ Florida Middle Schoolers Arrested for Allegedly Creating Deepfake Nudes of Classmates
題名:
フロリダの中学生が同級生のディープフェイクヌード画像を作成した容疑で逮捕される
記事内容要約:
フロリダ州の10代の少年2人が、同級生のAIで生成したヌード画像を共有した容疑で逮捕された。これは、AIで生成したヌード画像の共有で刑事告発された初の事例と見られる。
➁ 5 Beverly Hills middle school students expelled following AI-generated nude photo scandal
題名:
AIが生成したヌード写真スキャンダルを受け、ビバリーヒルズの中学校の生徒5人が退学処分に
記事内容要約:
ビバリーヒルズの中学校で、生徒のAIによるヌード写真のスキャンダルが発覚し、関与した5人の生徒が退学処分となった。被害に遭った生徒は16人に上る。
➂ Revealed: the names linked to ClothOff, the deepfake pornography app
題名:
明らかになった：ディープフェイクポルノアプリ「ClothOff」に関連する名前
記事内容要約:
「Clothoff」というディープフェイクAIポルノアプリの開発者の名前が明らかになった。このアプリは、著名人や一般人の画像をヌードに変換することができる。
➃ State, local organizations fighting AI-related child sex crimes in Arkansas
題名:
アーカンソー州で、州と地方の組織がAI関連の児童性犯罪と戦う
記事内容要約:
アーカンソー州で、AIが生成した児童虐待画像を所持していた男が逮捕された。この事件は、AIが児童虐待コンテンツの作成に悪用される可能性を示している。
⑤ New Jersey police tell public to ignore AI-generated story about Christmas shooting that never happened
題名:
ニュージャージー州警察、クリスマスに関するAIが生成した話を無視するよう市民に呼びかけ
記事内容要約:
ニュージャージー州で、AIが生成した銃撃事件のニュース記事が拡散され、パニックを引き起こした。この偽ニュースは、AIの悪用による誤情報の拡散の危険性を浮き彫りにした。
➅ Magician Created AI-Generated Biden Robocall In New Hampshire For Democratic Consultant, Report Says
題名:
報告によると、マジシャンが民主党コンサルタントのためにニューハンプシャー州でAIが生成したバイデンのロボコールを作成
記事内容要約:
あるマジシャンが、民主党コンサルタントのために、AIで生成したバイデン大統領のロボコールをニューハンプシャー州で行ったと報じられた。これは、AIが政治的な影響力を持つ可能性を示唆している。
生成AI絡みの逮捕事例を調べてみると
調べた限り、生成AIを使用して、同級生の顔に画像生成を使ってフェイクの体を付け加えることでの嫌がらせや脅し、いじめに関する記事が圧倒的に多かった。新しい技術が出てきたとき、非倫理的で悪意のある活用は逮捕や検挙によって社会で顕在化する。それが、技術の危険性の警報を鳴らす。そこから、法や規制が整備されていて、技術は社会の中で地位を確立するが、顕在化した問題がこれらの記事で挙げられた内容となっている。
他にも、児童虐待の画像生成、AIの悪用による偽記事の作成・拡散などがある。これらも一つの傾向としてみると、全体的にフェイク情報のクオリティが高く、それを作るコストも低くなっているということに尽きる。
フェイク情報を作ってはダメだし、そのようなトラブルに巻き込まれることに気を付けないといけない。