何の記事？

昨今流行っているイラスト生成AIについて思うところをまとめました。

この記事で言うイラスト生成AIとは

文章なり画像なりを元に、画像もしくは、動画を生成するものを指します。
文章を生成するAIについては、あまりこの記事ではふれません。

生成AIは触れてみたことのある人?

自分自身では怖くてほぼ触れたことがない人間になります。
自分が触れたことがあるものは、ミミックやChatGPTを元にしたAI作成メーカー位です。

あらすじ

今回のマラソンのお題の一つに、生成AIについてとあったので、現時点で思うところをまとめてみることにしました。
生成AIを使ったプロダクトや技術というより、ポエム記事になります。
また、イラスト生成AIへの否定的な意見を含みます。
その割に、確かなソースがあるような言説ではありません。
あくまでも、現状のネットニュースやSNSから見たイラスト生成AIに対して、現時点での自分が感じたことをまとめた記事になります。

その点も踏まえて、興味がある方はお読みください。

運用上の問題点

まず、現状の生成AIが広く一般ユーザが使えている現状について、私はあまりよく思っていません。
よく思わない理由──運用上、問題があると思う部分について述べます。

AI作品だけしか食べさせるものがなくなったらどうするか

イラスト生成AI作品しか学習させるデータがなくなったら、イラスト生成AIはどうなるのでしょうか。

現状のイラスト生成AIはまだまだ成長途中かと思います。
また、流行り廃りなども今後学習したり、絵描きに絵を描いてもらって追加学習することで作品を生み出すことが求められるものと考えています。おそらく「学習データはもう十分に手に入れたから現実の絵師が生み出す作品は不要」……とはならないんじゃないでしょうか。まだまだ手書きのデータの方が矛盾のない作品が生み出せる以上は、学習が必要なものと思います。

ですが、現状は絵描きに喧嘩を売るようなスタイルで、共存できる雰囲気ではないと感じています。
クリエイターの絵柄を学習させてその絵師を偽って作品を出せてしまうタイプのもの。
流出したラフから悪意を持ったユーザーが色塗り版を公開できてしまうもの。

クリエイターを排除したり、不利益を被らせるものとして使われる例が散見されており、到底共存する方向に向かっているとは言えないでしょう。

イラスト生成AIを使った嫌がらせを受けたクリエイターは、容易に筆を折ってしまうかもしれません。

その時イラスト生成AIはどうなるのか?
おそらく、イラスト屋などと同じような、価値の低いプロダクトとなった上に、クリエイターの絵の値段は釣り上げるしかないことになるのでは? ……となることを危惧しています。

イラスト生成AIは誰のためのプロダクト？

そもそも、イラスト生成AIは誰のための商品なのでしょうか。

絵を描けない人も絵を描けるようにするもの?
だとすれば、意図せず誰かの絵に似通ったものがでてきては使えません。
自分の作品を真似されたものが出回っていい気がする人もそういないかと思います。

クリエイターのネタだし用でしょぅか。
自分の絵だけを参考にできるならいいかと思いますが、学習段階で他の人の絵を読み込ませられてるのであれば、やはり似通ったものが出てくる可能性を無視できないので難しいように思います。

仕事上のたたき台として使えるでしょうか?
最終納品されたものが何かに似通っていると、やはり問題になりますね。
それは、AIを使っているかどうかに関わらず、パクリ作品で利益を得てはいけない、ということになるかと思います。

イラスト生成AIはそういったコンセプトが不明で、悪用防止がなされていないツールに思います。
簡単に悪用できてしまうケースが多く、そうなると誰向けのツールなの？と感じています。
本当に誰向けのツールなのだろう……。

イラスト生成AIに詳しくないユーザからすると、構造がブラックボックスな上に、悪用する気がなくても誰かの権利を侵害しうるかもしれないものが生成されるとなると、まだまだ使えないな……と考えています。

結局のところ、違法性があるかどうかと言うよりは、AIを使ったかどうかにかかわらず、人の作品やその作者を傷つけるようなことをするのはどうなのかと言うところが論点になるのかなぁと思います。
ただし、そういったお気持ちや感情論では公的に捌けないこと、芸術に対して大丈夫なラインを明確に定めることは難しいため、今法整備が進められている状況だとは理解しています。

技術的に難しさを感じるところ

引き算がうまくできない

これは、イラスト生成AIができない……という、技術的な面ではなく、人間が乗りこなすことが難しい……という印象の話です。
例えば、生成AIでできたイラストを漫画にしてみました!……というものが最近流れてくるようになりました。
それをみた時に、私は概ね気持ち悪さを覚えます。「ヒキ」が存在しないからです。

演劇や音楽、イラストにも「あえて表現しないこと」「かかないほうがいいこと」が存在します。
それがあって初めて、観るべきところや聞かせたい音が浮き彫りになってきます。

ですが、SNSで流れているイラスト生成AI漫画のコマは、全て100%の出力がされた絵で埋まっています。
どこを見ればいいか、下手をするとどの順で読めばいいか、一番言いたいことは何なのか。
とてもわかり辛く、読むのが疲れる……という印象です。

現状のイラスト生成AIでは人の眼に合わせた表現がまだむずかしい=全てのイラストに手をかけすぎてしまうのかなと思います。
おそらく、その問題はプロンプトや学習データをいじれば解決できるのかもしれません。
ただ、絵を描かない人間にとっては、ある程度の完成度の絵が出力されてしまうと、そこから求められた完成系に調整して持っていくことは難しいのではないかと思います。

それこそ、イラストレーターが上手く使って育てていけるツールとなってくれれば、その辺りの匙加減などの知見も増えていったのかもしれません。
ただ、現状はイラストレーターやクリエイターに手放しで歓迎されるツールではないため、そういった効果は期待できないように思います。

文章やデザインなどのイラスト生成AI以外も悪なのか

あまりそうは思いません。何かを伝えるための道具を作る時間を効率化することには悪と思わないのかも。
スライド資料とか会議の議事録とか、伝えたいことや専念したいことは別にあるから、ここには時間を割きたくない！……という部分が簡略化されるのは嬉しいと感じます。
ある意味、イラスト生成AIを利用してスライドやデザインを作成したいという人は、何かを伝えるための手段・道具とみなす気持ちが強いのかも。
ただし、そういったデザインを作る専門家に言わせれば、まだまだなデザインなことが目立つため、これもやはり、引き算がうまくできるレベルの知識が必要と思われるので、イラスト生成AIでなくても難しさを感じます。

今後の課題として思うところ

イラスト・文章問わず、指示するだけで生成できるAIは素晴らしい技術ですが、現状の使われ方には疑問を覚えます。
技術が素晴らしく、今後もこの技術をもとに素晴らしい作品が生まれてほしいと思うだけに、誰かを傷つける技術のままでいて欲しくないと願います。

多くの製品には想定される使い方があり、悪用防止策が講じられることが多いように思います。
ただ、イラスト生成AIについてはあまりに生成速度が速く、悪用を防ぐ仕組みがないため、想定も何も……という状況になっています。

イラスト生成AIは夢のような技術ではありますが、コンセプトや悪用防止がなされない製品は、結局ユーザに上手く使ってもらえずに終わるのかもな……と思いました。

自分が何かものづくりをするときは、誰が何のに使うのか。人を傷つける使い方ができないようになっているか……など、考えて公表したいなと思いました。