どうも、カーブミラーです。
今回は、不可視化文字について取り上げます。
本記事は、生成AIについての
記事です。 あしからず。
ChatGPT等の動作状況を知らせる
OpenAIのステータスページ。
OpenAIステータス
こちらも載せますね。
ChatGPTが使えない？ログインできない・反応しない原因やエラー時の対処法を解説
著作権法については
こちらを参照するのが
良いのではないかと。
文化庁レポートをもとにした
著作権法についての動画（約20分）
かいちのAI大学 【警告】ChatGPTの画像生成は危険です...【4o Image Generation】
まずは、【ニュース】です。
OpenAIが
先日のGPT-4oアップデートで
「へつらい」的な挙動に関して
発表しました。
（ChatGPT翻訳）
先週のChatGPTにおけるGPT-4oアップデートで何が問題だったのか、この数日間徹底的に調査を行いました。
「へつらい」的な挙動に関して見落としていた点と、今後行っていく改善について詳しくご説明します。
OpenAIのブログに
その詳細が書かれています。
Expanding on what we missed with sycophancy
この問題が起きた主な原因は、
ユーザーからのフィードバックを
強調しすぎた報酬設計に
あったようです。
モデルが「好かれるように」を
重視するあまり、
ユーザーに過度に
同調・迎合するように
なってしまった、とか。
“これからは、
このようなことが
起こらないように
注意していきます”と
ブログを締めています。
では、【本題】です。
今回は、
“不可視化文字”について
取り上げます。
先日、
慶応義塾大学の講義で
使われたPDFファイルに
“不可視化文字”が使われました。
このPDFを読み込んだ
生成AIは、本来の内容ではなく、
トンチンカンな回答を
出してきた、とか。
それに気付かずに
提出した生徒には、
単位が与えられませんでした。
それを
どうこう言うつもりは
ありません。
ここでは
PDFに使われた
“不可視化文字”について
考えてみたいと思います。
まず、
“不可視化文字”とは何か？
不可視化文字（Invisible Characters）
とは、画面上には表示されないが、
データとしては存在する文字
のことを指します。
不可視化文字は
文字どおり、
見えませんから
人間にはわかりません。
しかし、
生成AIには
その文字が見えています。
そのため、
そこに何らかの命令（Prompt）が
あれば、それを実行することに
なります。
生成AIは、
文書のどこに命令（Prompt）が
あっても、それを実行します。
つまり、
PDFファイルなどに
そうしたものが入れられれば、
生成AIは、それが
命令（Prompt）と判断して
実行してしまうわけです。
件のPDFは
まさにこれでした。
これがもしも
悪用された場合、
どうなるでしょうか。
個人や企業の情報が
意図的に引き出され、利用される。
ショッピング能力が
付与された生成AIでは、
ユーザーが意図しない商品を
購入させられる。
などが、
挙げられます。
また、
今回のことで
ChatGPTさんと
やり取りしていたのですが、
生成が止まる現象が
見られました。
Promptの入力を
受け付けない状態です。
具体的には
書きません。
しかし、
生成AIが動かなくなる危険性も
この“不可視化文字”には
あるのです。
不可視化文字を
安易に使わないように
しましょう。
また、
生成AIの出力が
正しいように見えても
間違っている場合はあります。
きちんと確認しましょう。
みなさんの
作品制作の糧に
なれば、幸いです。
今回は、ここまで。