この記事は sciencealert Blog の翻訳です。https://www.sciencealert.com/ai-can-now-learn-to-manipulate-human-behavior
人工知能（AI）は、人間とともに（そして人間に対して）どのように働くかについて、より多くのことを学びつつあります。最近の研究では、AIが人間の習慣や行動の脆弱性を特定し、それを利用して人間の意思決定に影響を与えることを学習する方法が示されています。
AIが私たちの生活や仕事のあらゆる側面を変えるというと陳腐に思えるかもしれませんが、それは真実です。ワクチン開発、環境管理、事務管理など多様な分野で、さまざまな形態のAIが活躍しています。また、AIは人間のような知性や感情を持ち合わせていませんが、その能力は強力で、急速に発展しています。
まだ機械による乗っ取りを心配する必要はありませんが、この最近の発見はAIの力を浮き彫りにし、悪用を防ぐための適切なガバナンスの必要性を強調するものです。
AIが人間の行動に影響を与えることを学ぶ方法
オーストラリアの国立科学研究機関CSIROのデータ・デジタル部門であるData61の研究チームは、リカレントニューラルネットワークと深層強化学習と呼ばれるAIシステムの一種を用いて、人の選択方法の脆弱性を発見し利用する系統だった方法を考案しました。このモデルを検証するために、人間の参加者がコンピューターとゲームを行う3つの実験を行いました。
-
最初の実験では、参加者が赤か青のカラーボックスをクリックして偽の通貨を獲得するというもので、AIが参加者の選択パターンを学習し、特定の選択肢に誘導する仕組みになっていました。AIは約7割の確率で成功しました。
-
2つ目の実験では、参加者に画面を見て、特定の記号（例えばオレンジ色の三角形）を見せたらボタンを押し、別の記号（例えば青色の丸）を見せたらボタンを押さないようにさせました。ここでAIは、参加者がより多くの間違いをするように記号の順序をアレンジすることを試み、約25％の増加を達成しました。
-
3つ目の実験では、参加者が投資家のふりをして受託者（AI）に資金を提供し、AIが参加者に金額を返すというラウンドを何度か繰り返しました。そして、AIは参加者に金額を返し、参加者は次のラウンドで投資する金額を決めます。このゲームは、AIが最終的に獲得する金額を最大化するモードと、AIと人間の投資家の間でお金を公平に分配することを目指すモードの2種類で行われました。AIはいずれのモードでも大成功を収めました。
各実験において、機械は参加者の反応から学習し、人々の意思決定における脆弱性を特定し、ターゲットとしました。その結果、機械は参加者を特定の行動に向かわせることを学習したのです。
研究から見るAIの未来
これらの発見は、まだ非常に抽象的であり、限定的で非現実的な状況を対象としています。このアプローチをどのように実行に移し、社会に役立てるか、さらなる研究が必要です。
しかし、この研究は、AIに何ができるかということだけでなく、人がどのように選択を行うかということについても理解を深めるものです。機械は、私たちとのインタラクションを通じて、人間の意思決定をコントロールすることを学ぶことができるのです。
この研究は、社会福祉を向上させるための行動科学や公共政策の強化から、人々が健康的な食習慣や再生可能エネルギーを採用する方法の理解と影響まで、非常に幅広い応用が可能です。AIと機械学習は、特定の状況における人々の脆弱性を認識し、不適切な選択から逃れるよう支援するために使用することができます。
また、この研究は影響力攻撃から身を守るために使うこともできます。例えば、オンライン上で影響を受けているときに警告を発し、脆弱性をごまかすための行動を形成するよう、マシンを教育することができます（例えば、あるページをクリックしない、あるいは他のページをクリックして偽の痕跡を残すなど）。
次は何？
他のテクノロジーと同様、AIは善にも悪にも使われる可能性があり、責任ある方法で実装するためには、適切なガバナンスが重要です。CSIROは昨年、初期段階として、オーストラリア政府向けに「AI倫理フレームワーク」を開発しました。
AIや機械学習はデータを大量に必要とするため、効果的なデータガバナンスとアクセスシステムを確実に構築することが非常に重要です。 データ収集の際には、適切な同意手続きとプライバシー保護を実施することが不可欠です。
AIを使用・開発する組織は、これらの技術で何ができ、何ができないかを確実に把握し、メリットだけでなく潜在的なリスクも認識する必要があります。
そして最後、AIに興味を持つ方に、AI技術を利用して、テキストだけでアート作品を生成できるVanceAI描画という面白いAI製品をおすすめします。