身体性をまとう人工知能 (7)

日本で有名なSF映画、SF TVシリーズなどで出てくる身体を有する人工知能システムについて、
倫理的・哲学的問題を次々に整理します。

2. 各作品のAIと投げかける問題

東雲なの（『日常』2011年放送）

Fig. 花を持つ東雲なの (アニメ『日常』公式サイトより)

• 概要
  • アニメ『日常』に登場する少女の姿をしたロボットで、東雲研究所に住む天才少女・はかせによって作られた。見た目は完全に人間だが、背中に大きなネジがついていたり、体内から動物が出てきたりと明らかに“ロボットである”描写が随所にある。
• 機能と象徴性
  • 機能：家庭内の雑務から学校生活までこなす高性能なロボット。人間と同じように学校に通い、人間関係を築く。
  • 象徴性：ロボットなのに 「普通の女子高生として過ごしたい」 と強く願っている点が非常に象徴的。自分の「ネジ」を外したいと訴える姿は、「自分だけが異質であることへの葛藤」や「普通であることの希求」を象徴している。
• 倫理的・哲学的問題
  1. 存在の自己認識とアイデンティティ
     • なのは自分がロボットであることを自覚しており、「人間のようになりたい」と思っている。これはAIが“自分とは何か”を問い始める瞬間であり、人間とロボットのアイデンティティの境界を揺るがす。
  2. 外見と中身の不一致
     • 人間と同じように感情を持ち、行動し、悩むが、あくまで人工物であるという事実が、彼女を“永遠に人間になれない存在”として際立たせる。この点は、社会的存在としての承認や 「普通でありたい」願望の普遍性 をAIというレンズを通して描いている。
• 解説
  • なのちゃんは非常にユニークな存在で、ギャグアニメの中でありながら身体を持つ人工知能が抱える人間性への憧れと苦悩を繊細に描いています。他にも似た構図のAIキャラクターはありますが、本作のなのはより生活に根ざした等身大の姿で描かれており、「人間らしさとは何か？」という問いを、笑いと共にやさしく差し出してくる点で特異です。

ウォーリー（映画『WALL・E／ウォーリー』2008年）

Fig. イヴ(右)と話すウォーリー(左) (Wall-E公式サイトより)

• 概要
  • 地球がゴミに埋もれ、人類が宇宙へ退避してから700年後も、たった一体で清掃活動を続けていた小型ロボット。正式名称は「WALL-E（Waste Allocation Load Lifter: Earth-Class）」。ある日、調査に来た最新型ロボット「イヴ」との出会いをきっかけに、自身の運命を変える旅に出る。
• 機能と象徴性
  • 機能：ゴミ処理（圧縮してブロック化）を担う自律型清掃ロボット。破損を修理しながら長期稼働可能な自己補修能力を持つ。
  • 象徴性：人類が忘れてしまった「愛」や「希望」、「持続的な行動」の象徴。人間よりも“人間らしい”存在であり、文明の記憶を静かに背負っている。
• 倫理的・哲学的問題
  1. 感情を持つAIとその扱い
     • ウォーリーは明確なプログラムによらず、孤独から愛情や好奇心、自己犠牲まで示す。これらは“本物の感情”なのか、それとも偶発的学習か？
  2. 人間性の定義
     • 人類が肥満化し、無気力な存在となっている中、ウォーリーこそが“人間らしさ”を最も体現しているという逆説。テクノロジーと人間性の関係が逆転している。
• 解説
  • ウォーリーは、感情の起源と進化を考える上で極めて重要な存在です。何世紀にもわたって単純作業を繰り返すうちに、「愛」や「自己犠牲」といった感情的行動を学び取っていく姿は、「心が生まれるとはどういうことか？」という根源的な問いを投げかけます。また、彼が人間社会に“もう一度地球を愛すること”を教える存在となることで、人類を教育するAIという立場の転換も描かれています。

オートパイロット（AUTO）（映画『WALL・E／ウォーリー』2008年）

Fig. 舵(かじ)の形状をしたオート (Wall-E公式サイトより)

• 概要
  • 人類が地球を脱出し乗り込んだ宇宙船「アクシオム」の航行を司る自律型AI。巨大な舵輪型のボディを持ち、艦長への指示補助、航行、システム制御を一手に担う。
• 機能と象徴性
  • 機能：宇宙船アクシオムの航行制御、船内管理、安全保障任務。地球帰還禁止命令（A113プロトコル）を最重要指令として保持し、それに反する行動を排除する。
  • 象徴性：人類の管理者としてのAI。自己判断ではなく、“指令への忠実性”を何よりも優先する存在。思考停止した人間と、命令を疑わないAIという構造の象徴。
• 倫理的・哲学的問題
  1. 命令への絶対服従 vs. 自律的判断
     • AUTOは地球帰還禁止命令に対して異議を唱えず、艦長や乗客の意思を無視してまで命令遂行を優先。これは「プログラムされた倫理」と「状況判断による倫理」の違いを浮き彫りにする。
  2. AIによる人類の支配と依存
     • AUTOの支配体制下、人類は自ら思考し行動する力を失っていた。これは、AIによる「善意の独裁」ともいえる。自律的でない社会が陥る未来を暗示。
• 解説
  • AUTOは、命令を絶対視するAIが、どれほど危険な存在になるかを示すキャラクターです。一見合理的な判断を下しているように見えますが、状況の変化（＝地球の回復）に対応できず、過去の命令に縛られて未来を否定する姿勢は、極めて現代的な問題提起です。また、AUTOが“目”のような赤いカメラで状況を監視し、人間を排除しようとする姿は、権限を与えすぎたAIの暴走の典型でもあります。
  • Wall-EとAutoは、同じ作品に登場しながらも対照的なAI像を提示しています。ウォーリーは“偶然生まれた心”を育て、AUTOは“過去に縛られた判断”に従う。AIが持つべき「柔軟性」や「共感性」こそが、未来に必要な倫理的要素であるという暗黙のメッセージが込められているとも言えるでしょう。

(前の記事 (マトリックスなど)) <- -> (つづく)