この記事で得られること3行まとめ
- シンギュラリティの本質と、ネオサイバネティクスについて
- ネオサイバネティクス観点での、AIが抱える理論的限界の整理
- AIが驚異的な発達を遂げた現代でのエンジニアの生存戦略と考え方について
はじめに
本記事は技術記事ではなく、エンジニアとしての在り方を考えるコラム記事です。
こんばんは、mirukyです。
皆さんは、おそらくシンギュラリティという言葉を聞いたことがあると思います。
最近はむしろあまり聞かなくなった言葉ですが、要は「AIが人間の知能を追い抜く」ということです。
2005年にレイ・カーツワイルが著書『ポスト・ヒューマン誕生』で「2045年にシンギュラリティが到来する」と宣言してから約20年。2026年現在、AIは驚異的な進化を遂げ、我々エンジニアの働き方そのものを変えつつあります。
今回は、ネオサイバネティクスの考え方を解説しつつ、我々エンジニアがこれからどう動くべきか、どう考えて行動すべきかを書き連ねます。
私自身の考えも混じっていますので、ご了承ください。
参考にする情報は適宜記載します。
目次
- シンギュラリティとは
- ネオサイバネティクスとは
- コラム：人間とAIはどう違う？
- 本題：我々エンジニアはどう生きるべきか
- 大事なマインド
- おわりに
1. シンギュラリティとは
1-1. 技術的特異点
シンギュラリティ（技術的特異点）とは、AIが人間の知能を超越し、自ら自身を改良し続けることで、技術の進歩が爆発的に加速する転換点を指します。
この概念の起源は古く、数学者ジョン・フォン・ノイマンが1950年代に「技術の進歩がますます加速し、やがて人間の営みに根本的な変化をもたらす特異点が近づいている」と述べたことに遡ります。その後、SF作家であり数学者でもあるヴァーナー・ヴィンジが1993年に「30年以内に超人間的知能が創造される」と論じ、概念が広まりました。
そして2005年、アメリカの発明家・未来学者であるレイ・カーツワイルが著書『ポスト・ヒューマン誕生（The Singularity Is Near）』を発表し、 「収穫加速の法則」 を根拠に「2045年にシンギュラリティが到来する」と宣言しました。これが世界的に広まり、いわゆる「2045年問題」として知られるようになります。
1-2. カーツワイルの未来予測
カーツワイルの予測を整理すると以下のようになります。
| 時期 | 予測内容 |
|---|---|
| 2020年代後半 | コンピュータがチューリングテストに合格し、人間の知能と区別がつかなくなる |
| 2030年代初期 | コンピュータの計算能力が人類の生物的知能と同等になる |
| 2045年 | 1,000ドルのコンピュータが人間の脳の約100億倍の演算能力を持つ。技術的特異点に到達 |
ちなみに、カーツワイルは2024年に続編『The Singularity is Nearer（シンギュラリティはより近い）』を出版し、これらの予測を改めて支持しています。
1-3. 2026年現在の状況
2022年11月にChatGPTが公開されて以降、生成AIは急速に社会に浸透しました。コーディング支援、文章生成、画像生成、動画生成まで、数年前には想像できなかったことが現実になっています。
注目すべきは、2025年の研究（Jones & Bergen）でGPT-4.5がチューリングテストに合格したことです。被験者の73%がGPT-4.5を人間だと判断し、実際の人間の判定率（67%）を上回りました。カーツワイルの「2020年代後半にチューリングテストに合格する」という予測は、ほぼ的中したと言えます。
一方で、2026年現在においても、シンギュラリティが「到来した」と断言するのは難しい状況です。
- LLM（大規模言語モデル）の学習データの枯渇問題
- AIのエネルギー消費の膨大さ（データセンターの電力問題）
- ハルシネーション（もっともらしいウソをつく）の未解決
- AGI（汎用人工知能）の定義と達成をめぐる議論が続いている（OpenAIのサム・アルトマンは2025年12月に「我々はAGIを構築した」と宣言し、Google DeepMindはLLMを「萌芽的AGI」に分類したが、学術的コンセンサスは得られていない）
AIは確かに多くの領域で人間レベルに到達し、一部では人間を超えています。しかし、「人間の知能を超える」とは一体どういう意味なのか。次章のネオサイバネティクスの考え方が、一つの答えを示してくれます。
2. ネオサイバネティクスとは
2-1. サイバネティクスからネオサイバネティクスへ
サイバネティクスとは、1948年に数学者ノーバート・ウィーナーが提唱した、通信と制御に関する学問です。生物と機械の間にある共通の仕組み（フィードバックによる制御）を研究するものでした。
これを発展させたのがネオサイバネティクスです。物理学者ハインツ・フォン・フェルスターらによって1970年代以降に体系化されました。ネオサイバネティクスの核心は、「観察者の視点」 を問い直すことにあります。
世界を観察しているのは神のような超越した存在ではなく、人間にほかなりません。人間である自分が観察している以上、自分の見ている世界を今一度問い直す必要がある。これが「二次観察（観察の観察）」です。
参考：西垣通「AIの真の可能性を見極めよ」『Executive Foresight Online（HITACHI）』（2016年）
2-2. オートポイエーシス：自律系と他律系
ネオサイバネティクスの議論から生まれた重要な概念が、オートポイエーシス（自己創出） です。チリの生物学者ウンベルト・マトゥラーナとフランシスコ・ヴァレラが1970年代に提唱しました。
オートポイエーシスとは、構成素が別の構成素を産出し、それがまた別の構成素を作り出すという再帰循環的な産出プロセスです。この自己産出のネットワークそのものが、システムの境界を定めます。
ここから導かれる重要な区別があります。
| 自律系（生物） | 他律系（機械） | |
|---|---|---|
| ルール | 自分で自分のルールをつくる | 人間が設計したルールに従う |
| 動作 | 閉鎖系。外からは厳密にわからない | 開放系。入力と設計がわかれば予測可能 |
| 状況対応 | 未知の状況にも柔軟に対応 | 設計の範囲外には対応不能 |
東京大学名誉教授の西垣通氏は、この区別をもとに次のように述べています。
コンピュータは人間が設計したプログラム、つまりルールに従って動く「他律系」です。入力データとプログラムがわかれば、原理的にコンピュータの出力は完全に予測できます。一方、生物は自分で自分のルールをつくり、その動作の仕方は「自律的」です。
参考：西垣通「AIの真の可能性を見極めよ【第3回】IA（人知の増幅装置）をどう生かすか」『Executive Foresight Online（HITACHI）』（2016年）
2-3. 西垣通氏の主張：AIではなくIA
西垣氏は、シンギュラリティに対して明確に否定的な立場をとっています。
シンギュラリティとは西欧の宗教的伝統文化の上に形成された仮説にすぎず、惑わされる必要などありません。
そして、目指すべきはAI（Artificial Intelligence = 人工知能）ではなく、IA（Intelligence Amplifier = 人知の増幅装置） であると説きます。つまり、人間を超える汎用AIを目指すのではなく、特定目的に向けた専用AIを上手く活用して、人間の知能を増強することこそが本質であるという主張です。
西垣氏の著書『AI原論』（講談社選書メチエ、2018年）では、他者により設計される人工知能が真の自律性を獲得することはなく、技術的特異点の端緒となる再帰的な改良も、他者による設計の範囲内でしか動作できないと論じられています。
さらに、西垣氏はChatGPT登場後の2023年にも『デジタル社会の罠：生成AIは日本をどう変えるか』（毎日新聞出版）を上梓し、生成AI時代においてもこの主張を維持しています。2024年には『現代思想』誌の特集「ウィーナーとサイバネティクスの未来」に「近未来にサイバネティクスの復権なるか」を寄稿し、生成AI時代だからこそサイバネティクスに立ち返るべきだと論じています。また、2026年1月の朝日新聞インタビューでも「対話型生成AIブームに足りぬ自覚」と題し、「本当の賢さ」とは何かを問うており、AI批判の姿勢は一貫しています。
補足しておくと、この自律系/他律系の枠組みは理論的に有効ですが、2026年現在のAIはその境界を曖昧にしつつある面もあります。現代のLLMは確率的に動作するため、設計者でさえ出力を完全には予測できません。また、強化学習により自らの振る舞いを修正するシステムも登場しています。ただし、それらも「人間が設計した学習アルゴリズムの範囲内」で動いているという点で、西垣氏の主張の核心は揺らいでいないと私は考えています。
3. コラム：人間とAIはどう違う？
前章でネオサイバネティクスの観点から「自律系と他律系」の違いを見ました。ここでは、もう少し具体的にAIの根本的な限界を見ていきます。
西垣氏は2022年の表象文化論学会のインタビューで、深層学習以降のAIについても「記号接地問題やフレーム問題は、解決したと強弁するAI学者もいるが、私は決してそうは思わない」「対象を単一の記号ビット列で表そうと、ニューラルネット・モデルで分散した記号ビット分布で表そうと、本質は同じ」と述べています。これを踏まえた上で、以下の議論を読んでください。
3-1. フレーム問題
フレーム問題とは、AIの難問として知られる古典的な問題です。
人間は日常生活において、無意識のうちに思考のフレーム（枠組み）を設定しています。例えば「ハンバーガー店で注文する」とき、店の壁の色や他の客の服装は無視して、メニューの選択に集中できます。
理論上、AIにはこれが困難です。ある状況において「何を考え、何を考えないか」というフレームの限定に関する規則を、明示的にプログラミングすることはできません。西垣氏も述べている通り、「フレーム問題に悩まされることなく、リアルタイムに状況判断ができる」のは人間の能力です。
ただし、2026年現在のLLMは、膨大なテキストデータからの統計的学習により、フレーム問題を「理論的に解決」したわけではないものの、実用的には回避しています。自然言語での対話、コード生成、さらにはAlphaFoldによるタンパク質構造予測や自動運転の実用化など、AIの活躍領域はもはや「閉じた世界」に限りません。しかし、それが真に「状況を理解している」のか、それとも高度なパターンマッチングなのかという哲学的問いは、依然として残っています。
3-2. 記号接地問題
もう一つの難問が記号接地問題です。
コンピュータが扱う記号（データ）を、実世界の「意味」と結びつけることができるか、という問題です。例えば、AIが「猫」という記号を処理できても、人間が感じる「あの柔らかくて温かい、気まぐれな四本足の生き物」という意味内容と、本当に結びついているのか。
言語学者ソシュールが論じたように、人間の概念は絶対的なものではなく、文化や経験に根差した相対的なものです。人間は会話の中で、言葉の表面的な意味（意味論）だけでなく、話し手の意図や文脈（語用論）も読み取ります。AIには、この「意味の理解」が根本的に欠けています。
もっとも、2026年現在のマルチモーダルAI（テキスト・画像・音声を統合的に処理するモデル）は、記号と知覚的な情報との結びつきを部分的に実現しつつあります。画像を見て文脈に応じた説明を生成できるAIは、記号接地問題を完全に解決したとは言えませんが、「接地のようなもの」に近づいていることは否定できません。
3-3. 身体性の問題
さらに、AI研究者の中島秀之氏が指摘するのが身体性の問題です。
脳は単独で存在しているのではなく、目や耳などの感覚器官、さらには体全体で世界とつながっています。幼児の手足の運動と言語形成の関係や、内臓の状態が精神活動に影響を与えるという研究もあります。
人間の知能は、身体を通じた世界との相互作用の中で初めて成立するものです。ディスプレイの中で動くAIには、この身体性がありません。
ただし、この領域でも変化が起きています。2024〜2025年にかけて、Figure AIやGoogle DeepMindなどがヒューマノイドロボットの開発を加速させ、LLMと身体を持つロボットを統合する試みが進んでいます。「身体を持たないAI」という前提そのものが、今後変わる可能性があります。
3-4. では、AIは「何ができる」のか？
ここまで読むと「AIは全然ダメじゃないか」と思われるかもしれません。しかし、それは正しくありません。
AIの能力が遺憾なく発揮されるのは、以下のような場面です。
- 膨大なデータからパターンを見出す統計的処理
- 人間には不可能な量の情報を高速に処理する
- 定型的・反復的な作業を正確にこなす
- 過去のデータに基づく予測・分類
西垣氏の言葉を借りれば、「コンピュータは単にデータ処理をしているにすぎません。しかし非常に正確かつ高速に処理でき、大変有用です。」ということです。
重要なのは、「AIにはできないこと」を理解した上で、「AIが得意なこと」を最大限活用するという姿勢です。これこそが、IA（Intelligence Amplifier）の考え方です。
4. 本題：我々エンジニアはどう生きるべきか
ここからが本題です。シンギュラリティの議論やネオサイバネティクスの知見を踏まえた上で、我々エンジニアは、この激動の時代にどう生きるべきなのか。
4-1. 「AIに仕事を奪われる」という恐怖について
まず、我々の心にある一番大きな不安と向き合いましょう。「AIにエンジニアの仕事が奪われるのではないか」という恐怖です。
結論から言えば、奪われる仕事はあります。
- 定型的なコーディング作業
- 既存のテンプレートを組み合わせるだけの設計
- マニュアルに沿ったテスト作業
- 単純なバグ修正
これらは既にAIが人間より速く、正確にこなせる領域です。ここにしがみつくのは、産業革命時に手織りにこだわった織工と同じです。
しかし同時に、奪われない仕事もあります。あるいは、新たに生まれる仕事もあります。
4-2. AIが奪えないもの
前章で見たように、AIには根本的な限界があります。この限界から、エンジニアとして守るべき能力が見えてきます。
1. 問いを立てる力
AIは「答えを出す」ことは得意ですが、「何を問うべきか」を決めることは苦手です。そもそもフレーム問題を抱えている以上、「この状況で何が問題なのか」を定義すること自体がAIの弱点です。
顧客が漠然と困っている。チームが何となくうまくいっていない。システムが「動いているけど何かおかしい」。こうした曖昧な状況から本質的な問題を見抜き、適切な問いを立てる力。これは人間にしかできません。
2. 文脈を読む力
記号接地問題が示す通り、AIは「意味」を真に理解しているわけではありません。ビジネスの文脈、チームの人間関係、顧客の言外のニーズ、社会の空気。エンジニアリングは技術だけの世界ではなく、人間社会の中で行われる営みです。
3. 責任を取る力
AIがどれだけ優秀になっても、最終的な意思決定と責任を引き受けるのは人間です。システム障害が起きたとき、セキュリティインシデントが発生したとき、設計判断の是非が問われたとき、「AIがそう判断したから」では通りません。
4. 未知に飛び込む力
AIは過去のデータに基づいて動きます。しかし、本当にイノベーティブなプロダクトは、過去のデータからは導き出されません。新しい技術に飛び込み、失敗を恐れず試行錯誤する勇気と行動力。これは他律系である機械には持ち得ないものです。
4-3. AIとの正しい距離感
ここで、西垣氏のIA（Intelligence Amplifier）の考え方が活きてきます。
AIを「人間に取って代わるもの」ではなく、「人間の能力を増幅するもの」として捉え直すのです。
具体的には、以下のような付き合い方が考えられます。
- コーディング：AIに雛形を書かせ、自分は設計とレビューに集中する
- ドキュメント作成：AIに下書きを作らせ、自分は文脈と正確性を担保する
- 障害対応：AIにログ分析をさせ、自分は根本原因と対策の判断に注力する
- 学習：AIを壁打ち相手にして、自分の理解を深める
ポイントは、「AIに丸投げしない」ことです。AIの出力を鵜呑みにするのではなく、常に自分の頭で考え、判断する。AIは道具です。道具に使われるのではなく、道具を使いこなす。その主体性を保つことが大切です。
5. 大事なマインド
最後に、この時代を生きるエンジニアに必要なマインドセットを整理します。
5-1. 「人間にしかできないこと」を磨く
AIが得意な領域で人間が張り合う必要はありません。計算速度やデータ処理量で勝てないのは当たり前です。
その代わりに、「人間にしかできないこと」を意識的に磨きましょう。
- 共感力：チームメンバーやユーザーの気持ちを理解する力
- 創造力：既存の枠にとらわれず、新しい発想を生む力
- 判断力：不完全な情報の中で、最善の意思決定を下す力
- 倫理観：技術が社会に与える影響を考え、責任ある選択をする力
5-2. 学び続けること
AIの進化速度は凄まじいものがあります。半年前の常識が通用しないこともあります。
しかし、恐れる必要はありません。エンジニアという職業は、そもそも「学び続ける」ことが前提の仕事です。新しい言語、新しいフレームワーク、新しいクラウドサービス。我々はずっと学び続けてきました。AIも、その学びの対象の一つに加わっただけです。
大切なのは、表面的な使い方を覚えるのではなく、原理を理解することです。LLMが統計的なパターンマッチングに基づいていること、フレーム問題や記号接地問題が理論的には未解決であること。こうした本質を理解していれば、AIの出力に振り回されることはありません。
5-3. 「恐怖」と向き合う
人間がシンギュラリティに恐怖を感じるのは、「自分ではどうすることもできない」という無力感に繋がるからです。
機械論的世界観で全てを説明しようとしても、次は「AIが人間を超える」という新たな恐怖が生まれる。一難去ってまた一難。これは人間の性なのかもしれません。
しかし、ネオサイバネティクスが教えてくれるのは、世界には解析不可能で、再現不可能な事象があるということです。全てを制御しようとするのではなく、不確実性を受け入れた上で、自分にできることに集中する。
西垣氏の言葉を借りれば、「確かに、スマート工場ができれば単純作業を行う労働者は減ります。しかし実際には、製品設計をはじめ、工程管理やロボット保守の仕事、さらにはデータを扱うコンピュータのハード／ソフトの開発維持の仕事など、これまで以上に高度な仕事が増えていく」とのことです。恐怖に駆られるだけでなく、新しい役割を見据えることが重要です。
5-4. 自分の「持論」を持つ
エンジニアは技術者であると同時に、一人の人間です。AIと人間の関係について、社会のあり方について、自分なりの考えを持つことが大切です。
本記事ではネオサイバネティクスの立場から「生物と機械は根本的に異なる」という見方を紹介しました。しかし、機械論的世界観に立つ人もいます。シンギュラリティは来ると信じる人もいます。
大切なのは、どの立場が正しいかではなく、自分で考え、自分の言葉で語れることです。AIが出力した回答をそのままコピーするのではなく、自分の経験と思考を通して咀嚼し、自分の意見として発信する。これこそが、他律系の機械にはできない、自律系の人間ならではの営みです。
6. おわりに
本記事では、シンギュラリティの概念を確認し、ネオサイバネティクスの観点からAIと人間の本質的な違いを考察した上で、エンジニアとしてどう生きるべきかを論じました。
要点をまとめます。
①シンギュラリティ（技術的特異点）は、カーツワイルが2045年に到来すると予測したが、西垣通氏をはじめ多くの識者が否定的見解を示している
②ネオサイバネティクスの観点では、生物は「自律系」、機械は「他律系」であり、根本的な構成原理が異なる
③AIにはフレーム問題、記号接地問題、身体性の欠如という理論的課題が残るが、実用面では急速に克服されつつある
④AIは「人間に取って代わるもの」ではなく「人間の能力を増幅するもの（IA）」として捉えるべき
⑤エンジニアには、問いを立てる力、文脈を読む力、責任を取る力、未知に飛び込む力が求められる
AIの進化によって、エンジニアの仕事が変わることは間違いありません。しかし、それは「脅威」ではなく「変化」です。我々エンジニアは、これまでも技術の変化に適応し続けてきました。
最後に、一つだけ。
AIが発展すればするほど、逆説的に「人間とは何か」という問いが深まります。ネオサイバネティクスが教えてくれること、それは我々人間が自律的で、予測不可能で、不完全で、だからこそ自由な存在であるということです。
その自由を、恐怖で手放さないでください。
結局我々はエンジニアであり、一人の人間なのです。
今回の記事が少しでも皆様のお役に立てば幸いです。
ではまた、お会いしましょう。
参考文献・記事
- レイ・カーツワイル『ポスト・ヒューマン誕生：コンピュータが人類の知性を超えるとき』NHK出版（2007年）
- 西垣通『ビッグデータと人工知能 ─ 可能性と罠を見極める』中公新書（2016年）
- 西垣通『AI原論 ─ 神の支配と人間の自由』講談社選書メチエ（2018年）
- 西垣通「AIの真の可能性を見極めよ【第1回】」『Executive Foresight Online（HITACHI）』（2016年）
URL: https://www.foresight.ext.hitachi.co.jp/_ct/17013562 - 西垣通「AIの真の可能性を見極めよ【第2回】」『Executive Foresight Online（HITACHI）』（2016年）
URL: https://www.foresight.ext.hitachi.co.jp/_ct/17013565 - 西垣通「AIの真の可能性を見極めよ【第3回】」『Executive Foresight Online（HITACHI）』（2016年）
URL: https://www.foresight.ext.hitachi.co.jp/_ct/17013568 - 中島秀之「AIは加速するが特異点はやって来ない」『人工知能』第33巻第1号（2018年）
- 合原一幸 編著『人工知能はこうして創られる』ウェッジ（2017年）
- 梅原猛「アニミズム再考」『日本研究：国際日本文化研究センター紀要』1巻（1989年）
- 西垣通・河島茂生『AI倫理 人工知能は「責任」をとれるのか』中公新書ラクレ（2019年）
- 西垣通『新 基礎情報学 機械をこえる生命』NTT出版（2021年）
- 西垣通『デジタル社会の罠：生成AIは日本をどう変えるか』毎日新聞出版（2023年）
- 西垣通「情報学から見たAI」『REPRE』表象文化論学会 Vol.45（2022年）
URL: https://www.repre.org/repre/vol45/special/nishigaki/ - レイ・カーツワイル『The Singularity is Nearer: When We Merge with AI』Viking（2024年）
- 西垣通「近未来にサイバネティクスの復権なるか」『現代思想』52巻10号, pp.112-118（2024年）
- 西垣通「対話型生成AIブームに足りぬ自覚 西垣通さんが問う「本当の賢さ」」『朝日新聞デジタル』（2026年1月）
URL: https://www.asahi.com/articles/ASTDD4J5JTDDUTFL00ZM.html - Cameron Jones & Benjamin Bergen "Does GPT-4 Pass the Turing Test?" arXiv preprint（2025年）