はじめに

AIの「自律」に関して考える場合、
ひとつには、哲学的？な立場があると思う。（ワタシとしては、あまり理解が届かない領域ではあるが。）
念のため、その内容を、少し見てみた。

AI、自律、哲学、のキーワードで検索してえられる文献

いろいろ出てくるが、読みやすそうなpdfを２つほど選び、その内容を確認した。

その１（URL、タイトル）

人工知能の自律性について　（山﨑かれん）

その１　（内容抜粋、引用）

BDI エージェントは人間のような形で自ら欲求を持つことがないという点において、今回定めた人格的自律性を持つことにはなっていない。この問題に対処するための研究として二つの方向を考えている。一つは人工物に自ら欲求を生み出す機構を与えるという方向、もう一つは自ら欲求を持たない人工物に自律性を認めるという今回とは異なる形の自律性概念の構築を行うという方向である。

その２（URL、タイトル）

https://www.issj.net/journal/jissj/Vol14_No2_Open/S1V14N2.pdf
実行可能な AI 技術のための条件
The Conditions for Feasible AI Technology
（西垣通）

その２　（内容抜粋、引用）

演繹から統計への重点変更が，過去の挫折の克服と応用範囲の拡大をもたらしたことは間違いない．だがこれは同時に，現在の AI の弱点を浮きあがらせる．演繹推論であれば原則として誤りは生じないが，統計推論なら少なくとも確率的な誤りから逃れられない．

マスコミにはよく「自律型（autonomous）AI」という言葉が登場する．AI 駆動のロボットは，自律的だから人気があると言う人もいる．だが，いったい自律的な機械など存在するだろうか．機械は人間の指令通り作動する他律的な存在であり，AI も人間の作ったプログラムにしたがって作動する以上，決して例外ではないはずだ．

現在の AI が，ビッグデータ有効活用への道をひらく可能性をもつことは確かである．だが，AI の出力から誤りを無くすことはできないし，また AI は情報の意味内容を真にとらえてはいない．それらの点を考えると，AI システムの保守維持技術の確立，さらに情報をより生命的／社会的なものととらえる情報教育の拡大が重要なことがわかる．このことに気づかないと，早晩，AI ブームは尻すぼみになっていくだろう．

まとめ

特にありません。
主体とか(これらの文献では直接の指摘はなかったかもしれないが）身体性とか、、、とりあえず、そのあたりのことが指摘されている。
必ず指摘される部分ではある。
後者の文献では、「統計推論」等の表現でAIの限界を示されているようにも読めるが、個人的には、AIに対して「統計推論」という表現に違和感があるのと、かりにそうだとしても、それによって、特別な限界がある気はしていない。（おそらく、わかりやすい表現をされているだけだと思うが。）

これらの内容が、わかりやすく、端的に表現された文献等あれば、知りたい。