概要：
AI（機械学習）の適用限界を示唆する次の２つの数学的定理が存在している。
- ノーフリーランチ定理
- AI(機械学習)の手法にはただ一つのあらゆる状況に対処できる完全な方法はない
- 醜いアヒルの子の定理
- ものごとをある概念に分けるというときには，必然的にそのものごとの特定の側面を重視し，他を無視することを伴う
この２つの定理が示唆する不可能性は、数学の形式的証明に基づいたものであり，
AI(機械学習）のみならず、人間の帰納的推論全てにあてはまる。
※ 日本物理学会誌 「変わりゆく機械学習と変わらない機械学習」 より抜粋＆まとめ：
ノーフリーランチ定理:
ある予測問題について手法AがBより汎化誤差に関して性能が良かったとしても，手法BがAより良くなるような別の予測問題が必ず存在することを示す．どの手法も他の手法より常によいということはあり得ないことになり，多くの機械学習手法を考案する必要が生じる．逆に，解こうとする予測問題について事前に情報があれば，それを活かした手法が有利になるので，問題に合わせて手法を構築したり選択することが重要になる
無料の昼食は存在しない（どこかで、例えば夜ごはんの料金が高くなる）ということですね。
この定理の名称は、ハインラインのSF小説『月は無慈悲な夜の女王』（1966年）が由来だそうです。 by Wikipedia
醜いアヒルの子の定理:
この定理は，対象を表現している全ての特徴を同等に重要とみなす限り，純粋に形式的な観点のみだけでは，他より類似している対象の集まりというものは存在しえないことを示す
この定理により，対象のある側面を重視し他を無視するという主観的規準なくしては，分類などの判断はコンピュータも人間もできない．また，特徴選択や次元削減など，一部の特徴を特に重視する操作が機械学習にとって本質的であることをこの定理は示唆している
コメント：
「変わりゆく機械学習と変わらない機械学習」は、発展の歴史も含まれ、初心者＆入門者にも比較的読み易くお勧めです。