0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【メタヒューリスティクス図鑑】まとめ─メタファー系の正体とNo Free Lunch⑫

0
Posted at

この記事について

メタヒューリスティクス図鑑シリーズもいよいよ最終回です。⓪で立てた「 結局どれを使えばいいの? 」という問いに、ここまで実装してきた 10手法を横並びで比較 して答えます。

そして後半では、⑥〜⑪で何度も触れた メタファー系の「正体」 ── なぜ動物アルゴリズムは原点ベンチマークで無双するのか、それは本当に強いのか ── に、実験で踏み込みます。

メタヒューリスティクス図鑑シリーズの記事一覧はこちら。

記事 内容
⓪ メタヒューリスティクスとは?/探索の地図
① 粒子群最適化(PSO)
② 蟻コロニー最適化(ACO)
③ CMA-ES
④ 遺伝的アルゴリズム(GA)
⑤ Cuckoo Search
⑥ Grey Wolf Optimizer(GWO)
⑦ Harris Hawks Optimization(HHO)
⑧ Moth-Flame Optimization(MFO)
⑨ Grasshopper Optimization(GOA)
⑩ Golden Jackal Optimization(GJO)
⑪ Manta Ray Foraging(MRFO)
⑫(本記事) まとめ:メタファー系の正体と使い分け

10手法の横並び比較

⓪で用意した共通ベンチマーク(Rastrigin・Ackley)の 10次元版 で、9手法(+CMA-ES)を 30個体・500反復・10シード平均 で比較した結果です。いずれも大域最適は $f=0$、 小さいほど良い です。

手法 系統 Rastrigin (10D) Ackley (10D)
GA 進化計算 $1.19 \pm 1.34$ $3.8\times10^{-2}$
Cuckoo 群知能 $44.9 \pm 10.1$ $14.5$
PSO 群知能 $8.56 \pm 2.68$ $4.0\times10^{-1}$
CMA-ES 進化戦略 $4.88 \pm 1.57$ $\mathbf{4.0\times10^{-15}}$
GWO メタファー $1.77 \pm 2.56$ $4.7\times10^{-15}$
HHO メタファー $\mathbf{0.0 \pm 0.0}$ $\mathbf{4.4\times10^{-16}}$
MFO メタファー $22.0 \pm 9.97$ $1.2\times10^{-1}$
GOA メタファー $53.5 \pm 15.7$ $2.7$
GJO メタファー $1.5\times10^{-11}$ $2.9\times10^{-2}$
MRFO メタファー $\mathbf{0.0 \pm 0.0}$ $1.3\times10^{-14}$

棒グラフにすると一目瞭然です(緑=古典手法、オレンジ=メタファー系)。

20260801_compare_bar.png

収束の速さも比べてみます(Rastrigin 10次元、中央値)。

20260801_compare_convergence.png

ぱっと見の結論は 「メタファー系(HHO・MRFO・GJO・GWO)が古典手法を圧倒している」 ように見えます。HHO と MRFO は Rastrigin 10次元で全シード $f=0$、GJO は最速で底に到達。古典の PSO や GA は明らかに見劣りします。

…が、 この結論を鵜呑みにするのは危険 です。ここからが本題です。

メタファー系の正体①:みんな同じ骨格をしている

⑥〜⑪で毎回確認したとおり、メタファー系はメタファー(動物)こそ違え、 更新式の骨格はほぼ同一 です。

X_new = (リーダー位置) − (係数)×(リーダーとの距離)
        + 係数は反復とともに小さくなり、探索→活用へ移る

各手法を「骨格のどこを差し替えたか」で並べると、こうなります。

手法 リーダー 探索→活用のつまみ 味付け
PSO(①) 群ベスト gbest 慣性 $w$ 速度の慣性
GWO(⑥) 上位3頭 係数 $a$($2\to0$) 3頭の平均
HHO(⑦) 最良1点 エネルギー $E$ 4戦略+Lévy
MFO(⑧) 炎(複数→1) 炎の数 対数らせん
GOA(⑨) 最良+相互作用 係数 $c$ 引力・斥力
GJO(⑩) 2頭(オス・メス) エネルギー $E$ Lévy係数
MRFO(⑪) 最良1点 $t/T$ 切替 3採餌戦略

「リーダーの頭数」と「つまみの呼び名」と「移動式の味付け」が違うだけ で、やっていることは全部「最良解へ、だんだん細かく近づく」です。これは私の感想ではなく、最適化の研究者からも繰り返し指摘されています。

K. Sörensen, "Metaheuristics—the metaphor exposed,"
International Transactions in Operational Research, vol. 22, no. 1, pp. 3-18, 2015.

Sörensen はこの論文で「 新しいメタファーで包装し直しただけの手法が大量に生まれている 」と批判しました。実際、多くの動物アルゴリズムは PSO・進化戦略・差分進化(DE)の特殊ケースや再発明であることが指摘されています。

メタファー系の正体②:原点バイアス(center-bias)

では、骨格が同じなのに なぜ HHO や MRFO はベンチマークであれほど強い のでしょうか。からくりの一つが 原点バイアス(center-bias) です。

⓪で使った Rastrigin・Ackley は、いずれも 大域最適が原点 $(0,0,\dots,0)$ にあります 。そしてメタファー系の更新式「$X - E\cdot|\dots|$」のような形は、係数が 0 に近づくと ゼロベクトル(=原点)方向へ縮みやすい 性質を持ちます。つまり「とりあえず原点に向かう」だけで、原点最適のベンチマークでは高得点が取れてしまうのです。

これを確かめるため、 最適解を原点から $+2$ だけずらした Rastrigin で同じ実験をしました。本当に探索が上手いなら、最適解の位置が変わっても性能は変わらないはずです。

SHIFT = 2.0
def shifted_rastrigin(x):
    return rastrigin(np.asarray(x) - SHIFT)   # 最適解を全次元 +2 へ移動

結果がこちらです。

手法 系統 最適解が原点 最適解を+2にずらす
GA 進化計算 $1.19$ $1.19$
CMA-ES 進化戦略 $4.88$ $4.88$
PSO 群知能 $8.56$ $8.56$
GWO メタファー $1.77$ $\mathbf{19.9}$
HHO メタファー $\sim 0$ $5.6\times10^{-3}$
GJO メタファー $1.5\times10^{-11}$ $\mathbf{33.7}$
MRFO メタファー $\sim 0$ $\mathbf{7.39}$

20260801_center_bias.png

図の青(原点)と赤(ずらした)を比べると、 何が起きているか一目瞭然 です。

  • 古典手法(GA・CMA-ES・PSO)は青と赤が完全に同じ高さ 。最適解の位置に依存しない(=シフト不変)、本物の探索をしている
  • メタファー系は赤が跳ね上がる 。特に GJO は $10^{-11} \to 33.7$ と 12桁以上悪化 、GWO は11倍、MRFO は $0 \to 7.4$

つまり、メタファー系のベンチマークでの好成績は、 少なからず「原点に最適解がある」という出題の都合に支えられていた わけです。最適解をずらしただけで、横並び比較の順位は丸ごとひっくり返ります。

この「最適解を原点や探索範囲の中心に置いたベンチマークが、原点バイアスを持つアルゴリズムを過大評価する」問題は広く知られており、評価時には 最適解をランダムにシフト・回転させる ことが推奨されています。

No Free Lunch を思い出す

⓪で紹介した No Free Lunch 定理 (あらゆる問題を平均すれば全アルゴリズムの性能は等しい)を思い出してください。「 ある新手法がすべてのベンチマークで既存手法に全勝した 」という主張は、NFL定理からすると原理的に怪しいのです。

実際に怪しんでみたら、原点バイアスというからくりが出てきました。 「すごい論文の表で全勝しているアルゴリズム」を見たら、まずベンチマークの最適解の位置と、シフト・回転をしているかを確認する ── これがメタヒューリスティクスと付き合ううえで一番大事な習慣かもしれません。

結局どれを使えばいいのか

実務的な使い分けの指針です。

状況 おすすめ 理由
連続・中次元の最適化(本命) CMA-ES(③) パラメータ調整不要・変数間の相関を学習・シフト不変。安定して強い
連続でとにかく手軽に PSO(①) 実装10行・直感的。まず動かす一手
離散・順列・組合せ(TSPなど) ACO(②)・順列GA(配送⑥) 解を要素ごとに構築でき、組合せ構造に自然に合う
連続・離散・混合を1つの枠で GA(④) 表現と演算子を差し替えれば何でも扱える汎用性
メタファー系を使いたいとき 既存実装( GWO 等)でも可だが過信しない 骨格は古典と同じ。 自分の問題で必ず古典手法と比較する

ポイントは「 新しい動物アルゴリズムに飛びつく前に、CMA-ES や PSO といった枯れた手法を必ずベースラインとして回す 」ことです。多くの場合、それで十分だったりします。

シリーズ全体の振り返り

フェーズ 学んだこと 記事
地図づくり 探索vs活用・単一解vs集団・NFL定理・共通ベンチマーク ⓪
群知能 PSO(速度更新)・ACO(フェロモン) ①②
進化計算 CMA-ES(分布の学習)・GA(交叉と突然変異) ③④
Lévy系 Cuckoo Search(裾の重い乱歩) ⑤
メタファー系 GWO・HHO・MFO・GOA・GJO・MRFO(同じ骨格の変奏) ⑥〜⑪
総括 横並び比較・骨格の同一性・原点バイアスの暴露 ⑫

「LP→双対→整数計画」と理論を掘ってきた最適化シリーズに対し、今回は ヒューリスティクスの世界の歩き方 を一通り押さえられたかと思います。新しい手法に出会ったときは、ぜひ「 これは骨格のどこを差し替えた手法かな? 」「 ベンチマークの最適解はどこにある? 」と疑う目で読んでみてください。それがこのシリーズで一番伝えたかったことだったりします。

まとめ

  • 横並び比較では一見メタファー系(HHO・MRFO・GJO)が古典を圧倒したが、 それは原点最適ベンチマークの都合だった
  • メタファー系は メタファーが違うだけで更新式の骨格は同一 (リーダーへ係数つきで近づく)── Sörensen の批判のとおり
  • 最適解をずらすと、 古典手法はシフト不変・メタファー系は壊滅 (GJO は $10^{-11}\to33.7$)
  • No Free Lunch :全勝するアルゴリズムは原理的に怪しい。ベンチマークの出題を疑う習慣を
  • 実務はまず CMA-ES / PSO / GA / ACO という枯れた手法をベースラインに。新手法は必ずそれと比較する

長らくお付き合いいただきありがとうございました。メタヒューリスティクス図鑑シリーズはこれにて完結です。

参考にした記事や本、論文等

  • K. Sörensen, "Metaheuristics—the metaphor exposed," International Transactions in Operational Research, vol. 22, no. 1, pp. 3-18, 2015.
  • D. H. Wolpert and W. G. Macready, "No free lunch theorems for optimization," IEEE Trans. on Evolutionary Computation, vol. 1, no. 1, pp. 67-82, 1997.
  • C. L. Camacho-Villalón, M. Dorigo, and T. Stützle, "Exposing the grey wolf, moth-flame, whale, ... optimization algorithms: A comprehensive critique," Swarm Intelligence, 2023.
  • N. Hansen, "The CMA Evolution Strategy: A Tutorial," arXiv:1604.00772, 2016.
0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?