論文のタイトル「ADVANCES AND CHALLENGES IN FOUNDATION AGENTS FROM BRAIN-INSPIRED INTELLIGENCE TO EVOLUTIONARY, COLLABORATIVE, AND SAFE SYSTEMS」
Google翻訳による「脳にヒントを得た知能から進化的、協調的、安全なシステムまで、基盤エージェントの進歩と課題」
論文の概要の日本語訳（ChatGPTによる）
大規模言語モデル（LLM）の登場は人工知能における変革的な転換点をもたらし、高度な推論、強力な知覚、多様な領域における柔軟な行動を可能とするインテリジェントエージェントの実現を促進しました。こうしたエージェントがAI研究や実用化の最前線を担う中、その設計・評価・継続的改善には複雑かつ多面的な課題が横たわっています。本サーベイでは、認知科学・神経科学・計算論的研究の知見を統合し、人間の脳を手本としたモジュール型アーキテクチャの枠組みでインテリジェントエージェントを位置づけ、その全体像を包括的に概説します。
まず第１部では、エージェントを構成するモジュール基盤に焦点を当て、人間の脳機能との対応を示しながら、記憶、世界モデル、報酬処理、感情様システムなどの中核コンポーネントを体系的にマッピングします。
第２部では、自己強化と適応的進化のメカニズムを論じ、エージェントが自律的に能力を磨き、動的環境に適応し、AutoMLやLLM駆動の最適化戦略を含む自動化された最適化パラダイムを通じて継続学習を実現するプロセスを探ります。
第３部では、マルチエージェントシステムにおける協調と進化を考察し、エージェント間の相互作用や協力、社会構造から生まれる集合知を、人間社会のダイナミクスと比較しながら明らかにします。
最後に第４部では、安全・安心かつ有益なAIシステムの構築という喫緊の課題に取り組み、内的・外的なセキュリティ脅威、倫理的アライメント、堅牢性、そして実運用に向けた具体的な緩和策を論じます。
本サーベイは、モジュラーAIアーキテクチャと異分野の知見を融合することで、主要な研究ギャップや課題、今後の機会を浮き彫りにし、技術的進歩と社会的利益の調和を図る革新を促進することを目指します。なお、本プロジェクトのGitHubリポジトリは以下のリンクからご覧いただけます。