AIエージェント入門 - 勉強会資料
0.本記事は誤りを含む可能性があるため注意してください
https://claude.ai/public/artifacts/97bf6f7c-2f45-4f78-9c9f-c0877a05f7d7
https://claude.ai/public/artifacts/9b67e2e6-b083-43b4-baae-41e7a72263c4
- 生成AIを使った攻撃（人間が主導）
2024年5月27日、対話型生成AIを悪用してマルウェアを作成したとして、不正指令電磁的記録作成容疑で警視庁が川崎市の男性を逮捕したと報じられました。生成AIを使用してマルウェアを作成したことに起因する逮捕は国内では初めての事例となります 2024 年末〜2025 年初にかけて発生した DDoS 攻撃とは何だったのか
詳細: トレンドマイクロの解説記事
特徴: IT知識がない人物が生成AIを使ってランサムウェアを作成
判決: 懲役3年、執行猶予4年
- 2025年の追加事例
2025年に入って早々に、再び生成AIを悪用した逮捕事例が報道されました（2025年2月）。報道によれば、 警視庁が中高生３人を不正アクセス禁止法違反と電子計算機使用詐欺の疑いで逮捕しました 2024 年末〜2025 年初にかけて発生した DDoS 攻撃とは何だったのか
中高生が生成AIを使って不正アクセスプログラムを作成
携帯会社のシステムに侵入し、通信回線を不正取得
- マルチエージェント型攻撃の予測
2025年以降、マルチエージェントAI技術がより発展する中で、攻撃側、防御側それぞれの技術競争は激化する可能性が高いと言えるでしょう 情報セキュリティ10大脅威 2025 | 情報セキュリティ | IPA 独立行政法人 情報処理推進機構
NTTデータの分析: サイバーセキュリティ最前線
現在は研究開発段階で、実例はまだ確認されていない
重要な区別
現在の状況
人間がAIツールを使う攻撃: すでに多数発生
AIエージェントの自律攻撃: まだ実例なし
📋 目次
1. AIエージェントとは何か
1.1 基本定義
AIエージェントとは、ワークフローを設計し、利用可能なツールを活用することで、ユーザーまたは別のシステムに代わってタスクを自律的に実行できるシステムまたはプログラムです。
Gartnerの定義によると、「デジタルおよびリアルの環境で、状況を知覚し、意思決定を下し、アクションを起こし、目的を達成するためにAI技法を適用する自律的または半自律的なソフトウェア」とされています。
1.2 従来のAIとの違い
従来のAIとAIエージェントの根本的な違いは：
- 従来のAI: 「LLMに回答させる」というかなりシンプルな実装
- AIエージェント: 「LLMに働かせる」という、より柔軟で汎用性のある実装
1.3 AIエージェントの構成要素
AIエージェントの特徴は「Planning（計画）」、「Tool Use （ツール使用）」、「Reflection（見直し）」、「Multiagent（マルチエージェント）」にあります。
- Planning（計画）: タスクを分解し、実行計画を立案
- Tool Use（ツール使用）: 外部APIやシステムと連携
- Reflection（見直し）: 結果を評価し、改善を実施
- Multiagent（マルチエージェント）: 複数のエージェントが協調作業
1.4 なぜ2025年が「AIエージェント元年」なのか
2025年はAIエージェント元年と呼ばれており、AI自身が状況を判断し、計画を立て、行動するような世界観になってきています。
主要テック企業の動向：
- OpenAI: Operator（ブラウザ自動操作）をリリース
- Microsoft: AutoGenフレームワークを提供
- Google: Vertex AI Agent Builderを展開
- Anthropic: Computer use機能を実装
2. LLMとの違い
2.1 基本的な違い
| 項目 | LLM | AIエージェント |
|---|---|---|
| 基本機能 | テキスト生成・応答 | 自律的なタスク実行 |
| 動作方式 | 単発の質問・回答 | 継続的な問題解決 |
| 外部連携 | 基本的になし | 外部ツール・API活用 |
| 自律性 | 人間の指示が必要 | 自律的な判断・行動 |
2.2 具体的な違いの例
LLMの場合
質問: 「東京で美味しいレストランを教えて」
回答: 学習データに基づいた一般的な情報を提供
AIエージェントの場合
指示: 「東京で美味しいレストランを予約して」
実行内容:
- リアルタイムでレストラン情報を検索
- 予算や好みに合った候補を抽出
- 空席状況を確認
- 実際に予約を完了
- 確認メールの受信を報告
2.3 実際の具体例
OpenAI Operator（2025年1月発表）
ユーザーに代わってウェブにアクセスしてタスクを実行できるエージェント。自身のブラウザを使用したWebページの閲覧、および入力、クリック、スクロールによるインタラクトが可能
実際の動作例:
- 「フライトを予約して」→ 航空会社サイトで検索・比較・予約完了
- 「会議室を押さえて」→ 社内システムにアクセスして空室確認・予約
Devin（AI開発エージェント）
「完全自律型AIエンジニア」として、仕様理解から実装・テスト・デプロイ・PR作成までを自律的にこなすAI開発エージェント
実際の動作例:
- コードの自動生成
- バグの自動修正
- テストケースの作成と実行
- GitHub上でのPR作成
トヨタのO-Beya（オーベヤ）システム
エンジンやバッテリー、振動、燃費、法規制など9分野の専門AIが協働し、エンジニアの質問に対応。過去の設計データや法規制情報、ベテラン技術者の手書き文書などを統合して活用
3. AIエージェント技術発展のメリット
3.1 業務効率化・自動化
24時間365日の稼働
AIエージェントは24時間365日稼働し続けることが可能で、人間のように疲れたり休んだりする必要がありません
複雑なタスクの一気通貫処理
AIエージェントが目標を理解し、その目標の達成に向けて自律的に計画を立て、実行できるようになり、データ分析、見込み客の推定、既存顧客のフォローといった一連のプロセスを代替できるようになります
3.2 人材不足問題の解決
労働力人口減少への対応
日本の生産年齢人口（15〜64歳）は、2020年の7,509万人から、団塊のジュニア世代が65歳となる2050年には5,275万人（2020年比で29.75%減）にまで減少する
業務の高度化
AIエージェントは大量のデータを短時間で処理でき、そのプロセスから感情を排除することができます。この特徴を生かすことで、データ処理の点では、社内外の過去のデータを幅広く分析したり、経営に影響する経済関連のデータを網羅的に収集して分析したりすることができます
3.3 具体的な活用メリット
営業分野
- 現在: 基本的な顧客対応の自動化
- 将来: 営業プロセスの全自動化により、市場動向、競合情報、顧客心理を複合的に分析し、AIエージェントが最適な顧客対応や契約提案を自律的に立案・実行
カスタマーサポート
- 現在: チャットボットによる基本対応
- 将来: AIエージェントは人間同士の引き継ぎで失われたデータや過去の会話の文脈にアクセスして、異なる機能を持つAIエージェントや人間の間でシームレスな引き継ぎを可能にします
開発・IT分野
- プロジェクトの自動化
- 新規従業員のオンボーディング
- ITインシデント管理の自動化
3.4 コスト効率性
導入コストの低下
導入コストも年々低下しており、「少ないコストで高いパフォーマンス」を求める企業にとって、非常に魅力的な選択肢になっています
人的ミスの削減
- データ入力の誤り減少
- 感情的判断の排除
- 一貫性のある業務処理
4. AIエージェント技術発展のデメリット
4.1 技術的リスク
AIの暴走・誤動作
不正確な出力やハルシネーション（幻覚）：AIエージェントが誤った回答を生成し、それに基づいて企業が誤った判断を下すリスクがあります
Function Callingの制御困難
沢山のFunction Callingをエージェントに関連付けるといくつかの問題が発生することがあります：
- プロンプトが複雑だったり抽象的すぎるとエージェントが理解できない
- 沢山のFunction Callingを定義すると想定したFunction Callingが選択されない
- 沢山のFunction Callingを定義すると想定した順序でFunction Callingが実行されない
4.2 セキュリティリスク
データ漏洩とプライバシー侵害
AIエージェントが機密情報にアクセスするケースが多いことから、データ漏洩のリスクが高まります
敵対的攻撃
外部から送信される不正ペイロードや攻撃コードなどによる攻撃リスクが考えられます
不正利用
エージェントが犯罪者に乗っ取られたり悪用されたりすると、深刻な不正行為につながる可能性があります
4.3 社会・雇用への影響
雇用の代替
- 定型業務の自動化による雇用減少
- 中間管理職業務の代替可能性
- スキル要求の変化による既存労働者の適応困難
過度な依存リスク
AIを導入する前に、想定されるリスクや問題が起こる原因、トラブルの影響範囲、対処法を把握しておくことが大切です。AIに関する専門知識を持った人材が社内にいない場合、トラブルへの対応は困難です
4.4 導入・運用の課題
高い初期投資と運用コスト
- 専門人材の確保コスト
- システム統合の複雑性
- 継続的なメンテナンス費用
プロジェクト失敗リスク
Gartner、2027年末までに過度な期待の中で生まれるエージェント型AIプロジェクトの40%以上が中止されるとの見解を発表
失敗の主な原因：
- コストの高騰
- ビジネス価値の不明確さ
- 不十分なリスク・コントロール
運用体制の課題
AIエージェントは一度導入すれば終わり、ではありません。新しい質問に対応する必要があり、またサービスや業務の変更に応じてチューニングが必要になります
4.5 信頼性・ガバナンスの問題
ブラックボックス問題
- AIの判断プロセスが不透明
- 責任の所在が不明確
- 監査・検証の困難性
規制・法的リスク
- AI関連法規制の変化への対応
- 個人情報保護法への準拠
- 業界固有の規制要件
4.6 実際の制限事例
OpenAI Operatorの現在の制限
OpenAIは、安全性とユーザー体験の品質を確保するため、以下の操作を現時点で制限しています：
- 金融取引や重要な法的文書の処理
- 医療情報や個人の機密データの取り扱い
5. AIエージェント技術発展のメリット・デメリット【セキュリティ】
5.1 セキュリティ分野でのメリット
5.1.1 高度な脅威検知・自動化
リアルタイム異常検知
AIを活用したシステムは、脅威をリアルタイムで検知し、迅速なレスポンスと減災策を可能にします。機械学習アルゴリズムを用いることで、大量のデータをリアルタイムで分析し、通常の挙動と異なるパターンを特定します。
プロアクティブな脅威検知への進化
従来の受動的に大量のアラートを処理する体制から脱却し、セキュリティ運用のあり方そのものが大きく変わります。高品質な検知ロジックを継続的に開発・改善する「Detection Engineering」のアプローチや、実際の攻撃者の戦術・技術・手順（TTPs）に基づいて防御戦略を最適化する「Threat Informed Defense」が主流になります。
5.1.2 SOC運用の効率化
AIエージェントによるSOCアナリスト支援
Security Posture Management AIのような生成AIエージェントが、SOCアナリストの業務負荷を大幅に軽減します。これには、アラートのトリアージ、影響範囲の分析、Threat Informed Defenseの原則に基づいた対応策の優先順位付けとレコメンデーションなどが含まれます。
自動化されたインシデント対応
管理者の承認に基づき、あるいは高度な自律性を持ったAIエージェントが、定義済みPlaybookに沿ってインシデントへのレスポンスや緩和策を自動的に実行します。これにより、セキュリティ運用全体の効率と対応速度が飛躍的に向上し、ゼロトラストポリシーに基づいた迅速かつ適切なアクションが期待されます。
5.1.3 マルチエージェントによる高度防御
分散型セキュリティアーキテクチャ
防御側でもマルチエージェント型AIの活用が検討されています。例えば、企業内の各コンピューターにAIエージェントを配置し、それらが相互に連携してリアルタイムで脅威を検知・対処する仕組みの研究開発が進められています。
ゼロトラスト原則の実現
AIエージェントの普及は、セキュリティアーキテクチャにも大きな変革をもたらします。このような自律的なエージェントが多数活動し、システムがマイクロサービス化していく環境においては、従来の境界型防御の考え方では不十分であり、「決して信頼せず、常に検証する」というゼロトラスト原則の適用が、全てのセキュリティ対策の基盤として不可欠です。
5.1.4 脅威インテリジェンスの高度化
合成データによる脅威検知システム強化
ジェネレーティブAIは、現実の攻撃パターンを模倣する合成データを生成することで、脅威検知システムを強化できます。これにより、機械学習モデルで利用できるトレーニングデータが拡張され、微妙な脅威や新しい脅威さえも識別してフラグ付けする能力が向上します。
5.2 セキュリティ分野でのデメリット・リスク
5.2.1 AIエージェント自体への攻撃
新たな攻撃対象面の拡大
コードを実行するLLMが、悪意あるコマンドを走らせるように乗っ取られることは？Microsoft Officeのドキュメントに隠された命令によって、AIエージェントが機密情報を漏らしてしまうことは？データベースのクエリが、攻撃者によって簡単に操作され、制限された情報が引き出されてしまう可能性は？
AIの脆弱性による深刻なリスク
AIエージェントの脆弱性は、次のような深刻なリスクをもたらします。さらに、LLMはこれから登場するエージェンティックAIアプリケーションの中核を担う存在であり、ワークフローの大部分をほぼ無監視で進める設計において、計画や推論を行うエンジンとして機能します。
5.2.2 高度化する攻撃手法
マルチエージェント型サイバー攻撃
2025年以降、サイバーセキュリティの分野で新たな脅威として注目されているのが、マルチエージェント型AIによるサイバー攻撃です。これは複数のAIが連携してサイバー攻撃を行うというもので、従来のサイバー攻撃とは比較にならないスピード感と効率性があると予測されます。
AIを悪用したフィッシング攻撃
AIを活用したフィッシングメールは、受信者の行動や好みを細かく分析し、メッセージに説得力を加えます。これにより、従来の手法に比べて受信者が騙されやすくなるほか、自動化技術によって大量のフィッシングメールを作成可能にしています。
5.2.3 セキュリティ運用上の課題
プロンプト疲れとツール乱立
セキュリティ・オペレーション・チームやプロバイダーとのコラボレーション・ワークフローにAIアシスタントを統合しようとして、技術的・運用的な困難に直面する。脅威やインシデントについて問い合わせるための対話型インタフェースが乱立し、「プロンプト疲れ」を引き起こす。
AIシステムの信頼性問題
ブラックボックス化により、AIの判断プロセスが不透明になり、セキュリティインシデントの原因究明や対策の検証が困難になる可能性があります。
5.2.4 コスト・ベンダー依存リスク
コスト増加とROI検証の困難性
生成AI導入による業務効率向上と、それに伴う実装／運用コストを総合的に評価し、適切な指標を再設定することが重要です。つまり、セキュリティ対策の自動化によって効率は上がるものの、初期投資や運用コストとのバランスを検討しなければなりません。
ベンダー・ロックインリスク
生成AIを自社の差別化要素として大規模プラットフォーム化するセキュリティ・プロバイダーには注意が必要です。そうした取り組みが進むと、特定ベンダーへの依存（ベンダー・ロックイン）リスクが高まります。
5.3 社内SE向け実践的対策提案
5.3.1 AIエージェント導入時のセキュリティ設計
多層防御とゼロトラスト原則
- AIエージェントに対する適切なアクセス制御の実装
- APIレベルでの認証・認可の強化
- エージェント間通信の暗号化
監査・ログ機能の強化
- AIエージェントの行動記録の詳細化
- 異常行動検知のためのベースライン作成
- インシデント対応のためのトレーサビリティ確保
5.3.2 段階的導入戦略
パイロットテストの実施
インシデント対応や脆弱性管理においてAIをパイロットテストし、有効性を検証する。AIの完全自動化を過度に推進せず、脅威環境の変化を継続的に監視する。
リスク評価とコントロール
- AIエージェント導入前のリスクアセスメント実施
- 段階的な権限付与とモニタリング体制の確立
- 緊急時のAIエージェント停止手順の整備
5.3.3 組織・人材面の対策
AI TRiSMフレームワークの活用
AI TRiSM（AIの信頼、リスクおよびセキュリティ管理）などを活用し、セキュリティ対策の最適化とリスク管理の強化について解説します。
従業員教育とガイドライン策定
- AIエージェントに関するセキュリティ意識向上
- 適切な利用方法の周知徹底
- インシデント発生時の対応手順の教育
6. まとめ
5.1 AIエージェントの本質
AIエージェントは人間が自然に携わってきた"タスクの粒度"をそのままエージェントが担えるようになったことが革新的なポイントです。単なる自動化ツールではなく、人間レベルのタスク処理能力を持つ存在として期待されています。
5.2 導入を成功させるために
段階的なアプローチ
まずは部分的にAIを導入することが望ましいでしょう
適切なリスク管理
リスクを正しく把握し、現場と共に運用・改善していくことで、業務の効率化と顧客満足の向上につながっていきます
継続的な改善体制
担当者や運用ルールなど、運用後もPDCAを回しながら改善していける体制を整えることが成功のカギです
5.3 未来展望
今後のAIエージェントは、単なる「自動応答システム」や「業務効率化ツール」から脱却し、人と共に意思決定を行い、創造的な業務にも対応する高度なバーチャルパートナーとして進化していくと期待されています。
5.4 企業が取るべき戦略
- 現実的な期待値設定: 技術の現在の限界を理解する
- 段階的導入: 小規模な実証実験から開始
- リスク管理体制: セキュリティとガバナンスの確立
- 人材育成: AI・エージェント技術に精通した人材の確保
- 継続的学習: 技術の進歩に合わせた適応
📚 参考ソース
主要な参考文献（リンク付き）
- IBM「AIエージェントとは」
- 電通総研「LLMやAIエージェントの潮流とその先の展望」
- 株式会社Laboro.AI「AIエージェントの定義。2025年の最重要AI用語の概念を整理」
- KPMGジャパン「LLMの業務利用上の課題と解決策としてのAIエージェント」
- PwC Japanグループ「生成AI時代のAIエージェント その価値と可能性を見る」
- Salesforce「AIエージェントの未来：2025年の注目予測とトレンド」
- ガートナージャパン「AIエージェントとは？定義と特性、AIエージェント活用の利点やリスク、導入の課題について」
技術詳細・事例関連
- Qiita「2025年 生成AIの新たな波「AI エージェント」の可能性」
- OpenAI「Operator が登場」
- 大和総研「AIエージェントとは？次世代技術の活用と未来展望をわかりやすく解説」
- リコー「【初心者向け】AIエージェントとは？生成AIとの違いや特徴、活用例をご紹介」
具体的な技術・製品情報
- Devin関連「Devinを導入して1ヶ月経ったので、人間とAIとでどのような開発の役割分担をするべきか振り返ってみる」
- AI評価「AI Agentの評価指標まとめ」
- 技術トレンド「AIエージェント技術最新トレンド：2025年を見据えて2024年を振り返る」
セキュリティ関連の追加参考文献
- IPA 独立行政法人情報処理推進機構「情報セキュリティ10大脅威 2025」
- ガートナージャパン「AI時代のサイバーセキュリティとは？リスクを最小限に抑えAI価値を最大限に活用する方法」
- トレンドマイクロ「AIエージェントと脆弱性 PART 1：AIの抱えるセキュリティリスク」
- LAC WATCH「AIエージェント時代の到来と対策とは～「RSA Conference 2025」参加レポート」
- NTTデータ「サイバーセキュリティ最前線～サイバー攻撃×生成AIの最新動向～」
- フォーティネット「サイバーセキュリティにおけるAI：主なメリット、防御戦略、将来のトレンド」
- バラクーダネットワークス「セキュリティ向上に AI を活用する５つの方法：脅威の検知とインテリジェンス」