はじめに
これまでの 18 日間では、AWS の機械学習系資格や実務で重要になる内容を、基礎から順番に整理してきました。
ただし、試験対策では、メインテーマとして1記事にするほどではなくても、
知っておくと問題文を読みやすくなる補足キーワード があります。
今回の記事では、これまでのシリーズで詳しく扱いきれなかった補足ポイントとして、
- Time-series cross-validation / rolling-origin
- AWS X-Ray
- Standardization / z-score
- Multi-container endpoint / Inference Pipeline
- L2 regularization
- SMOTE
- Bayesian Optimization
- Hyperband
をまとめて整理します。
どれも単体で深く学ぶというより、
試験問題で見たときに「あ、これはこういう意味だ」と判断できる状態にする ことが目的です。
🎯 対象読者
- AWS Certified Machine Learning Engineer - Associate を学習している方
- 主要テーマは一通り学んだが、補足キーワードを整理したい方
- 試験問題で見慣れない用語が出ると迷いやすい方
- MLOps、推論、評価、チューニング周りの用語を追加で押さえたい方
- これまでの 18 日間シリーズを一通り読んだ方
🧩 まず結論：補足キーワードは「どの文脈で出るか」で覚える
今回扱うキーワードは、それぞれ関係する分野が違います。
| キーワード | 関係する分野 |
|---|---|
| Time-series cross-validation | モデル評価、時系列データ |
| AWS X-Ray | 分散トレーシング、遅延調査 |
| Standardization / z-score | データ前処理 |
| Multi-container endpoint / Inference Pipeline | SageMaker 推論 |
| L2 regularization | 過学習対策 |
| SMOTE | 不均衡データ対策 |
| Bayesian Optimization | ハイパーパラメータチューニング |
| Hyperband | 効率的なチューニング |
覚えるときは、単語だけを暗記するよりも、
どの場面で使うのか
何を解決するためのものか
似た用語と何が違うのか
をセットで整理すると分かりやすいです。
1️⃣ Time-series cross-validation / rolling-origin
通常の cross validation では、データをランダムに分けたり、K-Fold のように複数の分割で評価したりします。
しかし、時系列データ では注意が必要です。
なぜなら、時系列データでは時間の順番が重要だからです。
たとえば、売上予測を考えます。
1月、2月、3月のデータで 4月を予測する
これは自然です。
しかし、
4月、5月のデータを使って 3月を予測する
のように、未来の情報を使って過去を予測してしまうと、本番では使えない評価になります。
📌 通常の K-Fold が時系列に向かない理由
通常の K-Fold Cross Validation は、データをランダムに分けることがあります。
しかし、時系列データでランダムに分けると、以下のような問題が起きます。
未来のデータが train data に入る
↓
過去のデータを validation data として評価する
↓
本番よりも有利な評価になる
これは一種の data leakage です。
時系列予測では、未来のデータを使って過去を予測することはできません。
そのため、時系列データでは時間順序を守った評価方法が必要になります。
🔁 Rolling-origin cross-validation とは？
Rolling-origin cross-validation は、
時間の順番を守りながら、学習期間を少しずつ進めて評価する方法 です。
イメージは以下です。
1回目：1月〜3月で学習 → 4月を検証
2回目：1月〜4月で学習 → 5月を検証
3回目：1月〜5月で学習 → 6月を検証
このように、学習に使う期間を少しずつ伸ばしながら、次の期間を予測します。
覚え方
Time-series CV = 時間順序を守って評価する
Rolling-origin = 学習期間を前に進めながら繰り返し評価する
☁️ 試験での見られ方
問題文に以下のようなキーワードが出たら、時系列向けの評価方法を意識します。
time-series data
forecasting
future data must not be used
avoid data leakage
evaluate model over time
この場合、通常のランダム分割や通常の K-Fold よりも、
時間順序を守る cross-validation が適しています。
2️⃣ AWS X-Ray
AWS X-Ray は、
分散アプリケーションのリクエスト経路や処理時間を可視化するサービス です。
一言で言うと、以下です。
AWS X-Ray = リクエストがどのサービスを通り、どこで時間がかかったかを見るためのサービス
たとえば、ある API リクエストが以下のような経路を通るとします。
API Gateway
↓
Lambda
↓
SageMaker Endpoint
↓
DynamoDB
このとき、レスポンスが遅い場合に、どこで時間がかかっているのかを調べたいことがあります。
X-Ray を使うと、リクエストの流れを追跡し、
どのサービスや処理がボトルネックになっているかを確認しやすくなります。
📌 X-Ray と CloudWatch Logs の違い
X-Ray と CloudWatch Logs は混同しやすいですが、役割が違います。
| サービス | 主な用途 |
|---|---|
| CloudWatch Logs | ログを確認する |
| CloudWatch Metrics | メトリクスを確認する |
| CloudTrail | API 操作履歴を確認する |
| X-Ray | リクエストの流れや遅延箇所を追跡する |
覚え方は以下です。
CloudWatch Logs = 何が出力されたか
CloudTrail = 誰が何を操作したか
X-Ray = どこを通って、どこで遅くなったか
☁️ 試験での見られ方
問題文に以下のような表現があれば、X-Ray を意識します。
distributed tracing
trace request path
identify latency bottleneck
which service caused delay
特に、複数のサービスをまたぐリクエストの遅延調査では X-Ray が候補になります。
3️⃣ Standardization / z-score
Standardization は、Day 7 でも整理した 標準化 です。
数値特徴量を以下のような形に変換します。
平均 = 0
標準偏差 = 1
この変換は、z-score standardization とも呼ばれます。
📌 なぜ標準化が必要なのか？
機械学習では、特徴量ごとに数値のスケールが大きく違うことがあります。
たとえば、
| 特徴量 | 値の範囲 |
|---|---|
| 年齢 | 20〜80 |
| 年収 | 300万〜2000万 |
| 購入回数 | 0〜100 |
このままだと、値の大きい特徴量がモデルに強く影響してしまう場合があります。
標準化を行うことで、特徴量のスケールをそろえ、
モデルが学習しやすくなります。
✅ 標準化が特に重要なアルゴリズム
標準化は、特徴量のスケールに敏感なアルゴリズムで重要です。
| アルゴリズム | 理由 |
|---|---|
| k-NN | 距離計算に影響する |
| SVM | 境界の計算に影響する |
| Logistic Regression | 勾配や係数に影響する |
| Neural Network | 学習の安定性に影響する |
| PCA | 分散の大きい特徴量に引っ張られやすい |
覚え方は以下です。
距離・勾配・分散に敏感なモデルでは標準化が重要
4️⃣ Multi-container endpoint / Inference Pipeline
Multi-container endpoint は、SageMaker Endpoint で複数のコンテナを組み合わせて推論を行う構成です。
その代表的な考え方として Inference Pipeline があります。
一言で言うと、以下です。
Inference Pipeline = 複数の処理をコンテナでつなげて、1つの Endpoint として呼び出す仕組み
たとえば、以下のような流れです。
入力データ
↓
前処理コンテナ
↓
モデル推論コンテナ
↓
後処理コンテナ
↓
予測結果
ユーザーやアプリケーションから見ると、呼び出す Endpoint は1つです。
しかし内部では、複数のコンテナが順番に処理を行います。
📌 なぜ Inference Pipeline が便利なのか？
機械学習では、推論時にも前処理が必要になることがあります。
たとえば、学習時に以下の前処理をしていたとします。
- 欠損値補完
- 正規化
- カテゴリ変数のエンコード
- テキストのトークン化
- 画像のリサイズ
本番推論でも、同じ前処理を行わないと、モデルの入力形式がずれてしまいます。
Inference Pipeline を使うと、前処理とモデル推論をまとめて Endpoint 化しやすくなります。
☁️ 試験での見られ方
問題文に以下のような表現があれば、Inference Pipeline を意識します。
preprocessing and inference together
multiple containers
single endpoint
sequential processing
覚え方は以下です。
複数コンテナを順番につなげ、利用者には1つの Endpoint として見せる
5️⃣ L2 regularization
L2 regularization は、Day 2 や Day 10 で触れた regularization の具体的な方法の1つです。
regularization は、過学習を抑えるための仕組みでした。
L2 regularization は、モデルの重みが大きくなりすぎないようにペナルティを与えます。
一言で言うと、以下です。
L2 regularization = 重みの二乗にペナルティを与えて過学習を抑える方法
📌 L2 regularization のイメージ
モデルが訓練データに合わせすぎると、一部の特徴量に非常に大きな重みを持たせることがあります。
L2 regularization では、大きすぎる重みにペナルティを与えることで、
モデルが極端に複雑になるのを防ぎます。
重みが大きくなりすぎる
↓
ペナルティを与える
↓
モデルをなめらかにする
↓
過学習を抑える
線形モデルやニューラルネットワークでよく使われます。
🧭 L1 と L2 のざっくり違い
試験対策では、L1 と L2 の違いも軽く押さえておくと便利です。
| 種類 | イメージ |
|---|---|
| L1 regularization | 一部の重みを 0 にしやすく、特徴量選択に近い効果がある |
| L2 regularization | 重みを全体的に小さくし、モデルを安定させやすい |
今回のポイントは、L2 は
squared magnitude of weights
にペナルティを与える、という点です。
6️⃣ SMOTE
SMOTE は、クラス不均衡への対策として出てくる手法です。
正式には Synthetic Minority Oversampling Technique です。
一言で言うと、以下です。
SMOTE = 少数クラスの新しいサンプルを合成して増やす方法
📌 なぜ SMOTE が必要なのか？
不正検知や異常検知では、Positive クラスが非常に少ないことがあります。
たとえば、
正常取引：99%
不正取引：1%
のようなデータです。
この場合、モデルは多数派である正常取引ばかりを学習しやすくなります。
その結果、不正取引を見逃しやすくなることがあります。
🔁 不均衡データへの代表的な対応
不均衡データへの対応には、いくつか方法があります。
| 方法 | 説明 |
|---|---|
| Oversampling | 少数クラスを増やす |
| Undersampling | 多数クラスを減らす |
| SMOTE | 少数クラスの新しいサンプルを合成する |
| class weight | 少数クラスの誤分類に重みをつける |
| threshold adjustment | 判定しきい値を調整する |
🧬 SMOTE のイメージ
SMOTE は、単純に少数クラスのデータをコピーするだけではありません。
少数クラスの近いサンプル同士を使い、その間に新しいサンプルを作ります。
イメージは以下です。
少数クラスのサンプル A
少数クラスの近いサンプル B
↓
A と B の間に新しい合成サンプルを作る
これにより、少数クラスのデータを増やし、モデルが少数クラスを学習しやすくします。
⚠️ SMOTE の注意点
SMOTE は便利ですが、注意点もあります。
| 注意点 | 説明 |
|---|---|
| 過学習に注意 | 合成データが偏ると過学習の原因になる |
| 先に train / test を分ける | test data に合成情報が漏れないようにする |
| すべてのデータに向くわけではない | データ構造によっては不自然なサンプルになる |
| 評価指標に注意 | accuracy だけでなく recall や F1 を見る |
特に重要なのは、SMOTE を行うタイミングです。
train / test に分割
↓
train data にだけ SMOTE を適用
↓
test data は元の分布のまま評価
これを守らないと、data leakage に近い問題が起きる可能性があります。
7️⃣ Bayesian Optimization
Bayesian Optimization は、Day 10 でも整理したハイパーパラメータチューニング手法です。
一言で言うと、以下です。
Bayesian Optimization = 過去の試行結果を使って、次に良さそうな設定を選ぶ方法
Grid Search は、指定した組み合わせをすべて試します。
Random Search は、ランダムに試します。
Bayesian Optimization は、これまでの結果を見ながら、
次に試す価値が高そうな設定を選びます。
📌 Bayesian Optimization が向いている場面
| 場面 | 理由 |
|---|---|
| 1回の学習コストが高い | 少ない試行で良い設定を探したい |
| 探索範囲が広い | 効率よく探索したい |
| ハイパーパラメータが複数ある | 組み合わせを賢く試したい |
| 試行回数を抑えたい | コスト削減につながる |
試験では、
past results
intelligently choose next hyperparameters
efficient search
という表現があれば、Bayesian Optimization を意識します。
8️⃣ Hyperband
Hyperband は、ハイパーパラメータチューニングを効率化する手法の1つです。
一言で言うと、以下です。
Hyperband = 有望でない trial を早めに止め、良さそうな trial にリソースを集中する方法
ハイパーパラメータチューニングでは、多くの設定を試したい一方で、
すべての trial に最後まで同じリソースを使うとコストが高くなります。
Hyperband は、途中経過を見て、成績が悪そうな trial を早めに停止し、
有望な trial により多くのリソースを使います。
📌 Hyperband のイメージ
たとえば、10個の trial を同時に始めたとします。
trial 1
trial 2
trial 3
...
trial 10
途中の結果を見て、成績が悪いものを止めます。
成績が悪い trial を停止
↓
良さそうな trial にリソースを集中
↓
最終的に良い設定を探す
これにより、すべての trial を最後まで実行するよりも、
効率よくチューニングできます。
🧭 Bayesian Optimization と Hyperband の違い
Bayesian Optimization と Hyperband はどちらもチューニングの効率化に関係しますが、考え方が違います。
| 方法 | 主な考え方 |
|---|---|
| Bayesian Optimization | 過去の結果から次に試す設定を賢く選ぶ |
| Hyperband | 有望でない trial を早期停止し、リソースを節約する |
覚え方は以下です。
Bayesian Optimization = 次に何を試すかを賢く選ぶ
Hyperband = どの trial にリソースを残すかを賢く決める
☁️ AWS 試験での見られ方
今回の補足キーワードは、試験では以下のような形で出る可能性があります。
| 問題文のキーワード | 考える候補 |
|---|---|
| time-series / forecasting / avoid future leakage | rolling-origin cross-validation |
| trace request / latency bottleneck / distributed tracing | AWS X-Ray |
| scale-sensitive algorithms / mean 0 variance 1 | Standardization |
| multiple containers / preprocessing + inference / single endpoint | Inference Pipeline |
| penalize squared weights / reduce overfitting | L2 regularization |
| imbalanced dataset / synthetic minority samples | SMOTE |
| use previous results to choose next hyperparameters | Bayesian Optimization |
| stop poor trials early / allocate resources to promising trials | Hyperband |
試験では、単語の意味を直接聞かれるというより、
ユースケースに対して最適な選択肢を選ぶ形で出ることが多いです。
👨💻 実務目線で見ると
実務では、今回の補足キーワードはそれぞれ違う場面で役立ちます。
- 時系列データでは、未来情報を使わない評価設計が重要
- 分散システムでは、X-Ray のようなトレーシングで遅延原因を調べる
- スケールに敏感なモデルでは、標準化で学習を安定させる
- 推論時にも前処理が必要なら、Inference Pipeline が役立つ
- 過学習を抑えるには、L2 regularization のような正則化が有効
- 不均衡データでは、SMOTE や評価指標の工夫が必要
- チューニングでは、Bayesian Optimization や Hyperband でコストを抑える
つまり、これらはバラバラの単語ではなく、
評価・監視・推論・前処理・過学習対策・不均衡対策・チューニング の各場面で使う道具です。
🧠 ここは特に覚えたいポイント
覚え方 1
時系列データでは、未来情報を使わないように評価する
覚え方 2
X-Ray = リクエスト経路と遅延箇所を追跡する
覚え方 3
Standardization = 平均 0、標準偏差 1
覚え方 4
Inference Pipeline = 複数コンテナをつなげて1つの Endpoint として使う
覚え方 5
L2 regularization = 重みの二乗にペナルティを与えて過学習を抑える
覚え方 6
SMOTE = 少数クラスの合成サンプルを作る
覚え方 7
Bayesian Optimization = 次に試す設定を賢く選ぶ
Hyperband = 悪い trial を早めに止める
✅ まとめ
今回は、18日間シリーズで詳しく扱いきれなかった補足キーワードを整理しました。
重要なポイントは以下です。
- Time-series cross-validation では、時間順序を守って未来情報の混入を防ぐ
- rolling-origin は、学習期間を前に進めながら評価する方法
- AWS X-Ray は、分散トレーシングでリクエスト経路や遅延箇所を確認するサービス
- Standardization は、特徴量を平均0、標準偏差1に変換する処理
- Inference Pipeline は、複数コンテナを順番につなげて1つの Endpoint として使う仕組み
- L2 regularization は、重みの二乗にペナルティを与えて過学習を抑える方法
- SMOTE は、不均衡データで少数クラスの合成サンプルを作る方法
- Bayesian Optimization は、過去の結果をもとに次に試す設定を選ぶ方法
- Hyperband は、有望でない trial を早めに止めてリソースを効率よく使う方法
これらの用語は、単独で暗記するよりも、
どの問題を解決するためのものか を意識して覚えると、試験でも実務でも使いやすくなります。
📌 シリーズ補足まとめ
ここまでで、AWS Machine Learning Engineer Associate 向けの基礎から補足キーワードまでを一通り整理しました。
18日間シリーズで全体像を押さえ、今回の補足記事で細かい試験キーワードを追加すると、
機械学習の基礎、SageMaker、MLOps、セキュリティ、コスト、補足論点までかなり見通しやすくなります。
今後さらに深める場合は、公式の試験ガイドやサンプル問題に戻り、
問題文の中で今回のキーワードがどのように使われているかを確認していくのがおすすめです。