search
LoginSignup
1

More than 1 year has passed since last update.

posted at

updated at

PRML 演習問題 解答集 第6章

はじめに

様々な分野で多様なビッグデータが得られるようになり、こうしたデータを解析し、そこから「知」を得るための手段として、機械学習 (Machine Learning)、いわゆるAIが注目されています。そういった動きは、農学の分野でも広がってきており、我々生物測定学研究室でも、圃場のモニタリングに画像解析技術を用いたり、育種(品種改良)に機械学習のアイディアを応用した研究を行ったりしています。

こうした状況を鑑みて、本研究室では2020年前期(4月〜8月)に、機械学習の教科書の決定版ともいえる、Christopher Bishopによる『Pattern Recognition and Machine Learning (パターン認識と機械学習)』、通称PRMLに関する輪読会を開講しました。本輪読会では、PRMLの各章の末尾に付いている演習問題を、輪読会参加者の有志が解く、ということも行いました。ここでは、各人による演習問題の解答例をQiitaの記事として紹介していこうと思います。
(追記:2021年度後期も輪読会を開催し、第1章から勉強しています。昨年度できなかった演習問題は随時更新予定です。)

本記事では、第6章の演習問題の解答例に関する記事のリンクを紹介していきます。
まだ解いた全ての問題を公開しているわけではなく、随時更新していきます。更新内容などについては、Twitterにてご報告する予定です。

(注:解答例は、数学の決して得意ではない学生によるものもあります。中には間違いや不十分な解答もあるかもしれませんが、温かい目で見ていただき、コメントで誤りなどを指摘していただければ幸いです。また、全ての問題に対して解答例が用意されているわけではないので、その点についてもご了承ください。)

関連記事など

別の章に関するリンク集 

PRML 公式資料

PRML 非公式資料

他にも、一部の記事でPRMLの演習問題の解答例に関する記事があるものの、どれも1問単位で解かれており、このようなLaTeXで数式を書いた解答例のリンク集は存在しないように見受けられます。

担当者

東京大学 生物測定学研究室@YusukeToda1984 さん, @ZaKama さん, @patten さん, @Kazutoshi08 さん, @mashiro135 さんにご協力いただきました。また、他にも(生物測定学研究室以外の学生を含む)2名の有志が匿名で公開に協力してくださいました。こちらの2名の方の記事はこのアカウントの記事として投稿させていただいもののリンクを紹介したいと思います(当人の許可をとっています)。さらに第5章からは、@yoyoyo11131113 さんにもご協力いただけることになりました。

解答 リンク集

演習問題 6.1 (標準)

最小二乗線形回帰問題における双対表現に関する問題です。まず教科書の6.1節を復習する形で双対表現を導いたのち、双対表現におけるパラメータベクトル $\mathbf { a }$ が特徴関数 $\boldsymbol {\phi} \left( \mathbf { x } \right )$ の線形結合となることを示した上で、双対表現の双対表現がもとの表現に戻ることを示す問題です。

演習問題 6.2 (標準)

パーセプトロンをもちいた分類モデルを、カーネル関数を使って表現する問題です。

演習問題 6.3 (基本)

最近傍法に対してカーネル置換を行う問題です。

演習問題 6.7 (基本)

有効なカーネル同士は足し算、掛け算してもやはり有効となることを示す問題です。

演習問題 6.11 (基本)

ガウスカーネルがカーネルであることを示します。問題部と教科書の指示に従えば解けます。

演習問題 6.14 (基本)

ガウス分布から対応するフィッシャーカーネルを書き下す問題です。

演習問題 6.19 (標準)

Nadaraya-Watsonカーネル回帰についての問題です。ここでは、目的変数だけでなく入力変数に誤差がある場合において最小二乗問題を考えた場合に、その解がNadaraya-Watsonカーネル回帰に一致することを証明します。

演習問題 6.20 (標準)

ガウス過程において、従属変数の同時分布から予測分布を導出する問題です。2章の式を当てはめるだけです。

演習問題 6.24 (基本)

要素が $0 < K _ { i j } < 1$ を満たす対角行列は正定値であること、またその性質と関連して2つの正定値行列の和の行列の性質を示す問題です。

おわりに (宣伝)

いかがだったでしょうか。
こうした記事が、少しでも皆さんがPRMLの演習問題を解く上での理解の助けとなれば幸いです。
誤りなどありましたら、各演習問題に対する解答記事にてコメントなど残していただければと思います。

さて、生物測定学研究室では、農学という分野にいながら、このような機械学習の基礎から勉強しているほか、プログラミング言語Python, R, C++, Juliaなど)を駆使して、効率的なデータ取得や、品種改良の高速化に取り組んでいます。興味がある方は、ぜひホームページから研究紹介動画を見ていただければと思います。Twitterもはじめました。

研究室ホームページ: 東京大学 生物測定学研究室
研究紹介動画など (YouTube): 東京大学 生物測定学研究室 YouTubeチャンネル
Twitterアカウント: UT-Biomet (@BiometUt)
Twitterサブアカウント: 東大・生測の日常。 (@BiometUtDiary) ←New!! (2021.10-)

更新歴

  • 2021.11.16 : 2021年度輪読会について、記述しました。第7章のリンクを掲載しました。
  • 2021.10.29 : Twitterサブアカウントを掲載しました。

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
What you can do with signing up
1