概要

古典機械学習の考え方を数学的厳密さで体系的に習得する

想定読者

大学理工系2〜4年生または社会人で、ベイズ推論や確率的モデリングの基礎を数式から理解したいと考えているエンジニア・研究者

こんな人には向いていない

• 深層学習のフレームワーク活用や実装速度を優先したい実務者(本書は実装例よりも理論的考え方の記述に比重がある)
• Python入門レベルから機械学習を始めたばかりの初学者(多変数微積分・線形代数・確率統計の大学初年次水準を前提としている)
• 全機械学習手法を網羅的に俯瞰したい読者(本書は意図的に古典手法とパラメトリックモデルに絞っており、深層学習の章はない)

読了後にできるようになること

• パラメトリックアプローチによる確率密度推定の考え方と実装上の判断軸
• 線形回帰の確率モデル的解釈とベイズ線形回帰における予測の損失最小化の原理
• ロジスティック回帰を含む一般化線形モデルによる分類の定式化
• ニューラルネットワークをパラメトリックモデルの一形態として位置付ける視点
• ベイズ推論の枠組みが少数データ環境でも有効な理由と、その数学的根拠
• PRML(ビショップ著)やMurphy『Probabilistic Machine Learning』と読み合わせるための数学的記法・構成の対応関係

本書のキー概念(章解説)

• 第 1 章 第1部　入門的基礎 — 機械学習全体の概観と本書で扱う問題設定・数学的記法を整理する導入部
• 第 2 章 第2部　パラメトリックモデル — 確率密度推定 — パラメトリックアプローチの出発点。最尤推定とベイズ推定の対比を学ぶ
• 第 3 章 第2部　パラメトリックモデル — 線形回帰 — 確率的解釈によって線形回帰をベイズ線形回帰へ拡張する流れが本書の核心
• 第 4 章 第2部　パラメトリックモデル — 一般化線形モデル(分類) — ロジスティック回帰を含む分類問題の統一的定式化
• 第 5 章 第2部　パラメトリックモデル — ニューラルネットワーク(非線形パラメトリックモデル) — 深層学習ではなく古典的パラメトリックモデルとしてのニューラルネットに限定

ハイライト

• 大量のデータが存在する対象に対しては深層学習はきわめて高性能を発揮する。しかし、少数のデータしか得ることができない対象も多く、本書で紹介する古典的な機械学習の手法は、今後も随所で活躍するであろう(本書が深層学習全盛期にあえて古典手法に絞る理由を著者自身が明言している箇所)
• ベイズ的な考え方は、予測の損失最小を保証するという意味で重要である(ベイズ推論を学ぶ実践的動機として端的に表現されており、本書のスタンスを示す)

編集メモ

Qiita言及記事0件・楽天ランキング情報なし。共立出版の大学教科書として位置付けられ、ベイズ機械学習を数学から学ぶ専門的需要に応えるが、外部シグナルは現時点で確認できなかった

読む前に押さえておきたいこと

• 多変数の微積分(偏微分・ヤコビアンを含む大学1〜2年次水準)
• 線形代数の基礎(固有値・固有ベクトル・行列の対角化)
• 確率と統計の基本(期待値・分散・条件付き確率・ベイズの定理)

学習のコツ

• 本書の数学的記法はビショップ著『パターン認識と機械学習』に準拠しているため、PRMLと並行して読むと相互補完になる。PRMLの対応章と照合しながら進めると定着が速い
• 第2部のパラメトリックモデル各章は独立性が高い。確率密度推定から始めず、まず線形回帰章を読んでモデルの考え方をつかんでから前後を補完する読み方も有効
• 各章の演習問題は解答が第3巻に収録されている。本書(第1巻)だけでは解答を確認できないため、第3巻(数学事項・演習問題解答例)を手元に揃えてから取り組む
• 深層学習を学んだ後に読むと、勾配法やニューラルネットワークの確率的解釈がより明確に理解できる。入門書として読む場合は微積分・線形代数の教科書を手元に置いておくとよい