ISBN 9784320124905
機械学習 3. 数学事項：機械学習のいしずえ／演習問題解答
概要
機械学習の数学的基盤と全演習解答を一冊で参照する
想定読者
本シリーズ第1巻・第2巻で学習を進めており、確率・統計・線形代数の数理的根拠を立ち止まって確認したい大学理工系の学部・大学院生。演習問題を自力で解きながら理解を定着させたい学習者
こんな人には向いていない
- 深層学習や実装中心のスキルを短期間で習得したい実務者(本巻は数学事項と演習解答に特化しており、実装例は含まれない)
- シリーズ第1巻・第2巻を未読の状態で単独利用しようとする読者(記法・前提概念が前2巻に依存している)
- 多変数微積分・線形代数・確率統計の基礎がない段階の学習者(本巻はその基礎知識を運用する立場での参照書であり、ゼロから学ぶ入門書ではない)
読了後にできるようになること
- 確率変数・条件付き確率・ベイズの定理をガウス分布の文脈で統一的に整理できる
- 多次元ガウス分布の確率密度関数・期待値・分散の導出手順を追うことで、機械学習モデルの確率的根拠を自分の言葉で説明できる
- 分割多次元ガウス分布(marginalization・conditioning)の性質を理解し、ガウス過程や混合モデルの数理的背景を把握できる
- 行列微分・計画行列・実対称行列の固有値問題を体系的に参照でき、最小二乗法やPCAの導出に詰まらなくなる
- シリーズ全章の演習問題に対する解答例と丁寧な解説を通じて、自己採点と理解の抜け穴を特定できる
本書のキー概念(章解説)
- 第 12 章 確率・統計ダイジェスト — 確率変数・ガウス分布・サンプリングの基本事項を整理する参照章。第1巻・第2巻で数式の意味が取れなくなった際に立ち返る起点として使いやすい
- 第 13 章 ガウス分布の性質 — 1次元・多次元ガウス分布の期待値・分散の導出から分割多次元分布まで踏み込む。ガウス過程・混合ガウスを理論的に理解するための必須章
- 第 14 章 行列、アドバンスト — 行列微分・計画行列・実対称行列の固有値問題をカバーする。最小二乗法やPCAの導出で詰まった際に直接参照できる構成
ハイライト
- 確率と統計や、対称行列に関する固有値問題などの数学的事項の要点は、第5部（第3巻）としてまとめた。(シリーズ全体の数学基盤を本巻に集約するという設計意図が最も端的に示されている箇所)
- 各章には演習問題、巻末には解答例と丁寧な解説を掲載（解答例は第3巻に収録）。(本巻がシリーズ全巻の演習解答を一括収録しているという実用上の役割を示す箇所)
編集メモ
Qiita記事での直接言及は検索0件・累計likes 0。楽天ランキング情報なし。共立出版2022年刊の大学教科書シリーズ補巻として専門性は高いが、外部コミュニティシグナルが取得できないためsupplementaryと判定
読む前に押さえておきたいこと
- 多変数の微積分(偏微分・勾配・連鎖律)を計算レベルで扱えること
- 行列の積・逆行列・固有値問題の基本を理解していること
- 条件付き確率・ベイズの定理・期待値の定義を把握していること
- 本シリーズ第1巻または相当する機械学習入門の内容(記法・基礎概念)を持っていること
学習のコツ
- 本巻は通読より『辞書参照』の使い方が合っている。第1巻・第2巻で数式の途中が追えなくなった時点で、該当する第12〜14章の節を開く習慣をつけると学習が止まりにくい
- 演習問題の解答例は、まず自分で紙に書いてから照合する。解けた問題でも解答の記法・論理展開の整理方法を見比べると、レポートや試験での答案構成力が上がる
- 第13章の分割多次元ガウス分布は第2巻のガウス過程・EMアルゴリズムと直結している。第2巻7章・10章が難しいと感じたらここから逆引きすると詰まりが解消しやすい
- 行列微分(第14章)は最小二乗法の正規方程式とPCAの固有値問題の両方に効く。第1巻で正規方程式の導出を飛ばした場合、本章を読んでから戻ると回収が早い
出版社による内容紹介
本書は、古典機械学習ともよぶべき題材に的を絞り、考え方をできるだけ詳細に記述した教科書である。読者の便宜を考慮し、500頁にも及ぶ1冊を分冊化させ、1巻目では「入門的基礎／パラメトリックモデル」、2巻目では「ノンパラメトリックモデル／潜在モデル」、3巻目では「数学事項：機械学習のいしずえ／演習問題解答例」を掲載している。 本書では、機械学習全体の網羅や、深層学習を中心に据えた説明は意図していない。大量のデータが存在する対象、あるいはその近傍の対象に対しては、深層学習はきわめて高性能を発揮する。しかし、少数のデータしか得ることができない対象も多く、本書で紹介する古典的な機械学習の手法は、今後も随所で活躍するであろう。とりわけ、ベイズ的な考え方は、予測の損失最小を保証するという意味で重要である。多くの大学理工系の学部で、初年次あるいは2年次に学ぶ多変数の微積分や、固有値問題の基本をふくむ線形代数、それと確率と統計の基本事項は既知としているが、確率と統計や、対称行列に関する固有値問題などの数学的事項の要点は、第5部（第3巻）としてまとめた。 本書は多くの優れた書籍を参照して書かれ、とりわけ、C. M. ビショップ（著），『パターン認識と機械学習』の影響は随所にみられる。数学的記法も同書に準拠した。また、構成は、K. P. Murphy, “Probabilistic Machine Learning: An Introduction”の影響をうけている。Murphyの本では深層学習を1つの部としているが、本書では深層学習の部はもうけず、ニューラルネットワークの基礎的事項をパラメトリックモデルの部（第1巻）へ、また、深層生成モデル（の1つであるVAE）を潜在モデルの部（第2巻）へおいた。ベイズ推論の重要性に鑑み、潜在モデルを第4部としたことは本書の特徴の1つである。 各章には演習問題、巻末には解答例と丁寧な解説を掲載（解答例は第3巻に収録）。 【第V部 数学事項：機械学習のいしずえ】 第12章 確率・統計ダイジェスト 12.1 確率 12.2 確率変数 12.3 ガウス分布（正規分布） 12.4 サンプル 付記 演習問題 第13章 ガウス分布の性質 13.1 確率密度関数であること：1次元 13.2 1次元ガウス分布の期待値と分散 13.3 確率密度関数であること：多次元 13.4 多次元ガウス分布の期待値と分散 13.5 分割多次元ガウス分布 演習問題 第14章 行列，アドバンスト 14.1 行列，アラカルト 14.2 行列の微分 14.3 計画行列 14.4 実対称行列の固有値問題のまとめ 演習問題解答例
この本がどの学習段階で役立つかは、 関連する ロードマップ から確認できます。