ISBN 9784873118680
機械学習のための特徴量エンジニアリング : その原理とPythonによる実践
- 出版社
- オライリー・ジャパン
- 刊行
- 2019-02
概要
モデル性能を左右する特徴量の設計・変換・選択を体系的に習得する
想定読者
機械学習の基礎アルゴリズムを理解済みで、モデル精度のさらなる向上を目指すデータサイエンティスト・MLエンジニア。KaggleコンペやPOC段階の業務予測モデル開発に取り組んでいる人。
こんな人には向いていない
- 機械学習アルゴリズムの内部実装(勾配ブースティング・ニューラルネットワークの仕組み)を学びたい読者:本書の主題はモデルではなくデータ表現の設計
- 深層学習時代の埋め込み表現・自己教師あり学習など最新の特徴学習手法を体系的に追いたい人(2019年出版のため、LLM以降の表現学習は対象外)
- 特徴量エンジニアリングの数理的厳密さを求める研究者・上級者:説明は実用重視で理論の深みは限定的
この本で身につくこと
- 数値データの二値化・離散化・スケーリングを目的に応じて選択できる
- One-Hotエンコーディング・Feature Hashingなどカテゴリ変数の変換手法を使い分けられる
- 対数変換・Box-Cox変換で偏った分布を正規化しモデルの学習を安定させられる
- 交互作用特徴量を生成して非線形な関係をモデルに伝える手法を設計できる
- フィルタ法・Wrapper法・Embedded法から適切な特徴選択手法を選べる
- テキストデータをBag-of-Words・TF-IDFで特徴量化し機械学習モデルに入力できる
ハイライト(外部からの言及)
機械学習を行うエンジニアが知るべき特徴量抽出の基本から応用、最新のテーマまでを網羅した書籍です。内容としてはそれほど難しくないため、機械学習を学んでいる人が特徴量エンジニアリングについて学びはじめる書籍として最適です。 — 出典
難易度感と対象読者像が端的に示されており、「アルゴリズム書の次の一冊」としての位置づけが明確
読了後にできること
Before(読む前): モデルの精度が頭打ちで、ハイパーパラメータ調整以外の改善策が言語化できない
After(読み終えた後): 生データの特性(分布の歪み・カテゴリの濃度・スパース性)に応じた変換と特徴選択の判断フローを持てる
章立て
(公式情報未確認 — 出版社公式ページの目次が公開され次第、本セクションを更新予定)
関連記事 / 参考情報
- Kaggleに登録したら次にやること ~ これだけやれば十分闘える!Titanicの先へ行く入門 10 Kernel ~ — Kaggle 入門の次ステップロードマップ。特徴量エンジニアリング学習の推薦書として本書が位置づけられている
- 【データ分析の必読10冊+差をつける10冊+100冊超】データサイエンス、データ分析、機械学習関連の本 — データサイエンス書籍の包括的ガイド。本書が「差をつける」段階の推薦書として選定されている
- 【保存版・初心者向け】独学でAIエンジニアになりたい人向けのオススメのAI勉強方法 (2019年改定版) — AI エンジニア独学ロードマップ。特徴量エンジニアリング習得段階で本書が推薦されている
- 【Webエンジニアど素人】が【3〜4年生】くらいになったら読むといい本を目的別にまとめた — Web エンジニアが ML 領域に踏み出すための書籍ガイド。機械学習実践書として本書を選定
- KAGGLEでどこから手を付けていいか分からず学ぶことが多すぎてまとめてみた — Kaggle 学習リソースの体系的まとめ。特徴量エンジニアリングの参考書として本書を位置づけ
- Feature-Engineeringのリンク集めてみた — 特徴量エンジニアリング専門のリンク集。日本語で体系的に学べる主要リソースとして本書を掲載
- 機械学習 PoC と本番運用のあいだ — ML 本番運用への移行知見まとめ。本書が特徴量設計の実務参考として言及されている
学習のヒント
- Google Colab 連載記事(qiita/tatelabo の第1〜5回)が本書の内容を章ごとに追っており、各章を読んだ後すぐにコードを実行する補完教材として有効
- Kaggle コンペ参加者は実際のコンペデータ(Titanic 以外の tabular 系)に対して各章の手法を適用することで定着が早まる。手元にデータを置いて読み進めると吸収率が上がる
- カテゴリ変数エンコーディングとスケーリングの章は前後の依存が少なく、業務で必要な手法から逆引きして参照する使い方にも向いている
- 特徴選択(後半章)は過学習抑制の判断基準整理にも活用でき、モデル評価フェーズで再読する価値がある
前提知識
- NumPy・Pandas による基本的なデータ操作(行列演算・データフレーム操作)
- 回帰・分類・決定木など機械学習の基本アルゴリズムの概念理解
- 統計の基礎(分布・正規化・相関の意味)
次に読む本
Kaggleで勝つデータ分析の技術
本書の特徴量エンジニアリング知識を競技 ML の実戦文脈でより深化させる。本書が原理中心の体系書なら、こちらはコンペ特化の実践集として補完関係にある
Python機械学習プログラミング 第3版
特徴量の作り方を習得した後、モデル設計・評価・パイプライン全体を体系化する際の補完書
scikit-learn、Keras、TensorFlowによる実践機械学習 第3版
本書で習得した特徴量変換を scikit-learn Pipeline と統合し、深層学習まで含めた End-to-End の実装に踏み込む発展先
出版社による内容紹介
機械学習や人工知能の性能を決める特徴量作成・変換/選択について詳述した書籍! 本書は、機械学習を行うエンジニアが知るべき特徴量抽出の基本から応用、最新のテーマまでを網羅した書籍です。内容としてはそれほど難しくないため、機械学習を学んでいる人が特徴量エンジニアリングについて学びはじめる書籍として最適です。
この本がどの学習段階で役立つかは、 関連する ロードマップ から確認できます。