ISBN 9784873118680

機械学習のための特徴量エンジニアリング : その原理とPythonによる実践

機械学習のための特徴量エンジニアリング : その原理とPythonによる実践
刊行
2019-02

概要

モデル性能を左右する特徴量の設計・変換・選択を体系的に習得する

想定読者

機械学習の基礎アルゴリズムを理解済みで、モデル精度のさらなる向上を目指すデータサイエンティスト・MLエンジニア。KaggleコンペやPOC段階の業務予測モデル開発に取り組んでいる人。

こんな人には向いていない

  • 機械学習アルゴリズムの内部実装(勾配ブースティング・ニューラルネットワークの仕組み)を学びたい読者:本書の主題はモデルではなくデータ表現の設計
  • 深層学習時代の埋め込み表現・自己教師あり学習など最新の特徴学習手法を体系的に追いたい人(2019年出版のため、LLM以降の表現学習は対象外)
  • 特徴量エンジニアリングの数理的厳密さを求める研究者・上級者:説明は実用重視で理論の深みは限定的

この本で身につくこと

  • 数値データの二値化・離散化・スケーリングを目的に応じて選択できる
  • One-Hotエンコーディング・Feature Hashingなどカテゴリ変数の変換手法を使い分けられる
  • 対数変換・Box-Cox変換で偏った分布を正規化しモデルの学習を安定させられる
  • 交互作用特徴量を生成して非線形な関係をモデルに伝える手法を設計できる
  • フィルタ法・Wrapper法・Embedded法から適切な特徴選択手法を選べる
  • テキストデータをBag-of-Words・TF-IDFで特徴量化し機械学習モデルに入力できる

ハイライト(外部からの言及)

機械学習を行うエンジニアが知るべき特徴量抽出の基本から応用、最新のテーマまでを網羅した書籍です。内容としてはそれほど難しくないため、機械学習を学んでいる人が特徴量エンジニアリングについて学びはじめる書籍として最適です。 — 出典

難易度感と対象読者像が端的に示されており、「アルゴリズム書の次の一冊」としての位置づけが明確

読了後にできること

Before(読む前): モデルの精度が頭打ちで、ハイパーパラメータ調整以外の改善策が言語化できない

After(読み終えた後): 生データの特性(分布の歪み・カテゴリの濃度・スパース性)に応じた変換と特徴選択の判断フローを持てる

章立て

(公式情報未確認 — 出版社公式ページの目次が公開され次第、本セクションを更新予定)

関連記事 / 参考情報

学習のヒント

  • Google Colab 連載記事(qiita/tatelabo の第1〜5回)が本書の内容を章ごとに追っており、各章を読んだ後すぐにコードを実行する補完教材として有効
  • Kaggle コンペ参加者は実際のコンペデータ(Titanic 以外の tabular 系)に対して各章の手法を適用することで定着が早まる。手元にデータを置いて読み進めると吸収率が上がる
  • カテゴリ変数エンコーディングとスケーリングの章は前後の依存が少なく、業務で必要な手法から逆引きして参照する使い方にも向いている
  • 特徴選択(後半章)は過学習抑制の判断基準整理にも活用でき、モデル評価フェーズで再読する価値がある

前提知識

  • NumPy・Pandas による基本的なデータ操作(行列演算・データフレーム操作)
  • 回帰・分類・決定木など機械学習の基本アルゴリズムの概念理解
  • 統計の基礎(分布・正規化・相関の意味)

次に読む本

Kaggleで勝つデータ分析の技術

本書の特徴量エンジニアリング知識を競技 ML の実戦文脈でより深化させる。本書が原理中心の体系書なら、こちらはコンペ特化の実践集として補完関係にある

Python機械学習プログラミング 第3版

特徴量の作り方を習得した後、モデル設計・評価・パイプライン全体を体系化する際の補完書

scikit-learn、Keras、TensorFlowによる実践機械学習 第3版

本書で習得した特徴量変換を scikit-learn Pipeline と統合し、深層学習まで含めた End-to-End の実装に踏み込む発展先

出版社による内容紹介

機械学習や人工知能の性能を決める特徴量作成・変換/選択について詳述した書籍! 本書は、機械学習を行うエンジニアが知るべき特徴量抽出の基本から応用、最新のテーマまでを網羅した書籍です。内容としてはそれほど難しくないため、機械学習を学んでいる人が特徴量エンジニアリングについて学びはじめる書籍として最適です。

この本がどの学習段階で役立つかは、 関連する ロードマップ から確認できます。

質問に答えるだけで、
あなたに合う専門書が見つかる

IT・デザイン・士業・医療・経理・教育・研究 ほか、あらゆる分野の専門書と 「読む順序」(学習ロードマップ)を収録。何を選べばいいか分からなくても、 いくつかの質問に答えるだけでたどり着けます。