LLM / 生成 AI 時代の機械学習

大規模言語モデル(LLM)と生成 AI が実務に組み込まれる時代に、機械学習の基礎から応用まで地に足のついた形で学び直すためのロードマップです。対象は、ライブラリを使って簡単な予測モデルは書けるが、LLM 周辺の用語や設計判断に自信がない開発者・データ系エンジニア。学び終える頃には、古典的な機械学習、深層学習、Transformer / LLM、そして RAG やエージェントといった応用を一本の線でつないで理解できるようになります。

学習ステップ

1. 機械学習の基礎: 教師あり・なし学習、評価指標、過学習と正則化、線形モデルと決定木系。 2. 深層学習: ニューラルネットの基本、最適化、CNN / RNN、表現学習の考え方。 3. Transformer と言語モデル: 自己注意機構、事前学習とファインチューニング、スケーリング則の直感。 4. LLM 活用: プロンプト設計、評価、RAG(検索拡張生成)、ツール利用・エージェント、コスト/レイテンシ設計。 5. 周辺技術: 埋め込みとベクトル検索、モデル配信・推論最適化、安全性と評価(hallucination、バイアス)。 6. MLOps / LLMOps: 実験管理、データパイプライン、オンライン評価、本番運用での監視。

注意点と周辺知識

LLM から入ると「動くが理由が分からない」状態になりがちなので、古典的機械学習と深層学習の基礎に一定の時間をかけることをおすすめします。線形代数・確率統計・最適化の基礎は、数式を完全に追わなくても「何を最小化しているか」を読めるレベルを目指すと理解が安定します。Python のデータ処理スタック(NumPy / pandas / PyTorch)と、自社ドメインのデータ特性を把握することが、モデル精度以上に成果を左右するという感覚も早めに持っておくと良いでしょう。