【比較】教師あり学習・教師なし学習・強化学習の違い¶
概要¶
機械学習の学習パラダイムは、大きく「教師あり学習(supervised)」「教師なし学習(unsupervised)」「強化学習(reinforcement / RL)」の 3 つに分けられます。違いの本質は何を手がかりに学ぶかです。教師ありは「正解ラベル付きデータ」、教師なしは「ラベルなしデータの中の構造」、強化学習は「環境との試行錯誤で得られる報酬」を手がかりにします。
この 3 分類を取り違えると、「ラベルがないのに分類モデルを作ろうとする」「クラスタリング結果を分類精度で評価しようとする」「逐次的な意思決定問題を 1 ショットの教師あり問題として無理に定式化する」といった筋の悪い設計に陥ります。問題に正解ラベルがあるのか、構造を見つけたいのか、行動の系列を最適化したいのか――この見極めが最初の分岐点です。
例えるなら:3 種類の学び方¶
- 教師あり学習 … 模範解答付きの問題集。解いて答え合わせをして、正解との差で覚える。
- 教師なし学習 … 答えのないデータの山を渡され、「似たもの同士でグループ分けして」と言われる。正解はないが構造は見つかる。
- 強化学習 … ゲームを攻略する人。誰も正解の手は教えてくれないが、スコア(報酬)が上がる/下がるのを手がかりに、試行錯誤で上達していく。
詳細比較¶
| 比較軸 | 教師あり学習 | 教師なし学習 | 強化学習 |
|---|---|---|---|
| 学習の手がかり | 正解ラベル付きデータ | ラベルなしデータ内の構造 | 環境から得る報酬/罰 |
| データ | 特徴量+ラベルの組 | 特徴量のみ(ラベルなし) | 状態・行動・報酬の系列(事前データセット不要) |
| 目的 | 入力→出力の写像を学び未知データを予測 | データ中の意味あるパターン・構造の発見 | 累積報酬を最大化する方策(policy)の獲得 |
| 代表タスク | 分類(categorical)、回帰(数値) | クラスタリング、次元削減 | 逐次的意思決定(制御・ゲーム・ロボット) |
| 評価の仕方 | 正解との誤差・精度等 | 構造の妥当性(正解がないため間接的) | 獲得した累積報酬の大きさ |
| フィードバック | 各サンプルに即時の正解 | 正解なし | 遅延・スパースな報酬(行動の良し悪しは後で判明) |
| LLM での例 | 事前学習・教師ありファインチューニング(SFT) | 表現学習・クラスタリング系の前処理 | RLHF など人間フィードバックによる方策最適化 |
よくある誤解¶
- 誤解1:「教師なし学習はラベルがないだけで、結局は分類と同じ」 — 違います。教師なしは「正解カテゴリが存在しない」前提でデータ内の構造(似たもの同士のクラスタ等)を発見するもの。教師ありの分類は「あらかじめ定義された正解カテゴリ」に当てはめるもの。クラスタリング結果に人間が後から意味づけすることはありますが、それは学習時に正解を与えているのとは異なります。
- 誤解2:「強化学習は教師あり学習の一種(報酬=ラベル)」 — 違います。強化学習には入出力ペアの正解が与えられません。エージェントは「現在の状態と報酬」だけを受け取り、探索と活用を繰り返して累積報酬を最大化する方策を試行錯誤で学びます。報酬は遅延・スパースで、しばしば「どの行動が良かったか」は後になってしか分かりません(信用割当問題)。
- 誤解3:「LLM はすべて教師あり学習で作られている」 — 不正確です。代表的な LLM 構築は複数パラダイムの組み合わせで、大規模な事前学習、教師ありファインチューニング(SFT)、さらに人間フィードバックによる強化学習(RLHF)など、段階ごとに異なるパラダイムを用います。
実務での選び分け¶
- 入力に対する正解(ラベル・数値)が用意できる/できそう → 教師あり学習。分類か回帰かは出力がカテゴリか数値かで決める。
- 正解はないが、データの構造・グルーピング・異常を知りたい → 教師なし学習。前処理・探索的分析・異常検知に有効。
- 「1 回の予測」ではなく「行動の系列」を最適化したい(制御・対話方策・ゲーム) → 強化学習。報酬設計が成否を分ける。
- ラベル付けコストが課題 → まず教師なしで構造を掴み、少数ラベルで教師ありに発展させる、という組み合わせが現実的。
- 評価設計の注意 → 教師なしには「正解との一致」がないため、教師あり用の精度指標をそのまま当てはめない。強化学習は最終的な累積報酬で評価する。
ひとことまとめ¶
教師あり=正解ラベルから写像を学ぶ、教師なし=ラベルなしデータの構造を見つける、強化学習=環境との試行錯誤で報酬を最大化する。「正解があるか/構造を見たいか/行動系列を最適化したいか」で迷わず分けられます。
出典・参考¶
- Google「Introduction to Machine Learning: What is ML?」(教師あり/教師なし/強化学習の定義、分類・回帰・クラスタリング): https://developers.google.com/machine-learning/intro-to-ml/what-is-ml
- Google「Supervised Learning」(ラベル付きデータで未知データの予測を学ぶ): https://developers.google.com/machine-learning/intro-to-ml/supervised
- Wikipedia「Reinforcement learning」(agent・environment・state・action・reward・policy、累積報酬最大化、教師ありとの相違): https://en.wikipedia.org/wiki/Reinforcement_learning