G検定 · LESSON 2

機械学習の概要7%(当サイト設定) · 4項目

教師あり学習・教師なし学習・強化学習の代表的な手法と、モデルの選択と評価を学びます。

2.1教師あり学習

教師あり学習(回帰・分類、線形回帰、ロジスティック回帰、決定木、ランダムフォレスト、勾配ブースティング、SVM、AR モデル)

概念

教師あり学習は、入力と正解の組から予測の規則を学びます。回帰は数値、分類はカテゴリを予測します。線形回帰は直線(平面)で数値を予測し、ロジスティック回帰はシグモイド関数で確率を出す「分類」の手法です。決定木は条件の分岐で予測し、ランダムフォレストは多数の決定木の多数決(バギング)、勾配ブースティングは前の木の誤りを次の木で補う(ブースティング)方法です。SVM はマージン(境界と最も近いデータとの距離)を最大化し、カーネル法で非線形の分類も行います。AR モデルは過去の値から未来の値を予測する時系列のモデルです。

仕組み・手順

  1. 予測したいものが数値(回帰)かカテゴリ(分類)かを確認する
  2. バギング(並列・多数決)とブースティング(逐次・誤りの補正)を区別する
  3. 解釈のしやすさ(決定木・線形回帰)と精度(アンサンブル)のトレードオフを考える

業務での例

顧客の解約の有無の予測にロジスティック回帰と勾配ブースティングを試し、精度は勾配ブースティング、説明のしやすさはロジスティック回帰と使い分ける。

紛らわしい点・試験の注意

ミニクイズ

Q1. 機械学習の問題の種類を選ぶ。正解のラベルなしで、購買の傾向が似ている顧客をいくつかのグループに分ける問題はどれに当たるか。

  1. 次元削減
  2. クラスタリング
  3. 分類
  4. 回帰
答えと解説を見る

正解:B クラスタリング

クラスタリングは教師なし学習。k-means 法・ウォード法など。(判断の分かれ目:ラベルなしでグループ分け)

Q2. 機械学習の問題の種類を選ぶ。100 項目あるアンケートの回答を、情報をなるべく保ったまま 2 つの軸に要約して図にしたい問題はどれに当たるか。

  1. 次元削減
  2. 回帰
  3. クラスタリング
  4. 分類
答えと解説を見る

正解:A 次元削減

次元削減は教師なし学習。主成分分析(PCA)・t-SNE など。(判断の分かれ目:情報を保ったまま特徴の数を減らす)

参考リンク

2.2教師なし学習

教師なし学習(k-means 法、ウォード法、主成分分析、t-SNE、協調フィルタリング、トピックモデル)

概念

教師なし学習は、正解のないデータから構造を見つけます。k-means 法は事前に決めた k 個のクラスタにデータを分け、ウォード法は階層的にクラスタをまとめていく方法です(デンドログラムで表す)。主成分分析(PCA)は情報をなるべく失わずに次元を削減し、t-SNE は高次元のデータを 2・3 次元で可視化します。協調フィルタリングは、似た利用者の行動から推薦する方法、トピックモデル(LDA など)は文書の潜在的な話題を推定します。

仕組み・手順

  1. クラスタの数を事前に決めるか(k-means)、階層で見るか(ウォード法)を選ぶ
  2. 次元削減の目的(前処理か可視化か)で PCA と t-SNE を使い分ける
  3. 推薦では、協調フィルタリングとコンテンツベースの違いを理解する

業務での例

EC サイトで、購買履歴の似た利用者が買った商品を推薦する(協調フィルタリング)。新しい商品は履歴がないため、商品の属性で推薦する(コンテンツベース)。

紛らわしい点・試験の注意

ミニクイズ

Q1. t-SNE の説明として最も適切なものはどれか。

  1. データ点の間の距離の行列から、距離をなるべく保つ配置を求める古典的な線形の手法
  2. 文書の中の単語の出現の傾向から、潜在的なトピックを推定するための手法
  3. 分散が最大になる方向を順に求め、データを少数の軸にまとめる線形の次元削減の手法
  4. 高次元のデータの近さの関係を保ちながら、2〜3 次元に写して可視化する非線形の手法
答えと解説を見る

正解:D 高次元のデータの近さの関係を保ちながら、2〜3 次元に写して可視化する非線形の手法

t-SNE は可視化によく使われる非線形の手法。【他の選択肢】線形の分散最大化は PCA、トピックの推定はトピックモデル(LDA)、距離行列からの配置は多次元尺度構成法(MDS)。

Q2. 教師なし学習の手法を選ぶ。店舗のデータを、事前に決めた 5 つのグループに分けたい。最も適した手法はどれか。

  1. 協調フィルタリング
  2. 主成分分析(PCA)
  3. ウォード法
  4. k-means 法
答えと解説を見る

正解:D k-means 法

k-means 法は k 個の重心を置き、近い重心への割り当てと重心の更新を繰り返す(非階層的クラスタリング)。

参考リンク

2.3強化学習

強化学習(マルコフ決定過程、割引率、ε-greedy、Q 学習、SARSA、方策勾配法、Actor-Critic)

概念

強化学習では、エージェントが環境の中で行動し、得られる報酬の合計を最大化する方策を学びます。マルコフ決定過程は、次の状態が現在の状態と行動だけで決まるという枠組みです。割引率は将来の報酬をどれだけ重視するか、ε-greedy は確率 ε でランダムに行動して探索し、それ以外は最良と思う行動を選ぶ方法です。Q 学習は行動価値(Q 値)を学ぶ方法(次の状態の最大の Q 値で更新:方策オフ)、SARSA は実際に選んだ次の行動の Q 値で更新します(方策オン)。方策勾配法は方策を直接最適化し、Actor-Critic は方策(Actor)と価値(Critic)を両方学びます。

仕組み・手順

  1. 状態・行動・報酬・方策の関係を整理する
  2. 探索と活用のトレードオフ(ε-greedy)を理解する
  3. Q 学習と SARSA の更新の違いを確認する

業務での例

倉庫のロボットの経路の学習で、最初は ε を大きくして色々な経路を探索し、学習が進むにつれて ε を小さくして良い経路を使う。

紛らわしい点・試験の注意

ミニクイズ

Q1. 強化学習の基本的な要素の説明として最も適切なものはどれか。

  1. 学習済みのモデルを別のタスクに流用し、少ないデータで性能を上げる
  2. 正解のラベルが付いたデータを使い、入力から出力を予測する関数を学ぶ
  3. 環境の状態を観測して行動し、報酬の合計が大きくなる方策を学ぶ
  4. 正解のないデータから、似たもののグループやデータの構造を見つける
答えと解説を見る

正解:C 環境の状態を観測して行動し、報酬の合計が大きくなる方策を学ぶ

強化学習は報酬を手がかりに試行錯誤で行動の方策を学ぶ。状態の遷移はマルコフ決定過程でモデル化することが多い。

Q2. 強化学習の用語を確認する。将来に得られる報酬を、現在の価値に換算するときに掛ける 0 以上 1 以下の係数はどれか。

  1. 割引率
  2. ε-greedy 方策
  3. 方策勾配法
  4. Q 学習
答えと解説を見る

正解:A 割引率

割引率 γ が小さいほど目先の報酬を重視し、1 に近いほど将来の報酬も重視する。

参考リンク

2.4モデルの選択・評価

モデルの選択・評価(交差検証、混同行列、適合率・再現率・F 値、ROC 曲線・AUC、MSE・RMSE・MAE、AIC・BIC、過学習)

概念

モデルの汎化性能は、学習に使わないデータで評価します。交差検証(k 分割交差検証)はデータを k 個に分け、評価用を入れ替えて平均します。分類の評価は混同行列から、正解率・適合率(陽性と予測した中の正解の割合)・再現率(実際の陽性のうち当てた割合)・F 値(適合率と再現率の調和平均)、ROC 曲線と AUC で行います。回帰は MSE・RMSE・MAE で評価します。AIC・BIC はモデルの当てはまりと複雑さのバランスでモデルを選ぶ指標です。過学習は学習データに過剰に適合した状態です。

仕組み・手順

  1. ホールドアウト法と交差検証の違いを理解する
  2. 目的に合う指標を選ぶ(見逃しを防ぐなら再現率)
  3. 学習データとテストデータの誤差を比べて過学習を確認する

業務での例

がんの検診のモデルでは、見逃し(偽陰性)を減らすため再現率を重視し、誤検知はその後の精密検査で確認する。

紛らわしい点・試験の注意

ミニクイズ

Q1. 100 件のデータで、陽性と予測した 20 件のうち 15 件が実際に陽性、実際の陽性は全部で 30 件だった。適合率と再現率の組み合わせとして正しいものはどれか。

  1. 適合率 15%、再現率 50%
  2. 適合率 75%、再現率 50%
  3. 適合率 50%、再現率 75%
  4. 適合率 75%、再現率 15%
答えと解説を見る

正解:B 適合率 75%、再現率 50%

適合率=15/20=75%、再現率=15/30=50%。

Q2. データが 500 件しかなく、ホールドアウト法では評価の結果が分け方で大きく変わる。汎化性能を安定して推定する方法として最も適切なものはどれか。

  1. k 分割交差検証で、k 個に分けたデータの 1 つを検証用にして k 回評価し、平均をとる
  2. 検証用のデータで性能が下がり始めた時点で学習を止める早期終了を使う
  3. データを学習用と検証用に一度だけ分け、乱数のシードを固定して評価する
  4. 学習用のデータから復元抽出した標本で複数のモデルを学習し、多数決をとる
答えと解説を見る

正解:A k 分割交差検証で、k 個に分けたデータの 1 つを検証用にして k 回評価し、平均をとる

データが少ないときに、汎化性能を安定して推定できる。一度だけ分けるのはホールドアウト法。 【他の選択肢】シードの固定は再現性を保つが、分け方の偏りは残る。復元抽出と多数決はバギング。早期終了は過学習の対策で、性能の推定の方法ではない。

参考リンク

レッスンは当サイトが各試験実施団体の公開ページとシラバスをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。

ご利用上の注意(非公式・独自問題・合格保証なし)