AIAI Agent Dev Labaiagentdev-lab.com
登录以保存学习记录登录
菜单

G検定 · LESSON 2

机器学习概述7%（当サイト設定） · 4 个主题

学习监督学习、无监督学习、强化学习的代表性方法，以及模型的选择与评价。

2.1监督学习

监督学习（回归与分类、线性回归、逻辑回归、决策树、随机森林、梯度提升、SVM、AR 模型）

概念

监督学习从输入与正确答案的组合中学习预测规则。回归预测数值，分类预测类别。线性回归用直线（平面）预测数值，逻辑回归是用 Sigmoid 函数输出概率的“分类”方法。决策树通过条件分支进行预测，随机森林对大量决策树进行多数表决（Bagging），梯度提升用下一棵树弥补前一棵树的错误（Boosting）。SVM 最大化间隔（边界与最近数据之间的距离），并用核方法进行非线性分类。AR 模型是根据过去值预测未来值的时间序列模型。

原理、步骤

  1. 确认要预测的是数值（回归）还是类别（分类）
  2. 区分 Bagging（并行、多数表决）与 Boosting（逐次、修正错误）
  3. 考虑可解释性（决策树、线性回归）与准确度（集成）之间的权衡

工作中的示例

在预测客户是否解约时尝试逻辑回归和梯度提升，准确度用梯度提升，易于说明则用逻辑回归，区分使用。

易混淆点、考试注意事项

小测验

Q1. 正在选择机器学习问题的种类。在没有正确标签的情况下，把购买倾向相似的客户分成几组的问题属于哪项？

  1. 降维
  2. 聚类
  3. 分类
  4. 回归
查看答案和解析

正确答案：B 聚类

聚类属于无监督学习，如 k-means 法、沃德法等。（判断要点：没有标签的分组）

Q2. 正在选择机器学习问题的种类。希望把 100 个项目的问卷回答在尽量保留信息的同时归纳到 2 个轴上作图，这个问题属于哪项？

  1. 降维
  2. 回归
  3. 聚类
  4. 分类
查看答案和解析

正确答案：A 降维

降维属于无监督学习，如主成分分析（PCA）、t-SNE 等。（判断要点：在保留信息的同时减少特征数量）

参考链接

2.2无监督学习

无监督学习（k-means 法、沃德法、主成分分析、t-SNE、协同过滤、主题模型）

概念

无监督学习从没有正确答案的数据中发现结构。k-means 法把数据分成事先确定的 k 个簇，沃德法是逐层合并簇的方法（用树状图表示）。主成分分析（PCA）在尽量不丢失信息的情况下降维，t-SNE 把高维数据在 2、3 维中可视化。协同过滤根据相似用户的行为进行推荐，主题模型（LDA 等）推断文档潜在的话题。

原理、步骤

  1. 选择是事先确定簇数（k-means），还是分层查看（沃德法）
  2. 根据降维的目的（预处理还是可视化）区分使用 PCA 与 t-SNE
  3. 在推荐中理解协同过滤与基于内容方法的区别

工作中的示例

在电商网站中，推荐购买记录相似的用户买过的商品（协同过滤）。新商品没有记录，因此按商品属性推荐（基于内容）。

易混淆点、考试注意事项

小测验

Q1. 关于 t-SNE 的说明，最合适的是哪项？

  1. 根据数据点之间的距离矩阵，求出尽量保持距离的布局的经典线性方法
  2. 根据文档中词的出现倾向推断潜在主题的方法
  3. 依次求出方差最大的方向，把数据归纳到少数几个轴上的线性降维方法
  4. 在保持高维数据邻近关系的同时，将其映射到 2～3 维进行可视化的非线性方法
查看答案和解析

正确答案：D 在保持高维数据邻近关系的同时，将其映射到 2～3 维进行可视化的非线性方法

t-SNE 是常用于可视化的非线性方法。【其他选项】线性的方差最大化是 PCA，主题推断是主题模型（LDA），根据距离矩阵求布局的是多维尺度分析（MDS）。

Q2. 正在选择无监督学习的方法。希望把店铺数据分成事先确定的 5 组。最合适的方法是哪项？

  1. 协同过滤
  2. 主成分分析（PCA）
  3. 沃德法
  4. k-means 法
查看答案和解析

正确答案：D k-means 法

k-means 法放置 k 个重心，反复进行把数据分配给最近重心和更新重心（非层次聚类）。

参考链接

2.3强化学习

强化学习（马尔可夫决策过程、折扣率、ε-greedy、Q 学习、SARSA、策略梯度法、Actor-Critic）

概念

在强化学习中，智能体在环境中行动，学习使所获奖励总和最大的策略。马尔可夫决策过程是下一状态只由当前状态和行动决定的框架。折扣率表示对未来奖励的重视程度，ε-greedy 以概率 ε 随机行动进行探索，其余时候选择认为最好的行动。Q 学习学习行动价值（Q 值），用下一状态的最大 Q 值更新（离策略），SARSA 用实际选择的下一行动的 Q 值更新（在策略）。策略梯度法直接优化策略，Actor-Critic 同时学习策略（Actor）和价值（Critic）。

原理、步骤

  1. 整理状态、行动、奖励、策略之间的关系
  2. 理解探索与利用的权衡（ε-greedy）
  3. 确认 Q 学习与 SARSA 在更新上的区别

工作中的示例

在学习仓库机器人的路径时，最初把 ε 设大以探索各种路径，随着学习推进逐渐减小 ε，使用好的路径。

易混淆点、考试注意事项

小测验

Q1. 关于强化学习基本要素的说明，最合适的是哪项？

  1. 把已训练的模型挪用于其他任务，用少量数据提高性能
  2. 使用带正确标签的数据，学习从输入预测输出的函数
  3. 观测环境的状态并采取行动，学习使奖励总和变大的策略
  4. 从没有正确答案的数据中发现相似事物的分组或数据的结构
查看答案和解析

正确答案：C 观测环境的状态并采取行动，学习使奖励总和变大的策略

强化学习以奖励为线索，通过试错学习行动策略。状态转移多用马尔可夫决策过程建模。

Q2. 确认强化学习的用语。把将来获得的奖励换算为现在价值时乘以的、0 以上 1 以下的系数是哪项？

  1. 折扣率
  2. ε-greedy 策略
  3. 策略梯度法
  4. Q 学习
查看答案和解析

正确答案：A 折扣率

折扣率 γ 越小越重视眼前的奖励，越接近 1 越重视将来的奖励。

参考链接

2.4模型的选择与评价

模型的选择与评价（交叉验证、混淆矩阵、精确率・召回率・F 值、ROC 曲线・AUC、MSE・RMSE・MAE、AIC・BIC、过拟合）

概念

模型的泛化性能用未用于训练的数据评价。交叉验证（k 折交叉验证）把数据分成 k 份，轮换评价用的部分并取平均。分类的评价基于混淆矩阵，使用准确率、精确率（预测为阳性中正确的比例）、召回率（实际阳性中被找出的比例）、F 值（精确率与召回率的调和平均）以及 ROC 曲线和 AUC。回归用 MSE、RMSE、MAE 评价。AIC、BIC 是按拟合度与复杂度的平衡选择模型的指标。过拟合是过度拟合训练数据的状态。

原理、步骤

  1. 理解留出法与交叉验证的区别
  2. 选择符合目的的指标（防止漏检则用召回率）
  3. 比较训练数据与测试数据的误差以确认过拟合

工作中的示例

在癌症筛查模型中，为减少漏检（假阴性）而重视召回率，误检则通过后续的精密检查确认。

易混淆点、考试注意事项

小测验

Q1. 在 100 条数据中，预测为阳性的 20 条中有 15 条实际为阳性，实际阳性共有 30 条。精确率与召回率的正确组合是哪项？

  1. 精确率 15%，召回率 50%
  2. 精确率 75%，召回率 50%
  3. 精确率 50%，召回率 75%
  4. 精确率 75%，召回率 15%
查看答案和解析

正确答案：B 精确率 75%，召回率 50%

精确率＝15/20＝75%，召回率＝15/30＝50%。

Q2. 只有 500 条数据，用留出法时评估结果随划分方式变化很大。稳定估计泛化性能最合适的方法是哪项？

  1. k 折交叉验证：把数据分为 k 份，轮流用一份验证，评估 k 次取平均
  2. 在验证集性能开始下降时停止训练的早停
  3. 只划分一次训练集和验证集，固定随机种子进行评估
  4. 用从训练数据有放回抽样的样本训练多个模型并投票
查看答案和解析

正确答案：A k 折交叉验证：把数据分为 k 份，轮流用一份验证，评估 k 次取平均

数据少时可以稳定地估计泛化性能。只分一次的是留出法。【其他选项】固定种子能保证可复现，但划分的偏差仍在。有放回抽样加投票是 Bagging。早停是过拟合对策，不是性能估计方法。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）