AIAI Agent Dev Labaiagentdev-lab.com
登录以保存学习记录登录
菜单

G検定 · LESSON 6

面向 AI 的社会落地・数理统计5%（当サイト設定） · 3 个主题

学习 AI 项目的推进方式、数据的收集・加工・分析，以及 AI 所需的数理・统计知识。

6.1AI 项目的推进方式

AI 项目的推进方式（CRISP-DM、CRISP-ML、PoC、MLOps、BPR、敏捷、Web API、云、Docker、Jupyter Notebook）

概念

CRISP-DM 是数据分析项目的标准流程，反复进行业务理解 → 数据理解 → 数据准备 → 建模 → 评估 → 部署。CRISP-ML 把它扩展到机器学习，加入了质量保证和运行・监控。用 PoC（概念验证）小规模确认可行性，用 MLOps 持续循环开发与运行。用 BPR（业务流程再设计）重新审视业务本身也很重要。开发中常用敏捷，提供时用 Web API 和云，环境再现用 Docker，试错用 Jupyter Notebook。

原理、步骤

  1. 最先确定业务课题和评价指标（业务理解）
  2. 用 PoC 小规模验证后再正式开发
  3. 把运行后的监控与再训练（MLOps）纳入计划

工作中的示例

在需求预测的 PoC 中，用过去 1 年的数据确认准确度，也重新审视订货业务流程（BPR），然后作为 Web API 接入正式环境。

易混淆点、考试注意事项

小测验

Q1. 有用 AI 做需求预测的构想。在正式开发前进行 PoC（概念验证）的目的，最合适的是哪项？

  1. 小规模确认可行性和效果，并按评估标准判断是否进入正式开发
  2. 向多家供应商委托同一课题，选择最便宜的方案
  3. 在收集训练数据之前，通过合同保证目标精度
  4. 构建与生产同等规模的系统，确定到运营流程
查看答案和解析

正确答案：A 小规模确认可行性和效果，并按评估标准判断是否进入正式开发

PoC 要事先确定评价指标和合格标准。注意避免只反复做 PoC 而迟迟不进入正式环境的状态。【其他选项】构建生产规模超出了 PoC 的范围。比较费用是采购的流程。在确认数据之前保证精度，在 AI 开发中很难做到。

Q2. 生产中的需求预测模型的精度在半年内逐渐下降。符合 MLOps 理念的应对，最合适的是哪项？

  1. 由数据科学家每年一次在本地环境重建模型
  2. 固定最初精度高的模型，把精度下降视为可接受范围
  3. 监控输入和精度，检测到漂移时持续进行再训练和部署
  4. 重新训练一次更大的模型，之后不设监控体制
查看答案和解析

正确答案：C 监控输入和精度，检测到漂移时持续进行再训练和部署

运行中会因数据分布的变化（数据漂移）或输入与正确答案关系的变化（概念漂移）导致准确度下降，因此需要监控和再训练。【其他选项】固定模型或只重训一次无法应对今后的漂移。每年一次的本地重建不构成持续的监控、再训练和部署机制。

参考链接

6.2数据的收集・加工・分析・学习

数据的收集・加工・分析・学习（开放数据集、标注、语料库、数据泄漏）

概念

数据从开放数据集（ImageNet、MNIST、COCO 等）、本公司数据、Web 等收集。标注是给数据打上正确标签的作业，统一质量标准很重要。语料库是大量的文本数据。数据泄漏是本来在预测时点无法使用的信息（未来信息或与正确答案直接相关的信息）混入训练、使评价不正当地偏高的问题。

原理、步骤

  1. 确认数据的使用条件（许可、个人信息）
  2. 把标注标准文档化，确认作业者之间的偏差
  3. 从特征量中去除预测时点无法获得的信息

工作中的示例

在住院天数预测中，把由“出院日期”计算出的特征量用于训练，导致评价异常偏高（数据泄漏）。

易混淆点、考试注意事项

小测验

Q1. 关于数据标注的注意事项，最合适的是哪项？

  1. 标签质量不影响模型准确度，因此只重视作业速度
  2. 把标注标准写成文档，一边确认作业者之间的偏差一边管理质量
  3. 不给出标准，让尽可能多的作业者按各自判断自由标注
  4. 标签一旦打上，即使发现错误也不修改、照样使用
查看答案和解析

正确答案：B 把标注标准写成文档，一边确认作业者之间的偏差一边管理质量

标注质量左右模型性能。应明确标准、多人检查、确认一致率等。

Q2. 关于“数据泄漏（data leakage）”的说明，最合适的是哪项？

  1. 训练数据泄露到公司外部、个人信息外流的信息安全问题
  2. 数据存储容量不足、旧数据被自动删除的问题
  3. 训练数据量少、模型准确度无法充分提高的问题
  4. 预测时点无法使用的信息混入训练，使评价不正当地变好的问题
查看答案和解析

正确答案：D 预测时点无法使用的信息混入训练，使评价不正当地变好的问题

例：在解约预测中放入“解约手续日期”项目。在生产环境中准确度无法实现。

参考链接

6.3AI 所需的数理・统计知识

AI 所需的数理・统计知识（平均值・中位数・众数、方差・标准差、相关系数・伪相关、正态分布・二项分布・泊松分布、条件概率、最大似然法、最小二乘法、假设检验、欧几里得距离・马氏距离・余弦相似度）

概念

代表值有平均值、中位数（不易受异常值影响）、众数，离散程度用方差和标准差表示。相关系数是两个变量线性关系的强度（−1〜1），相关不意味着因果，由第三因素造成的表面相关称为伪相关。概率分布有正态分布、二项分布（成功次数）、泊松分布（一定时间内的发生次数）。条件概率是贝叶斯定理的基础。最大似然法估计使数据出现概率最大的参数，最小二乘法使误差平方和最小。假设检验用 p 值判断能否拒绝原假设。距离有欧几里得距离、考虑分布离散程度的马氏距离、表示方向接近程度的余弦相似度。

原理、步骤

  1. 确认数据的分布与异常值后选择代表值
  2. 发现相关时，研究是因果还是伪相关
  3. 文本向量的相似度使用余弦相似度

工作中的示例

冰淇淋销量与溺水事故件数之间有相关，但这是两者都由气温引起的伪相关，并不是冰淇淋导致了事故。

易混淆点、考试注意事项

小测验

Q1. 数据显示「冰淇淋卖得多的日子，溺水事故也多」。对这一关系的解释，最合适的是哪项？

  1. 可能是由气温这一第三因素造成的伪相关
  2. 相关系数在 0.9 以上就可以判断存在因果关系
  3. 相关系数高，因此冰淇淋销量是溺水事故的原因
  4. 存在反向因果：溺水事故增加使冰淇淋销量增加
查看答案和解析

正确答案：A 可能是由气温这一第三因素造成的伪相关

例：冰淇淋销量与溺水事故都受气温影响而相关。排除其他变量影响的相关用偏相关系数来看。【其他选项】相关不等于因果。反向因果也没有依据。仅凭相关系数大小无法判断因果，应通过排除第三因素的偏相关等确认。

Q2. 关于最大似然法（最大似然估计）的说明，最合适的是哪项？

  1. 把数据中出现最多的值作为该数据代表值的方法
  2. 建立假设，根据数据以概率判断能否拒绝该假设的方法
  3. 使预测值与实测值之差的平方和最小来确定直线系数的方法
  4. 估计参数，使得到观测数据的概率（似然）最大的方法
查看答案和解析

正确答案：D 估计参数，使得到观测数据的概率（似然）最大的方法

【其他选项】平方和最小化是最小二乘法，出现最多的值是众数，拒绝假设是假设检验（原假设、备择假设）。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）