AIAI Agent Dev Labaiagentdev-lab.com
登录以保存学习记录登录
菜单

PMLE · LESSON 3

第 3 部分：把原型扩展为 ML 模型約21% · 3 个主题

学习兼顾成本・复杂度・延迟的模型构建、模型训练，以及训练硬件与分布式训练。

3.1考虑要求构建模型

考虑成本・复杂度・延迟・可扩展性构建模型（ARIMA・DNN・LLM，AutoML・BigQuery ML・Pipelines，部署策略，可解释性要求）

概念

模型要根据要求（准确度・延迟・成本・可解释性・可扩展性）来选择。时间序列可选 ARIMA 等统计模型，复杂的非结构化数据可选 DNN，多样的语言任务可选 LLM。开发手段按省力程度依次为 BigQuery ML・AutoML、灵活的自定义训练、用 Pipelines 实现自动化。若因法规等需要说明判断依据，就使用易于解释的模型或 Explainable AI。

原理、步骤

  1. 确定各项要求（准确度・速度・成本・说明）的优先级
  2. 先用简单模型或 BigQuery ML・AutoML 建立基准
  3. 必要时再转向自定义 DNN 或 LLM
  4. 有可解释性要求时，确认模型类型和解释手段

工作中的示例

信贷审查必须提供说明，因此先构建易于解释的提升树，并确认可用 Explainable AI 展示特征贡献。

易混淆点、考试注意事项

小测验

Q1. 在法规强烈要求可解释性的授信模型中，首先应考虑的方法，最合适的是哪项？

  1. 不需要解释，只向顾客通知预测结果
  2. 选择易于解释的模型，并用 Explainable AI 给出理由
  3. 让 LLM 自由撰写理由，直接发送给顾客
  4. 选择准确度最高的深层网络，省略理由说明
查看答案和解析

正确答案：B 选择易于解释的模型，并用 Explainable AI 给出理由

线性模型・决策树，或特征归因。

Q2. 不应考虑微调的情况，最合适的是哪项？

  1. 提示变得过长，希望降低成本和延迟
  2. 希望在回答中反映每天变化的库存信息
  3. 希望让模型一致地掌握公司内部的专业文风
  4. 希望提高有大量示例的专业分类任务的准确度
查看答案和解析

正确答案：B 希望在回答中反映每天变化的库存信息

频繁变化的事实用 RAG 或工具处理。

参考链接

3.2模型训练

模型训练（整理 Cloud Storage・BigQuery 中的数据、导入、自定义训练・GKE 上的 Kubeflow・AutoML・Tabular Workflows、处理训练失败、超参数调优、基础模型微调）

概念

训练数据整理到 Cloud Storage（文件：TFRecord・图像等）或 BigQuery（表）中。训练方法包括使用自有容器或脚本的自定义训练、GKE 上的 Kubeflow、AutoML，以及面向表格数据的 Tabular Workflows。通过超参数调优（如使用 Vizier 的贝叶斯优化）寻找最佳设置，并通过日志调查训练失败（内存不足・数据不一致・发散）的原因。基础模型可以通过监督式调优等进行调整。

原理、步骤

  1. 使数据格式和存储位置与训练方法相匹配
  2. 预构建容器不够用时使用自定义容器
  3. 用超参数调优作业进行搜索
  4. 保存检查点，以便从失败或中断中恢复

工作中的示例

用预构建的 PyTorch 容器对图像分类进行自定义训练，并用调优作业搜索学习率和批大小。

易混淆点、考试注意事项

小测验

Q1. 在超参数调优中使用 Vizier 的优点，最合适的是哪项？

  1. 自动增加训练数据并重新打标签
  2. 手工逐个设置模型参数（权重）
  3. 用贝叶斯优化等以较少的试验找到好的组合
  4. 必然穷举所有组合，使计算量最大化
查看答案和解析

正确答案：C 用贝叶斯优化等以较少的试验找到好的组合

Agent Platform 的超参数调优使用 Vizier。

Q2. 要用 BigQuery 中数亿行数据运行自定义训练作业。最合适的读取方式是哪项？

  1. 从训练作业中直接高效读取，例如使用 BigQuery Storage Read API
  2. 把结果导出到 Cloud Storage 为单个 CSV 并读取
  3. 把数据迁移到 Cloud SQL 并通过 JDBC 读取
  4. 在作业中用 BigQuery REST 的 tabledata.list 分页读取
查看答案和解析

正确答案：A 从训练作业中直接高效读取，例如使用 BigQuery Storage Read API

也可以把 BigQuery 指定为数据集。【其他选项】单个 CSV 太大无法并行读取。tabledata.list 批量读取很慢。迁移到 Cloud SQL 费时费钱。

参考链接

3.3训练硬件与分布式训练

训练硬件（CPU・GPU・TPU，数据并行・模型并行的分布式训练）

概念

CPU 通用，适合小模型；GPU 以并行运算适用于深度学习全般；TPU 是 Google 开发的专门用于矩阵运算的加速器，适合大规模矩阵运算较多的模型（TensorFlow・JAX・PyTorch/XLA）。分布式训练包括把数据分开、在多个设备上训练同一模型的数据并行，以及拆分放不进一个设备的大模型的模型并行。

原理、步骤

  1. 根据模型大小和框架选择硬件
  2. 数据量大且希望加快训练时使用数据并行
  3. 模型放不进单个设备的内存时使用模型并行
  4. 监控利用率，避免使用过大的硬件

工作中的示例

微调大规模语言模型时，模型放不进一块 GPU，因此用模型并行拆分到多块 GPU 上。

易混淆点、考试注意事项

小测验

Q1. 关于数据并行分布式训练的说明，最合适的是哪项？

  1. 各工作节点处理不同的数据，并汇总梯度
  2. 训练在一台机器上进行，只把推理分散到多台
  3. 各工作节点用不同的模型训练同样的数据，选出最好的
  4. 把模型的层拆分并放到不同的设备上
查看答案和解析

正确答案：A 各工作节点处理不同的数据，并汇总梯度

若模型能放进一台设备，数据并行是基本方式。

Q2. 想在有限的 GPU 预算下让大型语言模型适应内部术语。LoRA 等参数高效调优的主要优势是哪项？

  1. 重新训练所有权重，因此更易提高精度
  2. 调优后的模型推理时不再需要原模型权重
  3. 即使没有训练数据也能使模型专业化
  4. 只训练少量新增参数，节省计算和存储
查看答案和解析

正确答案：D 只训练少量新增参数，节省计算和存储

只训练适配器（小权重）。【其他选项】训练仍需要数据。LoRA 适配器需与原模型权重配合使用。重新训练全部权重是完整微调。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）