PMLE · LESSON 2
第 2 部分：在团队内外协作管理数据与模型約16% · 3 个主题
学习数据的探索与预处理、在笔记本中进行原型开发，以及实验跟踪。
2.1数据的探索与预处理
数据的探索与预处理（表格・文本・图像，BigQuery・Dataflow・Spark・内存中 Python 的选用，Feature Store，PII 的保护）
概念
根据数据的规模和类型选择处理平台。大规模表格数据的 SQL 处理用 BigQuery，大规模批量・流式转换用 Dataflow（Apache Beam），已有 Spark 资产就用 Dataproc，小数据用内存中的 Python（pandas）就足够。特征用 Feature Store 统一管理，在在线推理和离线训练之间共享。PII 用 Sensitive Data Protection（原 DLP API）检测和遮蔽。
原理、步骤
- 根据数据量和处理类型（SQL・流式・Spark）选择平台
- 把训练和推理共用的特征登记到 Feature Store
- 检测 PII 并进行遮蔽或假名化
- 确认缺失值・异常值・不平衡并进行预处理
工作中的示例
用 Dataflow 实时汇总点击流并写入 Feature Store，推荐模型在推理时读取最新的特征。
易混淆点、考试注意事项
- 对小数据使用分布式处理平台是过度配置
- Dataflow 可以同时处理批量和流式
- 包含 PII 的数据要在训练前加以保护
小测验
Q1. 使用 Feature Store 的优点，最合适的是哪项？
- 可复用特征，并在训练和服务中使用相同的值
- 自动把训练的损失函数改写为最优
- 自动删除训练数据中的全部 PII 实现匿名化
- 自动把笔记本代码转换为生产流水线
查看答案和解析
正确答案：A 可复用特征，并在训练和服务中使用相同的值
以 BigQuery 作为离线存储，并通过在线服务以低延迟获取。
Q2. 把表格・文本・图像数据整理为训练用的方法，最合适的是哪项？
- 所有数据只保存在笔记本的本地磁盘上
- 把文本打印保管，训练时再手工重新录入
- 表格放在 BigQuery，图像和大文件放在 Cloud Storage
- 把图像全部以 Base64 嵌入 BigQuery 的字符串列中保存
查看答案和解析
正确答案：C 表格放在 BigQuery，图像和大文件放在 Cloud Storage
选择适合格式的存储位置。也会在 BigQuery 中管理图像路径及附带信息。
参考链接
2.2在笔记本中进行原型开发
在笔记本中进行原型开发（Agent Platform Workbench、Colab Enterprise、安全与协作、PyTorch・scikit-learn・JAX、Model Garden 的模型）
概念
Agent Platform Workbench 是托管的 Jupyter 环境，Colab Enterprise 是便于协作的托管笔记本。两者都可以用 IAM・VPC Service Controls・客户管理的加密密钥等确保安全，并可使用 PyTorch・TensorFlow・scikit-learn・JAX 等框架或 Model Garden 的模型进行原型开发。
原理、步骤
- 根据团队的工作方式选择 Workbench 或 Colab Enterprise
- 用服务账号和 IAM 限定笔记本可访问的数据
- 用空闲时自动关机控制成本
- 整理原型代码，以便日后迁移到流水线
工作中的示例
数据科学家在 Colab Enterprise 中读取 BigQuery 的数据，用 scikit-learn 制作模型原型，并与团队共享笔记本。
易混淆点、考试注意事项
- 笔记本用于原型开发，可复现的生产处理要放进流水线
- 不要把认证信息写进笔记本
- 使用 GPU 时不要忘记停止实例
小测验
Q1. 笔记本环境安全的最佳实践，最合适的是哪项？
- 分配公共 IP，让任何人都能访问以便协作
- 使用最小权限的服务账号，并用 VPC Service Controls 和 CMEK 保护
- 把服务账号密钥文件粘贴到笔记本中共享
- 所有人共用同一个管理员权限账号使用笔记本
查看答案和解析
正确答案：B 使用最小权限的服务账号，并用 VPC Service Controls 和 CMEK 保护
避免共享密钥文件，用用户身份或最小权限的服务账号认证。
Q2. 在 Workbench 中开发 PyTorch 模型的方法，最合适的是哪项？
- 无法使用 PyTorch，因此必须改写为 BigQuery ML 的 SQL
- 笔记本中无法训练，因此先在纸上计算再录入
- PyTorch 模型必须从 AutoML 的界面创建
- 使用含 PyTorch 的镜像，必要时分配 GPU
查看答案和解析
正确答案：D 使用含 PyTorch 的镜像，必要时分配 GPU
Workbench 和 Colab Enterprise 支持 PyTorch・scikit-learn・JAX 等。
参考链接
2.3实验跟踪
实验跟踪（Experiments、Pipelines、Kubeflow Pipelines、预测模型与生成式 AI 的评估・LLM-as-a-judge、用 ML Metadata 跟踪谱系）
概念
Agent Platform Experiments 可以记录并比较每次实验运行的参数・指标・成果物。与 Pipelines（Kubeflow Pipelines 格式）的运行结合，用 ML Metadata 跟踪数据・模型・运行的谱系（lineage）。生成式 AI 的评估使用评估服务和以 LLM 为评审的评估（LLM-as-a-judge）来衡量质量。
原理、步骤
- 每次实验都记录参数和指标
- 为能复现好的结果，也记录数据和代码的版本
- 用 ML Metadata 跟踪哪些数据生成了哪个模型
- 生成式 AI 用评估数据集和 LLM-as-a-judge 进行比较
工作中的示例
在 Experiments 中比较改变学习率和树深度的 20 次运行，用 ML Metadata 确认最佳运行的模型谱系后进行登记。
易混淆点、考试注意事项
- 不记录的实验无法复现和比较
- 谱系跟踪有助于审计和问题原因调查
- LLM-as-a-judge 的评估也要用人工评估确认其合理性
小测验
Q1. 使用 LLM-as-a-judge 时的注意事项，最合适的是哪项？
- 评估者 LLM 可能有偏差，因此要对照人工评估进行校准
- 评估者 LLM 总比人更准确，因此完全不需要人工评估
- 评估的 LLM 与被评估的 LLM 必须是同一个模型
- 不给出评估标准，让评估者 LLM 自由打分更好
查看答案和解析
正确答案：A 评估者 LLM 可能有偏差，因此要对照人工评估进行校准
明确标准（评分细则），并确认与人工评估的一致性。
Q2. 把 Agent Platform Pipelines 用作实验环境的场景，最合适的是哪项？
- 希望由人工负责人逐条给模型输出打分
- 为了试一行代码，希望立即交互式运行
- 希望可复现地执行从预处理到评估的全过程
- 希望共同在笔记本中写评论
查看答案和解析
正确答案：C 希望可复现地执行从预处理到评估的全过程
流水线用于可复现与自动化，交互式试验用笔记本。
参考链接
课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。
使用须知（非官方、原创题目、不保证合格）
- 本站题目是根据官方公开的技能大纲和考试指南独立编写的原创练习题，并非真实考试题目。
- Google Cloud、Gemini、Vertex AI、Google Workspace 是 Google LLC 的商标。本站与 Google 无合作关系，也未获得 Google 的认可或推荐。
- 本内容仅为学习辅助，不保证考试合格。考试内容、形式和前提条件可能随时变更，参加考试前请务必在官方页面确认最新信息。
- 模拟考试的正确率无法换算为官方（换算）分数，也不能预测是否合格。
- 进度仅保存在本浏览器（localStorage）中；使用 Google 登录后才会同步到账号。可在“Cookie 与存储设置”页面（日语）中删除。