AIAI Agent Dev Labaiagentdev-lab.com
登录以保存学习记录登录
菜单

AIF-C01 · LESSON 4

负责任 AI 准则14% · 2 个主题

学习负责任 AI 系统的开发，以及透明、可解释模型的重要性。

4.1开发负责任的 AI 系统

4.1 说明负责任 AI 系统的开发。

概念

负责任 AI 的维度有公平性（无偏差）、可解释性、隐私与安全、安全性、可控性、准确性与稳健性、治理和透明度。AWS 的工具包括 Bedrock 防护机制（有害内容、拒绝话题、个人信息过滤、上下文依据检查）、SageMaker Clarify（检测数据和模型的偏差）和 Amazon A2I（人工审核）。

原理、步骤

  1. 确认数据集是否存在偏差（多样性、代表性）
  2. 用 Clarify 测量训练前数据和训练后模型的偏差
  3. 用防护机制防止有害输出和个人信息泄露
  4. 置信度低的预测用 A2I 由人审核
  5. 也要考虑对环境的影响（模型大小、计算量）

工作中的示例

针对贷款审查模型，用 Clarify 测量各年龄段批准率的差异，重新审视偏差大的特征后再重新训练。

易混淆点、考试注意事项

小测验

Q1. 作为训练模型所用数据集的特点，从负责任 AI 的角度看最理想的是哪一项？

  1. 从互联网大量收集、但来源和内容都未经确认的数据
  2. 把过去包括有问题的判断在内的结果直接用作正确标签的数据
  3. 包含用户多样属性、各群体数量平衡且来源可靠的数据
  4. 只收集了容易获取的部分地区用户、数量很大但有偏差的数据
查看答案和解析

正确答案：C 包含用户多样属性、各群体数量平衡且来源可靠的数据

包容性、多样性、平衡和经过整理的来源，是建立偏差少的模型的基础。

Q2. 关于负责任 AI 的思路，错误的是哪一项？

  1. 发布后也要监控输出以发现问题
  2. 对影响大的判断加入人工确认
  3. 从开发初期就评估数据和模型的偏差以及安全风险
  4. 只要整体准确率高，就不需要确认各属性的公平性
查看答案和解析

正确答案：D 只要整体准确率高，就不需要确认各属性的公平性

即使整体准确率高，在特定群体上的性能也可能很低。公平性要按属性确认。

参考链接

4.2透明且可解释的模型

4.2 认识透明且可解释的模型的重要性。

概念

透明度是“公开模型如何构建、如何使用”，可解释性是“能够说明各个预测的理由”。简单模型（线性回归、决策树）易于解释，而深度学习性能高但难以解释，存在权衡。SageMaker Clarify 通过 SHAP 显示特征重要性，SageMaker Model Cards 记录模型的目的、训练数据、评估和风险。AWS AI Service Cards 说明 AWS AI 服务的用途和局限。

原理、步骤

  1. 确认可解释性的要求（法规、对客户的说明）
  2. 要求严格时，考虑易于解释的模型
  3. 用 Clarify 显示影响预测的特征
  4. 用 Model Cards 记录并共享模型信息
  5. 告知用户正在使用 AI 及其局限

工作中的示例

对于保险费率模型，在客户询问理由时，能够用 Clarify 的特征重要性说明“驾驶经历”“车型”的影响。

易混淆点、考试注意事项

小测验

Q1. 开源模型在透明度方面的优点，最恰当的是哪一项？

  1. 使用开源模型后，用户的责任就全部没有了
  2. 可以确认模型的权重、训练数据的信息和许可证，便于验证其内容
  3. 开源模型保证一定能达到最高的准确率
  4. 开源模型保证完全没有偏差和安全问题
查看答案和解析

正确答案：B 可以确认模型的权重、训练数据的信息和许可证，便于验证其内容

开源模型可以确认公开的信息，便于判断透明度。但偏差和安全性的评估仍需由用户进行。

Q2. 关于模型的可解释性与性能的关系，最恰当的是哪一项？

  1. 任何类型的模型都能同时使可解释性和准确率达到最高，所以无需按用途比较
  2. 越复杂的模型一定越容易解释，所以越需要说明的用途越要选择复杂的模型
  3. 易于解释的简单模型便于说明，但准确率有时低于复杂模型，要根据用途选择
  4. 可解释性与准确率完全无关，所以在任何用途中都不必考虑
查看答案和解析

正确答案：C 易于解释的简单模型便于说明，但准确率有时低于复杂模型，要根据用途选择

可解释性与性能之间存在权衡，要根据问责要求和所需性能来选择。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）