AIAI Agent Dev Labaiagentdev-lab.com
登录以保存学习记录登录
菜单

AIP-C01 · LESSON 3

AI 安全、安全防护与治理20% · 4 个主题

学习输入输出的安全控制、数据安全与隐私、AI 治理与合规，以及负责任 AI 原则的实施。

3.1输入与输出的安全控制

3.1 实现输入与输出的安全控制。

概念

Bedrock 护栏会对输入和输出应用内容过滤器（仇恨、侮辱、色情、暴力、不当行为、提示攻击）、拒绝主题、词语过滤器、敏感信息过滤器（阻止和屏蔽 PII）、上下文事实依据检查（通过确认依据和相关性来检测幻觉）以及自动推理检查（基于规则的逻辑验证）。也可以通过 ApplyGuardrail API 独立于模型调用使用。

原理、步骤

  1. 根据用例的风险，确定所需的过滤器及其强度
  2. 用提示攻击过滤器检测越狱和注入
  3. 定义拒绝主题（如投资建议）
  4. 在 RAG 中用事实依据检查阻止无依据的回答
  5. 用 ApplyGuardrail 把护栏应用于 Bedrock 以外模型的输入输出

工作中的示例

在保险咨询聊天中，把个别投资建议设为拒绝主题；回答偏离知识库依据时，用事实依据检查进行阻止。

易混淆点、考试注意事项

小测验

Q1. 希望验证人事规章问题的回答在逻辑上不与规章规则相矛盾。最合适的功能是哪项？

  1. 把回答字数限制得很短，不给矛盾留出余地
  2. 降低 temperature，从数学上完全保证回答不与规章规则矛盾
  3. 用 Guardrails 的自动推理检查，对照由规章规则生成的策略验证回答
  4. 把内容过滤器强度调到最大，阻止与规章矛盾的回答
查看答案和解析

正确答案：C 用 Guardrails 的自动推理检查，对照由规章规则生成的策略验证回答

自动推理检查用由文档生成的逻辑策略，对回答的正确性进行形式化验证。

Q2. 希望回答中不出现竞争对手公司的商品名以及公司内部不使用的词。最合适的设置是哪项？

  1. 把商品名逐字拆开，分别登记为不同的拒绝主题
  2. 在护栏的词语过滤器中登记要阻止的词语列表
  3. 把内容过滤器的仇恨类别调到最大来阻止这些词
  4. 在系统提示中列出商品名，让模型记住这些词
查看答案和解析

正确答案：B 在护栏的词语过滤器中登记要阻止的词语列表

词语过滤器会阻止包含指定词语或亵渎性词语的输入和输出。

参考链接

3.2数据安全与隐私控制

3.2 实现数据安全与隐私控制。

概念

在 Bedrock 中，提示和响应不会与模型提供方共享，也不会用于基础模型的训练。用户可以通过 KMS 客户托管密钥加密（自定义模型、知识库、代理）、VPC 终端节点、用 IAM 条件键限制模型使用、用 Macie 检测训练数据中的敏感信息，以及用护栏屏蔽 PII 来保护数据。

原理、步骤

  1. 对数据进行分类，确定可以处理的模型和区域
  2. 用 IAM 策略限定可用的模型
  3. 用客户托管密钥加密存储的数据
  4. 通过 VPC 终端节点调用，不经过互联网
  5. 检测并屏蔽 PII，也不留在日志中

工作中的示例

在客户咨询的摘要中，用护栏屏蔽电话号码和电子邮件地址，并用客户托管密钥加密自定义模型和知识库。

易混淆点、考试注意事项

小测验

Q1. 希望在把聊天文本转换为嵌入之前，实时检测并去除个人信息。最合适的服务是哪项？

  1. AWS Glue 爬网程序
  2. Amazon Rekognition 图像标签检测
  3. Amazon Comprehend 的 PII 检测
  4. Amazon Polly 语音合成
查看答案和解析

正确答案：C Amazon Comprehend 的 PII 检测

Amazon Comprehend 可以检测文本中 PII 的类型和位置。

Q2. 关于生成式 AI 数据保护与治理的说明，错误的是哪项？

  1. 通过接口 VPC 终端节点，可以不经过互联网调用 Bedrock
  2. 可以用 KMS 客户托管密钥加密自定义模型
  3. 可以用 CloudTrail 记录 Bedrock 的 API 操作
  4. 发送到 Bedrock 的提示默认会与模型提供方共享并用于训练
查看答案和解析

正确答案：D 发送到 Bedrock 的提示默认会与模型提供方共享并用于训练

Bedrock 不会与模型提供方共享提示和响应，也不会用于基础模型的训练。

参考链接

3.3AI 治理与合规机制

3.3 实现 AI 治理与合规机制。

概念

治理机制包括：模型调用日志（把提示和响应记录到 S3 或 CloudWatch Logs）、CloudTrail（记录 API 操作）、用 SCP 和 IAM 管控可用的模型、标签与成本分配、模型和提示的版本与审批管理，以及文档化（如 Model Cards）。

原理、步骤

  1. 启用模型调用日志，并确定保留期限
  2. 用 SCP 只允许组织批准的模型
  3. 管理提示和模型的版本，并记录变更审批
  4. 用标签按部门可视化使用情况和成本
  5. 定期审计，确认满足法规要求

工作中的示例

为满足审计要求，把模型调用日志在加密的 S3 中保存 1 年，并用 SCP 拒绝对未批准模型的 InvokeModel。

易混淆点、考试注意事项

小测验

Q1. 希望组织内所有账户都无法调用已批准模型以外的模型。最合适的方法是哪项？

  1. 每月检查一次模型调用日志，提醒违规者
  2. 在系统提示中请求不要使用未批准的模型
  3. 通过电子邮件向各账户用户发送已批准模型列表
  4. 用 AWS Organizations 的 SCP 拒绝对已批准模型以外的调用
查看答案和解析

正确答案：D 用 AWS Organizations 的 SCP 拒绝对已批准模型以外的调用

SCP 决定组织内所有账户可用权限的上限，可以按模型 ARN 设置条件进行拒绝。

Q2. 希望所有模型调用都必须使用指定的护栏，即使开发者忘记添加也能防止。最合适的方法是哪项？

  1. 用 IAM 条件键 bedrock:GuardrailIdentifier 拒绝没有指定护栏的调用
  2. 通过通用 SDK 封装在每次调用时附加护栏
  3. 检查 CloudTrail 日志，通知没有护栏的调用
  4. 把护栏 ID 共享给所有团队，并用手册说明附加方法
查看答案和解析

正确答案：A 用 IAM 条件键 bedrock:GuardrailIdentifier 拒绝没有指定护栏的调用

通过 IAM 条件键 bedrock:GuardrailIdentifier，可以只允许使用特定护栏的推理。【其他选项】不经封装直接调用就无法阻止。检查 CloudTrail 是事后检测。只共享和宣导无法防止遗漏。

参考链接

3.4实施负责任 AI 的原则

3.4 实施负责任 AI 的原则。

概念

通过评估（偏差和有害性测试）、护栏、人工确认、向用户披露以及持续监控，来落实 AWS 负责任 AI 的各个维度（公平性、可解释性、隐私与安全、安全性、可控性、真实性与稳健性、治理、透明度）。

原理、步骤

  1. 梳理用例的风险和受影响的人
  2. 评估不同属性之间的质量差异和有害输出
  3. 用护栏和人工确认降低风险
  4. 向用户披露 AI 的使用及其局限
  5. 监控生产中的投诉和反馈并加以改进

工作中的示例

在招聘材料的摘要中，评估摘要质量是否会因应聘者的属性而变化，并明确说明最终判断必须由人做出。

易混淆点、考试注意事项

小测验

Q1. 希望提高面向外部客户的聊天的透明度。最合适的做法是哪项？

  1. 表明回答由 AI 生成，并显示依据资料以及转接人工客服的方法
  2. 不允许转接人工客服，全部只由 AI 应对
  3. 回答的依据属于公司机密，即使有可引用的资料也一概不向用户展示
  4. 隐瞒由 AI 回答的事实，让它看起来像人工客服在回答
查看答案和解析

正确答案：A 表明回答由 AI 生成，并显示依据资料以及转接人工客服的方法

为了透明，应表明是 AI、展示依据，并保留向人咨询的途径。

Q2. 在汇总招聘材料的助手中，希望确认摘要内容是否会因应聘者的性别或年龄而改变。最合适的方法是哪项？

  1. 用只改变属性的输入对比较输出，把差异作为评估指标持续记录
  2. 从输入中删除性别和年龄列后再摘要，在发布前评估
  3. 由开发者对比阅读代表性简历，没有偏向就判定公平
  4. 把歧视性表达登记为护栏的拒绝主题
查看答案和解析

正确答案：A 用只改变属性的输入对比较输出，把差异作为评估指标持续记录

用只改变属性的输入组比较输出，更容易发现偏差。评估要持续进行。【其他选项】删除属性后仍可能从姓名等推测出来，而且没有持续评估。护栏能阻止有害表达，但不衡量摘要内容的差异。少量人工阅读无法复现。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）