AIF-C01 · LESSON 5

AI 解决方案的安全性、合规性和治理14% · 2 个主题

学习保护 AI 系统的方法，以及 AI 系统的治理与合规。

5.1保护 AI 系统

5.1 说明保护 AI 系统的方法。

概念

AI 系统的保护通过以下方式实现：用 IAM 实现最小权限、加密（KMS：静态，TLS：传输中）、网络隔离（通过 VPC 终端节点/PrivateLink 私有连接 Bedrock）、数据保护（用 Macie 检测敏感数据、管理训练数据的来源）以及日志（CloudTrail、模型调用日志）。生成式 AI 特有的威胁包括提示注入、数据投毒和模型窃取。

原理、步骤

用 IAM 把对 Bedrock 和模型的访问降到最低
通过 VPC 接口终端节点，不经过互联网调用 Bedrock
用 KMS 加密训练数据和提示数据
用 Macie 确认 S3 中的训练数据是否含有个人信息
用防护机制和日志检测并防止提示攻击

工作中的示例

从公司内部应用通过 VPC 终端节点调用 Bedrock，把调用日志保存到 S3，审计是否存在异常使用。

易混淆点、考试注意事项

在 Bedrock 中，提示和输出不会与模型提供商共享，也不会用于训练
责任共担模型同样适用于 AI 服务（数据和访问由用户管理）
数据投毒是在训练数据中混入恶意数据的攻击

小测验

Q1. 关于生成式 AI 应用的责任共担模型，不属于用户责任的是哪一项？

为 Bedrock 底层服务器的操作系统应用安全更新
决定应用所处理数据的分类和保护方法
为应用的输入和输出设置防护机制等安全对策
管理可以调用模型的 IAM 权限

查看答案和解析

正确答案：A 为 Bedrock 底层服务器的操作系统应用安全更新

Bedrock 的底层基础设施由 AWS 管理。用户负责权限、数据和应用设置。

Q2. Amazon Macie 在计划用于训练的 S3 存储桶中发现了包含客户姓名和电话号码的文件。接下来最恰当的做法是哪一项？

不记录这一发现，按计划直接用原数据开始训练
去除或屏蔽相关数据，在确认使用目的和权限后再用于训练
为了以后不再出现 Macie 的检测结果，禁用 Macie 的设置
把存储桶公开为任何人可读，让很多人确认内容

查看答案和解析

正确答案：B 去除或屏蔽相关数据，在确认使用目的和权限后再用于训练

发现敏感数据后，要在训练前进行去除或屏蔽，并确认使用目的、同意和权限。

参考链接

5.2AI 系统的治理与合规

5.2 认识 AI 系统的治理和合规法规。

概念

AI 治理包括制定政策、管理数据生命周期（保留、删除、来源）、监控与审计，以及应对法规（ISO/IEC 42001 等标准和各国法规）。AWS 的工具有 AWS Artifact（合规报告）、AWS Audit Manager（收集审计证据）、AWS Config（评估配置）、CloudTrail（记录操作）和 Trusted Advisor。生成式 AI 安全范围矩阵按使用形态（面向消费者的应用到自有模型）整理责任范围。

原理、步骤

制定 AI 使用政策（可使用的数据、用途、审批）
确定数据来源、保留和删除的规则
用 Audit Manager 自动收集审计证据
用 Config 和 CloudTrail 记录配置和操作
定期审查，并随法规变化进行更新

工作中的示例

为应对审计，用 Audit Manager 自动收集有关生成式 AI 使用的控制措施的证据，并从 Artifact 获取 AWS 方面的认证报告。

易混淆点、考试注意事项

Artifact 用于获取报告，Audit Manager 用于收集本公司的审计证据
在范围矩阵中，越是自行训练模型，责任范围越广
治理不仅在引入时，在运营期间也要持续进行

小测验

Q1. 使用生成式 AI 安全范围矩阵的目的，最恰当的是哪一项？

作为缩短模型训练时间的 GPU 分配计划使用
作为向 AWS 申请按使用形态自动打折生成式 AI 模型价格的申请书使用
作为按分数排名哪个基础模型回答最准确的基准使用
根据使用形态（只使用应用、还是调整模型等）整理所需的安全对策

查看答案和解析

正确答案：D 根据使用形态（只使用应用、还是调整模型等）整理所需的安全对策

范围矩阵是对生成式 AI 的使用范围进行分类，并按范围整理治理、法律、风险管理、控制和弹性方面考虑事项的框架。

Q2. 启用 Amazon Bedrock 模型调用日志后，可以设置为日志发送目标的是哪一项？

Amazon CloudWatch Logs 或 Amazon S3
Amazon Polly 的语音文件
AWS Artifact 的报告
Amazon Translate 的术语表

查看答案和解析

正确答案：A Amazon CloudWatch Logs 或 Amazon S3

模型调用日志可以发送到 CloudWatch Logs 或 S3。要控制访问，并确定保留期限。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）

本站题目是根据官方公开的技能大纲和考试指南独立编写的原创练习题，并非真实考试题目。
Amazon Web Services、AWS 及相关标志是 Amazon.com, Inc. 或其关联公司的商标。本站与 AWS 无合作关系，也未获得 AWS 的认可或推荐。
本内容仅为学习辅助，不保证考试合格。考试内容、形式和前提条件可能随时变更，参加考试前请务必在官方页面确认最新信息。
模拟考试的正确率无法换算为官方（换算）分数，也不能预测是否合格。
进度仅保存在本浏览器（localStorage）中；使用 Google 登录后才会同步到账号。可在“Cookie 与存储设置”页面（日语）中删除。