AIAI Agent Dev Labaiagentdev-lab.com
登录以保存学习记录登录
菜单

GAIL · LESSON 4

第 4 部分：使生成式 AI 解决方案成功的业务战略約15% · 3 个主题

学习推进生成式 AI 导入的方法、安全的 AI 以及负责任的 AI。

4.1推进生成式 AI 导入

推进生成式 AI 导入（解决方案的种类、影响需求的因素、选择合适的解决方案、融入组织的步骤、效果衡量）

概念

导入时，根据业务需求・数据・技术能力・预算・周期，选择解决方案的种类（开箱即用的产品・定制・自主开发）。融入组织按设定目标 → 小规模尝试 → 衡量效果 → 推广与落地（培训・变革管理）的顺序推进。效果用生产力・质量・顾客满意度・成本等 KPI 衡量。

原理、步骤

  1. 确定要解决的业务课题和 KPI
  2. 先确认开箱即用的产品是否足够
  3. 通过试点衡量效果，成功后推广
  4. 通过培训和内部推动者促进落地

工作中的示例

在全公司导入前，让销售部 50 人进行 2 个月的试点，衡量方案书制作时间的减少后再决定是否推广。

易混淆点、考试注意事项

小测验

Q1. 确定生成式 AI 用例优先顺序的方法，最合适的是哪项？

  1. 从使用经营层听说过的技术的用例开始
  2. 按影响大小和实现难易度评估并选择
  3. 必然从最难且无先例的用例开始
  4. 从无法衡量效果的用例开始
查看答案和解析

正确答案：B 按影响大小和实现难易度评估并选择

用早期成果（quick win）获得组织的理解与支持。

Q2. 在全公司引入了生成式 AI 工具，但 3 个月后使用率仍然很低。组织层面的举措，最合适的是哪项？

  1. 表明管理层的支持，并完善各部门的用例、培训和使用规则
  2. 改为功能更多的高级方案，以增加可用功能来促进使用
  3. 把预算集中到少数使用多的部门，停止向其他部门推广
  4. 把使用率作为各部门的考核指标，未达标的部门强制使用
查看答案和解析

正确答案：A 表明管理层的支持，并完善各部门的用例、培训和使用规则

不仅需要技术，还需要人和流程的变革。【其他选项】即使增加功能，不会用的话使用率也不会提高。强制使用容易流于形式，也无法衡量效果。停止推广没有分析和改进原因。

参考链接

4.2安全的 AI

安全的 AI（ML 整个生命周期的安全、SAIF、安全始于设计的基础设施、IAM、Security Command Center、工作负载监控）

概念

AI 安全要在整个 ML 生命周期（数据・训练・部署・运营）中考虑。Google 的 SAIF（Secure AI Framework）是保护 AI 系统的框架。组合使用安全始于设计的基础、基于 IAM 的最小权限、通过 Security Command Center 把握风险与威胁，以及工作负载监控。

原理、步骤

  1. 梳理数据・模型・应用各阶段的风险
  2. 用 IAM 把对 AI 资源的访问降到最小权限
  3. 用 Security Command Center 统一把握风险与威胁
  4. 应对提示攻击等 AI 特有的威胁

工作中的示例

在导入内部智能体时，从 SAIF 的角度评估风险，把智能体服务账号的权限限定为只读取所需数据。

易混淆点、考试注意事项

小测验

Q1. 计划用公司内部数据调整模型并作为智能体发布。覆盖 ML 整个生命周期的安全措施，最合适的组合是哪项？

  1. 过滤用户输入、检查输出、应用安全补丁
  2. 加密训练数据、管理训练作业执行者的权限、管理模型版本
  3. 加强发布端点的认证、加密通信、保存访问日志
  4. 防止训练数据投毒、训练环境的最小权限、发布后的提示注入对策
查看答案和解析

正确答案：D 防止训练数据投毒、训练环境的最小权限、发布后的提示注入对策

各阶段的风险不同。【其他选项】其他组合各自有效，但只偏重发布阶段、训练阶段或运维阶段。生命周期安全要保护数据、训练和发布后的各个阶段。

Q2. SAIF（Secure AI Framework）的目的，最合适的是哪项？

  1. 说明有效投放 AI 广告的方法
  2. 说明使 AI 使用费最便宜的签约方法
  3. 提出安全设计和运营 AI 系统的原则
  4. 说明使 AI 模型准确度最大化的训练方法
查看答案和解析

正确答案：C 提出安全设计和运营 AI 系统的原则

SAIF 由把坚实的安全基础扩展到 AI、扩展检测与响应、实现防御自动化等要素构成。

参考链接

4.3负责任的 AI

负责任的 AI（透明性、隐私、匿名化・假名化、数据质量・偏见・公平性、问责・可解释性）

概念

负责任的 AI 重视透明性（说明 AI 的使用与机制）、隐私（通过匿名化・假名化等保护数据）、数据质量与偏见・公平性、问责与可解释性。Google 的 AI 原则提出有益于社会、避免不公平的偏见、安全性、问责、隐私等。

原理、步骤

  1. 告知用户正在使用 AI 及其局限
  2. 个人信息匿名化・假名化后再使用
  3. 确认训练数据和输出中的偏差
  4. 建立能说明判断理由的机制并确定负责人

工作中的示例

在用 AI 总结应聘材料时，对应聘者的姓名和性别进行假名化，确认不同属性间摘要质量的差异，最终判断由人作出。

易混淆点、考试注意事项

小测验

Q1. 向管理层说明「安全的 AI」。最合适的说明是哪项？

  1. 利用 AI 检测网络威胁，并自动应对网络攻击
  2. 确保公平性和透明度，使 AI 输出无害并赢得社会信任
  3. 在整个生命周期中保护数据、模型、应用和基础设施免受攻击和滥用
  4. 在发布前对模型进行漏洞检查，只部署通过检查的模型
查看答案和解析

正确答案：C 在整个生命周期中保护数据、模型、应用和基础设施免受攻击和滥用

保护数据・模型・应用・基础设施的全部。【其他选项】第一项是负责任 AI，第二项是把 AI 用于安全，第三项只是发布前的一个环节。

Q2. 生成式 AI 中隐私风险的例子，最合适的是哪项？

  1. 输入的个人信息被意外保存・共享或出现在输出中
  2. 隐私风险只在图像生成中发生
  3. 生成式 AI 完全不能处理个人信息，因此没有风险
  4. 在提示中放入个人信息必然提高模型准确度
查看答案和解析

正确答案：A 输入的个人信息被意外保存・共享或出现在输出中

数据最小化、匿名化・假名化、访问管理、确认数据的处理方式。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）