AIP-C01 · LESSON 2

实现与集成26% · 5 个主题

学习代理式 AI 与工具集成、模型部署策略、企业集成、FM API 集成,以及应用集成模式与开发工具。

2.1代理式 AI 与工具集成

2.1 实现代理式 AI 解决方案和工具集成。

概念

代理是由模型制定计划、调用工具、查看结果并决定下一步的机制。Amazon Bedrock AgentCore 是让任意框架(Strands Agents、LangGraph 等)构建的代理在生产中运行的基础,提供 Runtime(执行)、Gateway(把 API 和 Lambda 转换为 MCP 工具)、Memory(短期和长期记忆)、Identity(认证)和 Observability。Bedrock 代理(托管)则由操作组和知识库构成。

原理、步骤

  1. 确定代理的目的和可以使用的工具范围
  2. 用 AgentCore Gateway 把现有 API 和 Lambda 作为 MCP 工具公开
  3. 把跨对话的信息保存在 AgentCore Memory 中
  4. 对影响较大的操作加入人工审批(human-in-the-loop)
  5. 在跟踪中确认工具调用的路径

工作中的示例

用 Strands Agents 构建公司内部的报销代理,在 AgentCore Runtime 上运行,用 Gateway 把报销系统的 API 做成 MCP 工具,并通过 Identity 继承用户的权限。

易混淆点、考试注意事项

小测验

Q1. 关于 ReAct 型代理的运作方式,最合适的说明是哪项?

  1. 不论问题如何,都按固定顺序把所有工具各调用一次,拼接结果后返回
  2. 开始时只生成一次回答,不使用工具直接返回给用户
  3. 每次让用户选择使用哪个工具,并按照指示行动
  4. 重复思考 → 使用工具 → 观察结果,达成目标后再回答
查看答案和解析

正确答案:D 重复思考 → 使用工具 → 观察结果,达成目标后再回答

ReAct 交替进行推理(Reason)和行动(Act),观察工具的结果来决定下一步行动。

Q2. 正在定义代理的工具。为了让模型正确选择工具,最重要的是哪项?

  1. 准备尽可能多名称和功能相似的工具,让模型从中选择
  2. 不规定工具的输入格式,接受任何字符串
  3. 明确工具的名称和说明,并用输入的 JSON Schema 说明参数的含义和类型
  4. 工具名称只用简短的编号,不写说明,让模型猜测
查看答案和解析

正确答案:C 明确工具的名称和说明,并用输入的 JSON Schema 说明参数的含义和类型

模型根据工具的名称、说明和架构进行选择。清晰的说明和架构有助于正确的选择和参数。

参考链接

2.2模型部署策略

2.2 实施模型部署策略。

概念

Bedrock 的推理选项有:按需(按令牌计费)、批量推理(适合大量异步处理,价格便宜)、预置吞吐量(以模型单元预留容量,自定义模型往往需要)以及跨区域推理。智能提示路由会根据问题难度,在模型系列内的大小模型之间分配,以降低成本。也可以选择在 SageMaker AI 上自行托管。

原理、步骤

  1. 确认流量的规模、模式和即时性要求
  2. 波动的对话用按需,夜间批量处理用批量推理
  3. 稳定的大量使用或自定义模型用预置吞吐量
  4. 简单问题较多时用智能提示路由
  5. 需要自有模型或精细控制时用 SageMaker AI

工作中的示例

把每晚 100 万条商品说明的生成改为批量推理,使其比按需更便宜;白天的聊天则用提示路由把简单问题交给小模型。

易混淆点、考试注意事项

小测验

Q1. 关于 Bedrock 的预置吞吐量,错误的说法是哪项?

  1. 只对使用的令牌计费,不使用的时间不收费
  2. 购买模型单元以确保固定的处理量
  3. 合约期越长(如 1 个月或 6 个月),每小时费用的折扣越大
  4. 有时可用于自定义模型的推理
查看答案和解析

正确答案:A 只对使用的令牌计费,不使用的时间不收费

预置吞吐量按购买的模型单元每小时计费,即使不使用也会产生费用。

Q2. 高峰时段按需 Bedrock 的限流增多,正在考虑购买预置吞吐量。接下来最合适的做法是哪项?

  1. 不调查限流原因,只大幅增加应用的重试次数
  2. 不测量所需量,以最长期限购买尽可能多的模型单元
  3. 全面禁止高峰时段使用,引导用户在不拥挤的深夜或清晨使用
  4. 用 CloudWatch 测量高峰时每分钟的令牌量,估算所需的模型单元数
查看答案和解析

正确答案:D 用 CloudWatch 测量高峰时每分钟的令牌量,估算所需的模型单元数

预置吞吐量要根据所需令牌量估算容量后购买。也要比较跨区域推理和提高配额。

参考链接

2.3企业集成架构

2.3 设计并实现企业集成架构。

概念

与企业系统集成时,组合使用 API Gateway(认证、限流)、EventBridge(事件驱动)、SQS(异步、削峰)和 Step Functions(工作流),把生成式 AI 与现有业务系统(ERP、CRM)及数据平台连接起来。认证使用 IAM、Cognito 或公司内部的 IdP,网络通过 VPC 终端节点(PrivateLink)实现私有化。

原理、步骤

  1. 确定调用生成式 AI 的业务流程(同步还是异步)
  2. 用 API Gateway 进行认证和限流
  3. 耗时的处理用 SQS 或 Step Functions 异步化
  4. 用 EventBridge 接收业务系统的事件并启动处理
  5. 通过 VPC 终端节点私有地调用 Bedrock

工作中的示例

在 CRM 中创建咨询后,EventBridge 事件会启动 Step Functions,用 Bedrock 生成摘要和分类并写回 CRM。

易混淆点、考试注意事项

小测验

Q1. 大部分步骤是固定的,但希望在部分阶段使用 FM 的判断(摘要或分类),并可靠地控制整体流程。最合适的架构是哪项?

  1. 向 Bedrock 智能体说明步骤,由它决定工具调用顺序
  2. 依次调用 Lambda 函数,在每个函数中直接调用下一个
  3. 用 Step Functions 定义流程,在需要的步骤使用 Bedrock 调用集成
  4. 在 Bedrock 提示流中用 FM 节点处理所有步骤
查看答案和解析

正确答案:C 用 Step Functions 定义流程,在需要的步骤使用 Bedrock 调用集成

Step Functions 可以直接集成 Bedrock 调用,在固定流程中使用 FM 的判断。【其他选项】智能体由模型决定顺序,难以可靠控制流程。全部用 FM 节点连固定处理也依赖 FM。Lambda 直接互相调用难以处理重试和状态。

Q2. 希望从本地的工作流系统不经过互联网调用助手的 API。最合适的架构是哪项?

  1. 经 Direct Connect 或 VPN,通过 VPC 端点调用 API Gateway 私有 API
  2. 给 API Gateway 区域 API 加上限制 IP 地址的资源策略
  3. 把 API 放在 CloudFront 后面,用 AWS WAF 限制访问
  4. 创建 Lambda 函数 URL,用 IAM 认证限制调用方
查看答案和解析

正确答案:A 经 Direct Connect 或 VPN,通过 VPC 端点调用 API Gateway 私有 API

API Gateway 的私有 API 只能通过 VPC 终端节点调用。从本地通过 Direct Connect 或 VPN 连接。【其他选项】区域 API、CloudFront 和函数 URL 都走互联网路径。即使加了限制,也不符合不经过互联网的要求。

参考链接

2.4FM API 集成

2.4 实现 FM API 集成。

概念

Bedrock 的 API 包括 InvokeModel(模型特定格式)、Converse(统一格式、工具使用)和流式(InvokeModelWithResponseStream、ConverseStream)。对限流(ThrottlingException)使用指数退避重试,对长响应使用流式,要固定输出格式则使用工具使用(JSON 模式)。

原理、步骤

  1. 用 Converse API 实现,为切换模型做准备
  2. 重视体感速度时,用流式返回响应
  3. 调整 SDK 的重试设置(指数退避)
  4. 通过工具定义(JSON 模式)获得结构化输出
  5. 按错误代码(429、400、500)分别处理

工作中的示例

在聊天 UI 中使用 ConverseStream,在 1 秒内显示首个令牌,并对 ThrottlingException 使用带抖动的指数退避重试。

易混淆点、考试注意事项

小测验

Q1. 代理的工具调用外部 API。希望即使 API 缓慢或失败,代理也能稳定运行。最合适的实现是哪项?

  1. 设置超时和重试,把失败作为结构化错误返回给模型,让其判断下一步行动
  2. 在 API 成功之前,没有等待也没有超时地无限重复相同调用
  3. API 失败时隐藏错误,向模型返回“成功”的结果
  4. 忽略所有 API 失败,立即结束整个代理处理
查看答案和解析

正确答案:A 设置超时和重试,把失败作为结构化错误返回给模型,让其判断下一步行动

在工具中加入超时、重试和错误处理,并把失败明确告知模型,模型就能选择替代步骤。

Q2. 希望公司所有 AWS 账户只能使用特定的获批模型。最合适的方法是哪项?

  1. 用 IAM Identity Center 权限集给各团队的角色授权
  2. 在各账户的 Bedrock 模型访问中只启用已批准的模型
  3. 用 Organizations 的 SCP 拒绝对已批准模型 ARN 以外的 InvokeModel
  4. 用 AWS Config 规则检测并通知未批准模型的使用
查看答案和解析

正确答案:C 用 Organizations 的 SCP 拒绝对已批准模型 ARN 以外的 InvokeModel

可以通过 SCP 或 IAM 策略以模型 ARN 为条件限制调用。组织整体的管控适合用 SCP。【其他选项】各账户的模型访问设置可由该账户管理员更改。Config 只检测,不阻止调用。权限集只对通过 Identity Center 的用户有效。

参考链接

2.5应用集成模式与开发工具

2.5 实现应用集成模式与开发工具。

概念

生成式 AI 应用的开发会用到 AWS SDK、Strands Agents 等代理框架、Amazon Q Developer(编码辅助)、Bedrock 提示流(无代码工作流)、Amplify(前端)等。缓存、异步处理、回退(切换到其他模型)等集成模式也很重要。

原理、步骤

  1. 选择适合用途的开发工具和框架
  2. 缓存对相同问题的响应
  3. 为模型故障和限流准备回退方案
  4. 用 IaC(CDK、CloudFormation)让环境可复现
  5. 把提示和评估纳入 CI/CD

工作中的示例

把 FAQ 常见问题的响应缓存到 ElastiCache 中,主模型被限流时回退到其他模型。

易混淆点、考试注意事项

小测验

Q1. 希望在自己的应用中而不是 Lambda 中执行 Bedrock Agents 的操作(为了调用公司内网中的系统)。最合适的方法是哪项?

  1. 把公司内部系统公开到互联网,让代理可以自由调用
  2. 使用 return of control,把代理决定的操作和参数返回给应用执行
  3. 不再使用操作,让代理推测公司内部系统的信息
  4. 把操作处理全部写在提示中,让模型不受权限限制直接操作公司内部系统
查看答案和解析

正确答案:B 使用 return of control,把代理决定的操作和参数返回给应用执行

使用 return of control 时,代理把选择的操作和参数返回给应用,由应用执行并返回结果。

Q2. 希望在现有的订单应用中加入“订单备注摘要”功能,但不改变应用的响应速度。最合适的集成方式是哪项?

  1. 把摘要功能做成另一个应用,让负责人每次手动复制粘贴订单内容
  2. 在订单保存事件上异步运行摘要处理(如 Lambda),稍后在界面上显示生成的摘要
  3. 在订单保存处理中同步调用 FM,让保存等到摘要完成
  4. 不保存订单备注,每次让 FM 想象备注内容并摘要
查看答案和解析

正确答案:B 在订单保存事件上异步运行摘要处理(如 Lambda),稍后在界面上显示生成的摘要

为了不拖慢主要处理的响应,生成式 AI 的处理通过事件异步运行。

参考链接

课程由本站根据公开信息独立编写,不保证与考试内容一致。产品规格可能变化,请在参考链接中确认最新信息。

使用须知(非官方、原创题目、不保证合格)