基础模型集成、数据管理与合规
Foundation Model Integration, Data Management, and Compliance
学习目标
- 能够根据业务要求和约束选择 FM、集成模式和部署方式，在 Bedrock 上制作 PoC，并按照 Well-Architected 生成式 AI 透镜统一设计
- 能够通过基准测试和评估选择 FM，设计无需修改代码即可切换模型或提供商的配置（AppConfig、Lambda、API Gateway），以及利用跨区域推理和断路器实现弹性
- 能够构建传给 FM 的数据的验证与处理（Glue Data Quality、多模态、对话格式），并设计向量存储（OpenSearch、Aurora pgvector、S3 Vectors、Bedrock 知识库）及元数据与更新机制
- 能够通过分块、嵌入、混合搜索、重排序和查询扩展设计检索，并用提示管理、模板、防护机制和提示流管控提示
要点
- 设计方法：先确定要求（质量、延迟、费用、数据所在地、法规），用小型 PoC 评估 Bedrock 的多个模型后再进入生产设计。将通用组件（提示模板、防护机制、日志）标准化。
- 切换模型：不要把模型 ID 和参数写死在代码中，而是用 AWS AppConfig 等配置管理。Converse API 可以用通用格式调用不同模型。
- 弹性：用跨区域推理应对区域容量不足和限流，并设计 Step Functions 的重试和断路器、切换到更小模型等逐级降级方案。
- 定制：先用提示和 RAG。不够时再用微调（LoRA 等参数高效方法）或蒸馏。对自定义模型进行版本管理，以便失败时回滚。
- 数据处理：传给 FM 之前验证质量（Glue Data Quality、Lambda），并处理图像、音频和表格（Transcribe、Bedrock Data Automation、多模态模型）。对话以角色（user、assistant）格式传入。
- 向量存储：混合搜索或大规模用 OpenSearch，已有 PostgreSQL 用 Aurora 或 RDS 的 pgvector，低成本大量存储用 S3 Vectors。用元数据（日期、作者、分类）缩小检索范围。文档变更通过增量同步反映。
- 检索设计：分块（固定、分层、语义、自定义 Lambda）、嵌入模型与维度、混合搜索、重排序、查询改写与分解。
- 提示：用系统提示确定角色和约束，用 Bedrock 提示管理管理模板和版本，并进行审批和审计。复杂任务拆分为步骤，用 Prompt Flows 编排顺序和分支。
工作中的应用场景
- 销售提案书助手希望每月比较并切换模型。模型 ID 在 AppConfig 中管理，并通过 Converse API 调用，因此无需修改代码即可切换到新模型。
- 总务在公司规章 RAG 中，修订前的旧规章混入了回答。为文档添加施行日期元数据以筛选检索结果，并在 S3 变更时自动运行知识库同步。
- 财务在 FM 读取发票图像和表格之前，用 Lambda 验证金额和日期格式，缺少字段的发票转给负责人确认。
考试评估项目（来自考试指南）
- 1.1 要件を分析し、GenAI ソリューションを設計する。
- 1.2 FM を選定して設定する。
- 1.3 FM 消費のためのデータ検証と処理パイプラインを実装する。
- 1.4 ベクトルストアソリューションを設計して実装する。
- 1.5 FM 拡張のための検索メカニズムを設計する。
- 1.6 FM インタラクションのためのプロンプトエンジニアリング戦略とガバナンスを実施する。