AI-103 · LESSON 1
规划和管理 Azure AI 解决方案25–30% · 4 个主题
学习如何选择 Microsoft Foundry 的服务、设置 AI 解决方案、进行管理、监视和保护，以及实施负责任 AI。
1.1选择适合生成式 AI 和代理的 Foundry 服务
Choose the appropriate Foundry services for generative AI and agents
概念
Microsoft Foundry 包括模型（Foundry Models：Azure OpenAI 模型以及合作伙伴和开放模型）、Foundry Agent Service（构建和运行代理）、Foundry 工具（Vision、Language、Speech、Content Understanding 等 AI 服务）以及 Azure AI Search（搜索和 RAG）等。根据需求组合使用。
原理、步骤
- 把课题分为“生成”“代理（使用工具的作业）”“分析（图像、文档、音频）”和“搜索”
- 生成和聊天选择 Foundry Models，使用工具的自主处理选择 Agent Service
- 常规分析优先使用预构建的 AI 服务（Language、Vision、Speech、Document Intelligence 等）
- 基于内部数据的回答与 Azure AI Search（或代理的知识）结合
- 在模型目录中比较性能、成本和区域提供情况后再选择
工作中的示例
发票处理用 Content Understanding 提取项目；咨询应对则由代理用 AI Search 搜索规章，必要时把内部 API 作为工具调用。
易混淆点、考试注意事项
- 不要试图用大语言模型解决一切，常规分析使用专用服务往往更便宜、更可靠
- 可用功能因模型区域和部署类型而异
- 在“使用工具完成多个步骤”的情况下才选择代理
小测验
Q1. 你希望每天把数万条咨询分类为“账单”“配送”和“其他”。质量要求中等，并希望控制成本和延迟。应首先评估哪种模型？
- 小语言模型（SLM）
- 规模最大的推理专用模型
- 嵌入（embedding）模型
- 微调过的大模型
查看答案和解析
正确答案：A 小语言模型（SLM）
大量的常规分类用小模型也容易满足要求，在成本和延迟方面更有利。【其他选项】推理模型质量高但成本和延迟大，对简单分类来说过度。仅靠嵌入模型不会输出分类标签。微调大模型需要训练和运营成本，不是首先评估的候选。
Q2. 应用调用 Foundry 模型时，最推荐的身份验证方法是什么？
- 把服务主体的客户端密码保存在配置文件中
- 用开发者的 Entra ID 账户登录并共享该令牌
- 把 API 密钥保存在 Azure Key Vault 中，应用启动时读取后调用
- 使用托管标识，并用 RBAC 授予最少的角色
查看答案和解析
正确答案：D 使用托管标识，并用 RBAC 授予最少的角色
无密钥身份验证消除了密钥泄露和轮换管理的问题。权限应保持最小。【其他选项】Key Vault 中的密钥仍需管理泄露和轮换，推荐程度低于无密钥。配置文件中的密码或共享开发者个人令牌都不安全。
参考链接
1.2在 Foundry 中设置 AI 解决方案
Set up AI solutions in Foundry
概念
创建 Foundry 资源和项目，部署模型，并通过 SDK（Foundry SDK、OpenAI SDK）调用终结点。身份验证推荐使用 Microsoft Entra ID（托管标识），外部服务通过连接（Connections）接入。
原理、步骤
- 创建 Foundry 资源和项目
- 从模型目录中选择模型，确定部署类型（Standard、Global Standard、Provisioned 等）后部署
- 用项目终结点和 Microsoft Entra ID 身份验证从应用调用
- 把 AI Search、Storage 等注册为连接
- 先在操场中确认运行情况，再转到代码
工作中的示例
先在操场中试做聊天，确定系统消息和参数，再集成到使用托管标识进行身份验证的 Web 应用中。
易混淆点、考试注意事项
- 不要把 API 密钥嵌入代码，应使用 Key Vault 或托管标识
- 部署名称（应用指定的名称）与模型名称不是一回事
- 配额（TPM）按部署分配
小测验
Q1. 月末结账时，模型调用频繁出现 429 错误（请求过多）。适当的首要应对是什么？
- 失败的请求不间隔立即重发，反复直到成功
- 确认配额和速率限制，实施指数退避重试并做好容量规划
- 在同一区域的同一资源中添加部署，以增加配额总量
- 减小 max_tokens 缩短响应，调整到不再出现 429
查看答案和解析
正确答案：B 确认配额和速率限制，实施指数退避重试并做好容量规划
429 表示超出速率限制。应拉开重试间隔，必要时重新审视容量（配额、部署类型）。【其他选项】立即重发会使 429 更严重。max_tokens 会影响 TPM 消耗，但不确认原因是不够的。在同一资源中增加部署不会增加配额总量。
Q2. 你要为使用 Foundry 项目的应用设计 Azure 基础结构。生产环境最合适的基本配置是什么？
- 托管标识、专用终结点和角色分配
- Key Vault 中的 API 密钥、公共访问和参与者角色
- 生产与开发共用的资源、密钥身份验证和读者角色
- 服务主体的密码、IP 限制和所有者角色
查看答案和解析
正确答案：A 托管标识、专用终结点和角色分配
生产环境以无密钥身份验证（托管标识）、网络隔离（专用终结点）和最小权限的角色分配为基础。【其他选项】Key Vault 中的密钥或密码比无密钥留有更多泄露风险。参与者或所有者对推理来说权限过大，生产与开发共用违反隔离原则。
参考链接
1.3管理、监视和保护 AI 系统
Manage, monitor, and secure AI systems
概念
AI 系统的运营要结合访问管理（RBAC、托管标识）、网络保护（专用终结点）、数据保护（客户管理的密钥）、使用情况和成本监视（Azure Monitor、令牌数）以及通过跟踪实现的行为可视化。
原理、步骤
- 分配最小权限的 RBAC，并禁用密钥身份验证（disableLocalAuth）
- 用专用终结点阻止来自公共网络的访问
- 通过诊断设置把日志和指标发送到 Log Analytics
- 为令牌用量、429 错误和延迟设置警报
- 启用 Microsoft Defender for Cloud 的 AI 威胁防护
工作中的示例
某部门的使用量激增导致 429 频发，通过 Azure Monitor 警报发现后，重新审视部署配额，并在 API Management 中为各部门设置令牌上限。
易混淆点、考试注意事项
- 保留密钥身份验证就会留下密钥泄露的风险
- 429 是容量问题，不是安全问题
- 监视（指标）和跟踪（单个请求）的作用不同
小测验
Q1. 在内部文档问答应用中，回答开始偏离依据文档。最适合持续监视的指标是什么？
- 内容筛选器的检测次数
- 令牌用量和每日推理费用
- 依据性（groundedness）等质量指标
- 响应延迟的变化趋势
查看答案和解析
正确答案：C 依据性（groundedness）等质量指标
依据性下降往往表明搜索索引或数据引入出现了退化。【其他选项】延迟、费用和筛选器检测次数在运营上很重要，但无法说明回答偏离了依据。
Q2. 代理拥有付款执行工具时，最合适的治理是什么？
- 在提示中写明付款上限，超过时让其再次确认
- 限制工具的使用，执行前必须经过人工审批
- 在系统消息中指示“对大额付款要慎重判断”
- 把付款工具的结果记入日志，每月统一检查
查看答案和解析
正确答案：B 限制工具的使用，执行前必须经过人工审批
影响大的工具要通过访问控制和审批来管控。【其他选项】指示或提示中的上限不是可靠的管控。每月的事后检查无法防止错误付款。
参考链接
1.4在生成式 AI 和代理系统中实施负责任 AI
Implement responsible AI across generative AI and agentic systems
概念
通过内容筛选器、提示防护（检测直接和间接的提示攻击）、依据性检测、安全评估和人工确认，把 Microsoft 负责任 AI 的原则（公平性、可靠性和安全性、隐私和安全、包容性、透明度、问责制）落到实处。
原理、步骤
- 梳理风险（有害输出、幻觉、提示注入、信息泄露）
- 设置内容筛选器的严重级别阈值和提示防护
- 在系统消息中加入安全指示（安全元提示）
- 通过安全评估和红队测试进行衡量
- 向用户说明这是 AI 及其局限，对影响大的操作加入人工审批
工作中的示例
在面向外部的聊天中，用提示防护检测所参考网页中嵌入的指令（间接攻击），代理发送邮件必须经负责人审批。
易混淆点、考试注意事项
- 仅靠系统消息中的指示无法可靠防止有害输出（要与筛选器结合）
- 间接攻击是包含在所参考文档或工具结果中、而非用户输入中的指令
- 负责任 AI 是“识别→衡量→缓解→运营”的循环
小测验
Q1. 为防止有害输出，应首先为模型的输入和输出配置什么？
- 在系统消息中写“不要输出有害内容”
- 降低 temperature，减小输出波动
- 限制响应的最大令牌数
- 内容筛选器（安全筛选器）和防护措施
查看答案和解析
正确答案：D 内容筛选器（安全筛选器）和防护措施
输入输出的安全筛选器和防护措施是负责任 AI 的基本措施。【其他选项】仅靠系统消息中的指示无法可靠地防止有害输出。temperature 和最大令牌数不是安全控制手段。
Q2. 你已在开发环境中完成代理的运行确认。在生产部署之前，下一步最合适做什么？
- 在生产环境中也使用开发环境的 API 密钥和终结点
- 先向生产用户发布，问题边用边改
- 删除开发时的跟踪，清空生产日志
- 用测试数据评估质量和安全，并确认标准
查看答案和解析
正确答案：D 用测试数据评估质量和安全，并确认标准
生产部署前，评估质量（依据性、相关性等）和安全，确认满足合格标准。【其他选项】沿用开发环境的密钥违反环境隔离。删除跟踪会失去评估材料。评估前发布没有确认质量和安全。
参考链接
课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。
使用须知（非官方、原创题目、不保证合格）
- 本站题目是根据官方公开的技能大纲和考试指南独立编写的原创练习题，并非真实考试题目。
- Microsoft、Azure、Copilot、Microsoft 365、Dynamics 365、Power Platform 是 Microsoft 集团的商标。本站与 Microsoft 无合作关系，也未获得 Microsoft 的认可或推荐。
- 本内容仅为学习辅助，不保证考试合格。考试内容、形式和前提条件可能随时变更，参加考试前请务必在官方页面确认最新信息。
- 模拟考试的正确率无法换算为官方（换算）分数，也不能预测是否合格。
- 进度仅保存在本浏览器（localStorage）中；使用 Google 登录后才会同步到账号。可在“Cookie 与存储设置”页面（日语）中删除。