AIAI Agent Dev Labaiagentdev-lab.com
登录以保存学习记录登录
菜单

AIF-C01 · LESSON 2

生成式 AI 基础24% · 3 个主题

学习生成式 AI 的基本概念、在业务中的可能性与局限，以及用于生成式 AI 的 AWS 基础设施和技术。

2.1生成式 AI 的基本概念

2.1 说明生成式 AI（GenAI）的基本概念。

概念

生成式 AI 是生成新的文本、图像、语音、代码等的 AI。基础模型（FM）是在大量数据上预训练的大型模型，LLM（大型语言模型）是其代表。文本被拆分为令牌，并用嵌入（向量）以数值表示含义。有 Transformer 架构、扩散模型（图像生成）、多模态模型等。

原理、步骤

  1. 理解令牌、嵌入和上下文窗口的含义
  2. 区分模型的类型（文本、图像、多模态、嵌入）
  3. 理解基础模型的生命周期（数据选择 → 预训练 → 适配 → 评估 → 部署 → 反馈）
  4. 选择适合用途的模型

工作中的示例

在检索公司内部文档时，用嵌入模型把文档转为向量来查找含义相近的内容，再用 LLM 对其进行摘要并回答。

易混淆点、考试注意事项

小测验

Q1. 关于 Transformer（作为 LLM 基础的机制）的特点，最恰当的是哪一项？

  1. 只用于处理图像的机制，不能处理文本
  2. 一次只看前一个字符，从词典中按顺序选择下一个字符
  3. 通过注意力机制，在处理时也能考虑句子中相距较远的词之间的关系
  4. 由人写入全部语法规则，并严格按照这些规则生成文本
查看答案和解析

正确答案：C 通过注意力机制，在处理时也能考虑句子中相距较远的词之间的关系

Transformer 通过自注意力捕捉整个输入中每个词与哪些词关系密切，易于并行处理，适合大规模训练。

Q2. 关于基础模型（FM），最恰当的说明是哪一项？

  1. 在大量数据上预训练、可用于摘要、问答、分类等多种用途的通用模型
  2. 用于保存 AI 训练数据的基础数据库服务
  3. 只为某家公司的一项业务、用少量数据从零建立、不能用于其他用途的专用模型
  4. 只是收集人编写的业务规则并按其判断的规则引擎
查看答案和解析

正确答案：A 在大量数据上预训练、可用于摘要、问答、分类等多种用途的通用模型

FM 是在大规模数据上预训练的通用模型，可以通过提示工程、RAG、微调用于多种用途。LLM 是 FM 的一种。

参考链接

2.2生成式 AI 的可能性与局限

2.2 了解使用 GenAI 解决业务问题的能力和局限。

概念

生成式 AI 的优点是适应性（多样的任务）、响应快、自然对话和工作自动化。局限包括幻觉（看似合理的错误）、非确定性（每次输出不同）、难以解释、知识时间点的限制、偏差和成本。业务价值用效率、转化率、客户满意度等指标来衡量。

原理、步骤

  1. 确认是否属于生成式 AI 擅长的工作（摘要、起草、分类、对话）
  2. 对于不允许出错的处理，结合人工确认和依据化（RAG）
  3. 根据准确度、成本、速度和监管要求选择模型
  4. 用业务指标（ROI、处理时间）衡量效果

工作中的示例

销售邮件的草稿交给生成式 AI 并由负责人确认，但合同金额的计算由传统系统完成。

易混淆点、考试注意事项

小测验

Q1. 在咨询处理中引入了生成式 AI 助手。作为衡量业务效果的指标，最恰当的是哪一项？

  1. 模型参数数量和模型文件大小的变化
  2. 助手回答的平均字数以及回答中汉字比例的月度变化
  3. 无需转交给人即可解决的咨询比例，以及每件的平均处理时间
  4. 参加引入说明会的员工人数和分发的资料张数
查看答案和解析

正确答案：C 无需转交给人即可解决的咨询比例，以及每件的平均处理时间

效果要用解决率、处理时间、客户满意度、成本等业务指标衡量。仅靠技术数值无法判断效果。

Q2. 关于生成式 AI 的优点，最恰当的是哪一项？

  1. 一旦引入，今后就完全不再需要人工确认和运维费用
  2. 对任何问题都始终用相同的措辞返回符合事实的答案
  3. 一个模型只需改变指令，就能用于翻译、摘要、起草等多种工作
  4. 即使不在训练数据中，也始终能自动了解最新的公司内部信息
查看答案和解析

正确答案：C 一个模型只需改变指令，就能用于翻译、摘要、起草等多种工作

生成式 AI 适应性强，可以通过提示应对多种工作。另一方面，在准确性和最新信息方面存在局限。

参考链接

2.3用于生成式 AI 的 AWS 基础设施和技术

2.3 说明用于构建 GenAI 应用的 AWS 基础设施和技术。

概念

Amazon Bedrock 是可以通过 API 使用多家公司基础模型的全托管服务（包括知识库、代理、防护机制、评估和定制）。Amazon Q Business 是基于公司内部数据的 AI 助手，Amazon Q Developer 用于辅助开发，SageMaker AI JumpStart 用于部署预训练模型，PartyRock 是试用 Bedrock 的平台。定价包括按令牌计费的按需、批量和预置吞吐量等。

原理、步骤

  1. 如果需要开箱即用的业务助手，使用 Amazon Q Business
  2. 要在自己的应用中嵌入生成式 AI，使用 Amazon Bedrock
  3. 要自行托管和调整模型，使用 SageMaker AI JumpStart
  4. 根据使用量选择定价模式（按需、批量、预置）

工作中的示例

为了无需开发即可提供基于公司规章和操作手册的问答，引入 Amazon Q Business；本公司应用的摘要功能则用 Bedrock 的 API 构建。

易混淆点、考试注意事项

小测验

Q1. 在公司内部聊天中，每次提示都放入整本 50 页的规章汇编再提问，费用和响应时间都过高。最恰当的改进措施是哪一项？

  1. 把规章汇编再增加到 100 页，以便能回答任何问题
  2. 用 RAG 只检索与问题相关的部分加入提示，减少输入令牌数
  3. 每次提问都把规章汇编重复放入提示 3 次，以强调其内容
  4. 把最大输出令牌数设为最大，让回答写得尽可能长而详细
查看答案和解析

正确答案：B 用 RAG 只检索与问题相关的部分加入提示，减少输入令牌数

费用和响应时间与输入输出的令牌数成比例增加。用 RAG 只传入相关部分，可以在降低费用的同时得到有依据的回答。

Q2. 关于输入 Amazon Bedrock 的提示和模型输出的处理，最恰当的是哪一项？

  1. 与所有提供商共享，并用于训练下一版本的模型
  2. 公开发布，其他 AWS 用户也可以检索并查看内容
  3. 输入的提示每次都由 AWS 员工阅读以确认质量
  4. 不会用于改进基础模型，也不会与模型提供商共享
查看答案和解析

正确答案：D 不会用于改进基础模型，也不会与模型提供商共享

在 Bedrock 中，用户的内容不会用于改进基础模型，也不会与模型提供商共享。

参考链接

课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。

使用须知（非官方、原创题目、不保证合格）