生成AIパスポート · LESSON 4
第 4 章 生成式 AI 的风险预防、AI 伦理与治理29%（当サイト設定） · 9 个主题
学习生成式 AI 使用者的心态、代表性风险、影子 AI、输出的验证、个人信息与秘密的保护、著作权、AI 伦理、治理以及法律与国际规则。
4.1生成式 AI 使用者的基本心态
概念
生成式 AI 是方便的工具，但输出的最终责任在于使用者。基本态度是：不盲目相信输出并加以确认，考虑信息是否可以输入，遵守公司规则，必要时表明使用了 AI。
原理、步骤
- 使用前确认公司指南和可使用的工具
- 确认要输入的信息不是机密或个人信息
- 确认输出中的事实、数字和出处后再使用
工作中的示例
用生成式 AI 起草给客户的提案书，由负责人对照资料确认数字和产品规格后再提交。
易混淆点、考试注意事项
- “AI 是这么说的”不能成为推卸责任的借口
- 不要为了方便而绕开公司规则
- 在设计业务时把确认的工作量考虑进去
小测验
Q1. 在业务中使用生成式 AI 时的基本思路，最合适的是哪项？
- AI 出错时的责任全部由服务提供方承担
- AI 是辅助者，是否采用输出以及结果的最终责任由人承担
- 使用 AI 的业务通过省去人工确认来提高效率
- AI 的输出基于大量数据，因此总是优先于人的判断
查看答案和解析
正确答案：B AI 是辅助者，是否采用输出以及结果的最终责任由人承担
生成式 AI 有时会给出貌似合理的错误。验证输出并负责任地作出判断的是人。
Q2. 搜索引擎与生成式 AI 的区别，最合适的是哪项？
- 两者机制相同，只是显示形式不同
- 生成式 AI 总会搜索互联网作答，依据比搜索引擎更可靠
- 搜索引擎指向已有信息源，生成式 AI 生成新文本，因此核实依据更为重要
- 搜索结果准确，只需核实生成式 AI 的结果
查看答案和解析
正确答案：C 搜索引擎指向已有信息源，生成式 AI 生成新文本，因此核实依据更为重要
生成式 AI 的回答往往不标出处。重要信息要用一手信息确认。【其他选项】生成式 AI 并非总在搜索。搜索结果的信息源也可能有误。两者机制不同。
参考链接
4.2生成式 AI 的代表性风险
概念
代表性风险有幻觉（错误信息）、信息泄露（输入的机密外流）、侵犯著作权等权利、带偏见或歧视性的输出、滥用（诈骗、深度伪造、网络攻击）、提示注入以及过度依赖。
原理、步骤
- 按业务梳理哪些风险较大
- 根据风险确定对策（确认、限制输入、选择工具）
- 确定出现问题时的报告程序
工作中的示例
在评估应聘材料时使用生成式 AI，偏见风险很大，因此 AI 只做到总结，评估由人进行。
易混淆点、考试注意事项
- 幻觉“貌似合理”，因此难以察觉
- 风险无法降为零，要按影响大小进行管理
- 也要注意新类型的风险（代理的误操作等）
小测验
Q1. 因担心泄露，企业全面禁止使用生成式 AI。对「不使用 AI 的风险」最合适的描述是哪项？
- 内部数据更容易泄露
- 错失提升效率和竞争力的机会，影子 AI 也可能增加
- 现有系统的安全更新会停止
- 不使用 AI 本身就违法
查看答案和解析
正确答案：B 错失提升效率和竞争力的机会，影子 AI 也可能增加
因害怕风险而一律禁止，也可能导致影子 AI 的出现或竞争力下降。重要的是在管理风险的同时加以利用。【其他选项】不使用 AI 不会更易泄露，也不违法，与系统更新无关。
Q2. 针对幻觉的对策，最合适的是哪项？
- 把 Temperature 调到最大再让它回答
- 把同一问题问很多次，用多数表决决定正确答案
- 用一手信息确认输出中的事实、数值和出处
- 输出越长越准确，所以让它回答得长一些
查看答案和解析
正确答案：C 用一手信息确认输出中的事实、数值和出处
多数表决和长度都不能保证准确性。基本做法是用一手信息确认，并设法让它给出依据。
参考链接
4.3影子 AI 与企业合规
概念
影子 AI 是员工在业务中使用公司未掌握、未允许的生成式 AI 服务。存在因输入机密而泄露信息，以及违反合同和规章的风险。对策不只是禁止，而是准备可安全使用的已批准工具，并通过规则和培训推广正确的用法。
原理、步骤
- 掌握实际的使用情况
- 准备安全的已批准工具和使用规则
- 通过培训宣传可输入的信息和禁止事项
工作中的示例
发现员工用个人免费账户总结客户信息，于是引入面向企业的已批准工具，并禁止在业务中使用个人账户。
易混淆点、考试注意事项
- 全面禁止有时反而会增加隐蔽的使用（影子 AI）
- 免费版和企业版对输入数据的处理往往不同
- 合规不仅包括法令，还包括遵守公司内部规章和合同
小测验
Q1. 关于影子 AI 的说明，最合适的是哪项？
- AI 在无人看管的夜间自动运行
- 在 AI 的输出中嵌入不可见的水印
- 员工在业务中使用公司未批准的 AI 工具
- 把 AI 模型权重隐藏在公司外部保管，以防止向外泄露的方法
查看答案和解析
正确答案：C 员工在业务中使用公司未批准的 AI 工具
影子 AI 会带来信息泄露、不留使用记录（缺乏可追溯性）等风险。
Q2. 影子 AI 产生的原因，最合适的是哪项？
- 因为 AI 工具一经公司批准就会留下使用记录并自动无法使用
- 因为出于安全原因，公司批准的工具完全无法使用生成式 AI 功能
- 因为法律规定业务中必须使用 AI，员工需要自行准备工具
- 因为没有已批准的工具、工具难用或申请手续繁琐等，员工就使用了身边的工具
查看答案和解析
正确答案：D 因为没有已批准的工具、工具难用或申请手续繁琐等，员工就使用了身边的工具
仅靠禁止难以防止。对策是完善已批准工具、制定易懂的规则、简化申请。
参考链接
4.4AI 输出的评估与验证
概念
从事实准确性（用一手信息确认）、有无依据和出处、数字计算、偏见或不当表达、权利问题等角度验证 AI 的输出。越重要的文档确认越要严格，并用多个信息源加以佐证（事实核查）。
原理、步骤
- 确认输出中包含的事实、数字和专有名词
- 给出出处时，实际打开该信息源进行确认
- 用于重要判断时，用专家或多个信息源加以佐证
工作中的示例
在 e-Gov 法令检索中确认生成式 AI 给出的法律条文编号，发现有误，于是改为正确的条文。
易混淆点、考试注意事项
- AI 给出的出处或 URL 本身有时并不存在
- 即使是“看起来很有把握”的表达也不一定正确
- 只是重新问同一个 AI 并不算验证
小测验
Q1. 作为影子 AI 的具体例子，最合适的是哪项？
- 用公司未允许的浏览器扩展 AI 摘要工具总结公司内部邮件
- 用公司批准的生成式 AI 工具总结已公开的新闻稿
- 按照公司内部指南使用已批准的翻译工具
- 按程序在验证环境中试用信息系统部门正在评估的工具
查看答案和解析
正确答案：A 用公司未允许的浏览器扩展 AI 摘要工具总结公司内部邮件
对于浏览器扩展或个人账户的工具，公司无法掌握输入信息如何被处理。
Q2. 公开了生成式 AI 输出的、降低特定人物社会评价的虚假内容时，最可能成为问题的是哪项？
- 非法访问
- 名誉毁损
- 外观设计权侵权
- 专利权侵权
查看答案和解析
正确答案：B 名誉毁损
即使是生成式 AI 的输出，公开者也会被追究责任。涉及人物的叙述要确认事实。
参考链接
4.5个人信息、隐私与保密
概念
向生成式 AI 输入个人信息，涉及日本《个人信息保护法》中利用目的的范围以及向第三方提供、委托的处理。公司的商业秘密以及与交易方保密协议（NDA）涉及的信息，也可能因输入而泄露。要选择设置或合同规定输入数据不用于训练的服务，只输入必要的信息，并进行匿名化或遮蔽。
原理、步骤
- 判断要输入的信息是否属于个人信息或机密信息
- 使用设置或合同规定不用于训练的服务
- 把姓名等替换为假名或符号后再输入
工作中的示例
在总结客户投诉邮件前，把姓名、电话号码、地址替换为 [客户A] 等后再输入。
易混淆点、考试注意事项
- 即使设置了“不用于训练”，服务方有时也会保存一定期间
- 交易方的信息要确认 NDA 的条件
- 需特别注意的个人信息（病史等）要格外谨慎地处理
小测验
Q1. 以下哪项属于日本《个人信息保护法》中的「个人信息」？
- 只有员工编号的记录，但与内部名册对照即可识别本人
- 经加工无法识别个人的来店人数统计值
- 客户法人的名称、地址和总机号码
- 已故顾客的姓名和购买记录
查看答案和解析
正确答案：A 只有员工编号的记录，但与内部名册对照即可识别本人
即使是已公开的信息也属于个人信息。包含个人识别符号的也是个人信息。【其他选项】个人信息是关于在世个人的信息，包括易与其他信息对照而识别的信息。逝者、法人信息和统计数值不属于。
Q2. 关于个人信息利用目的的原则，最合适的是哪项？
- 尽可能明确利用目的，并在其范围内处理
- 利用目的只要公司内部负责人知道即可
- 取得的个人信息可自由用于任何目的
- 输入生成式 AI 时，利用目的的限制就不再适用
查看答案和解析
正确答案：A 尽可能明确利用目的，并在其范围内处理
向生成式 AI 输入个人信息时，也要确认是否在利用目的范围内。
参考链接
4.6著作权、知识产权与生成物的权利
概念
日本著作权法第 30 条之 4 在一定条件下允许为 AI 训练等信息分析而利用作品，但不当损害著作权人利益的情形除外。在生成和使用阶段，若与既有作品具有相似性和依据性，就可能构成著作权侵权。AI 自主生成的东西难以被认定为作品，有人的创作性贡献时则可能成为作品。还要注意商标、外观设计、肖像权和形象权。
原理、步骤
- 确认生成物是否与既有作品、标志或角色相似
- 避免指定模仿特定作者画风或作品名称的提示
- 在服务的使用条款中确认生成物的权利和商用条件
工作中的示例
生成的广告插画与著名角色相似，因此停止使用，改用由设计师加工的方案。
易混淆点、考试注意事项
- 第 30 条之 4 是关于“训练”阶段的规定，并没有让生成物的使用也变得自由
- 相似性和依据性都是判断侵权的要素
- 仅凭提示难以被认定为创作性贡献
小测验
Q1. 判断是否构成著作权侵权时重视的要素组合，最合适的是哪项？
- 公开性与可登记性
- 新颖性与创造性
- 相似性与依据性
- 有用性与非公知性
查看答案和解析
正确答案：C 相似性与依据性
与既有作品的创作性表达相似（相似性）且以其为基础（依据性）时，可能构成侵权。AI 生成物也是同样的思路。
Q2. 把他人作品输入生成式 AI 时的注意事项，最合适的是哪项？
- 输入生成式 AI 的作品，即使与输出相似，也成为用户可以自由使用的东西
- 输入生成式 AI 的作品，按服务条款被视为已公开的作品
- 输入生成式 AI 的作品，在被用于训练时即视为著作权保护期已结束
- 即使输入本身不成问题，如果输出与该作品相似并加以使用，也可能构成侵权
查看答案和解析
正确答案：D 即使输入本身不成问题，如果输出与该作品相似并加以使用，也可能构成侵权
输入既有作品让它生成相似的东西并公开、销售，就容易被认定具有相似性和依据性。
参考链接
4.7AI 伦理与 AI 事业者指南
概念
AI 伦理是让 AI 以人为本、公平、安全、透明地被使用的思路。日本的《AI 事业者指南》（总务省、经济产业省）为 AI 的开发者、提供者和使用者分别提出了以人为本、安全性、公平性、隐私保护、确保安全、透明性、问责等共同指针。它是没有法律强制力的软法。
原理、步骤
- 确认自己的立场（开发者、提供者、使用者）
- 对照指南的共同指针，重新审视在业务中的用法
- 把指南的思路纳入公司内部规则
工作中的示例
作为在公司业务中使用 AI 的“使用者”，参考指南制定确认输出以及向客户说明 AI 使用的规则。
易混淆点、考试注意事项
- AI 事业者指南不是法律，而是软法
- 使用者也被要求负责任地使用
- 指南会修订，要确认最新版
小测验
Q1. AI 事业者指南提出的共同指针中包含的内容，最合适的是哪项？
- 以人为本、安全性、公平性、隐私保护、确保安全、透明性、问责性
- 全面禁止使用、训练数据境内保存、公开模型、设定使用费上限
- 开发速度、高性能、低成本、扩大市场份额、推进海外拓展
- 开发许可制、使用申报制、违规罚款、企业登记、国家定期审计
查看答案和解析
正确答案：A 以人为本、安全性、公平性、隐私保护、确保安全、透明性、问责性
AI 事业者指南提出的共同指针还包括教育与素养、确保公平竞争、创新等。
Q2. 关于 ELSI 的说明，最合适的是哪项？
- 在引入前估算新技术经济效果的指标（Economic Impact Index）
- 从法律角度认证 AI 训练数据质量的制度（Legal Data Certification）
- 新技术带来的伦理、法律和社会课题（Ethical, Legal and Social Issues）
- 国际机构为评估 AI 安全性而制定的测试程序（Evaluation and Safety Index）
查看答案和解析
正确答案：C 新技术带来的伦理、法律和社会课题（Ethical, Legal and Social Issues）
在 AI 的开发和使用中，要求不仅从技术方面，还要从 ELSI 的角度考虑影响。
参考链接
4.8AI 治理与公司内部指南
概念
AI 治理是组织在管理 AI 风险的同时加以利用的机制。公司内部指南要规定可使用的工具、可输入的信息与禁止事项、确认输出的责任、生成物的使用条件以及出现问题时的报告窗口。要确定负责部门和负责人，并进行培训和定期修订。
原理、步骤
- 确定 AI 使用的负责人和咨询窗口
- 制定公司内部指南，向全员宣传并培训
- 掌握使用情况和事件，定期修订
工作中的示例
信息系统部和法务部共同制定生成式 AI 内部指南，每季度根据新的工具和风险进行修订。
易混淆点、考试注意事项
- 指南不能只是制定，还要通过培训和运用使其落地
- 技术变化很快，固定的规则容易过时
- 不只列出禁止事项，也给出推荐的用法，更容易落地
小测验
Q1. 关于 AI 治理的说明，最合适的是哪项？
- 为避免风险，在组织内一律禁止使用 AI，不允许例外
- 由政府直接经营提供 AI 服务的公司，由国家统一管理 AI 的使用
- 只有 AI 开发者需要遵守的、关于程序写法和模型评估方法的规定
- 为管理 AI 使用带来的风险并获得收益，组织建立并运用方针、体制和规则
查看答案和解析
正确答案：D 为管理 AI 使用带来的风险并获得收益，组织建立并运用方针、体制和规则
AI 治理重视根据情况变化重新审视规则的敏捷治理思路。
Q2. 已制定生成式 AI 内部规则的企业想引入敏捷治理理念。最合适的做法是哪项？
- 规则细节交给一线，不制定全公司方针
- 把规则写得非常详细，用例外流程应对变化
- 随环境变化反复进行规则的设计、运用、评估和修订
- 由法务部门每年统一修订一次规则
查看答案和解析
正确答案：C 随环境变化反复进行规则的设计、运用、评估和修订
生成式 AI 变化很快，因此要求不固定规则而是持续修订。【其他选项】每年一次跟不上变化速度。没有全公司方针就无法管控。详细规则加例外流程无法形成评估与修订的循环。
参考链接
4.9AI 法、国际规则与 AI 安全保障
概念
日本于 2025 年通过了《关于推进人工智能相关技术研究开发及活用的法律》（AI 推进法），确立了兼顾促进创新与应对风险的基本框架。欧盟的 AI 法（AI Act）采取按风险大小进行规制的基于风险的方法，禁止具有不可接受风险的 AI，并对高风险 AI 施加严格义务。在国际上有 G7 广岛 AI 进程等框架，AI 的军事利用和虚假信息等安全保障课题也在讨论之中。
原理、步骤
- 确认与本公司业务相关的国家和地区的规制
- 在欧盟提供 AI 时，确认 AI 法的风险分类
- 定期确认国内外规则的动向
工作中的示例
向欧盟客户提供辅助招聘筛选的 AI 的企业，确认其是否属于 AI 法的高风险分类，并规划必要的应对。
易混淆点、考试注意事项
- 日本的 AI 推进法与欧盟 AI 法那样带罚则的综合性规制性质不同
- 欧盟 AI 法也可能适用于欧盟以外的企业
- 基于风险的方法并不是“对所有 AI 进行同样的规制”
小测验
Q1. 关于 AI 法（关于推进人工智能相关技术研究开发及活用的法律）的叙述，最合适的是哪项？
- 原则上禁止在业务中使用生成式 AI，仅作为例外允许国家许可的用途的法律
- 赋予 AI 法人资格，让 AI 本身与其开发者对 AI 造成的损害承担连带责任的法律
- 以推进 AI 的研究开发和活用为基本，规定国家、企业和国民的职责以及 AI 基本计划、AI 战略本部等的法律
- 对 AI 开发实行许可制，对未经许可的开发或提供处以罚款等重罚的法律
查看答案和解析
正确答案：C 以推进 AI 的研究开发和活用为基本，规定国家、企业和国民的职责以及 AI 基本计划、AI 战略本部等的法律
AI 法是旨在兼顾促进创新与应对风险的推进法，与现有法令和指南结合运用。
Q2. EU AI Act 的思路，最合适的是哪项？
- 按风险大小对 AI 系统分类，并根据风险施加相应义务的基于风险的方法
- 只允许在欧盟境内设有据点的企业开发和提供 AI 系统的区域优先规制
- 无论风险大小，对所有 AI 系统一律施加相同内容义务的规制
- 为不妨碍 AI 技术发展，不设法律规制，交由企业自主努力的方针
查看答案和解析
正确答案：A 按风险大小对 AI 系统分类，并根据风险施加相应义务的基于风险的方法
具有不可接受风险的 AI 被禁止，高风险 AI 被施加严格义务。
参考链接
课程由本站根据公开信息独立编写，不保证与考试内容一致。产品规格可能变化，请在参考链接中确认最新信息。
使用须知（非官方、原创题目、不保证合格）
- 本站题目是根据官方公开的技能大纲和考试指南独立编写的原创练习题，并非真实考试题目。
- 本站与 GUGA、JDLA 等考试主办机构无合作关系，也未获得其认可或推荐。考试名称和机构名称可能是各权利人的商标或注册商标。
- 本内容仅为学习辅助，不保证考试合格。考试内容、形式和前提条件可能随时变更，参加考试前请务必在官方页面确认最新信息。
- 模拟考试的正确率无法换算为官方（换算）分数，也不能预测是否合格。
- 进度仅保存在本浏览器（localStorage）中；使用 Google 登录后才会同步到账号。可在“Cookie 与存储设置”页面（日语）中删除。