STEP 1 · 学习

G検定 学习G检定(JDLA Deep Learning for GENERAL)

按考试领域阅读要点,然后点击各领域末尾的“练习该领域”,只练习该领域的题目。比例越大的领域在正式考试中出题越多。

01

什么是人工智能・围绕人工智能的动向

人工知能とは・人工知能をめぐる動向

11%(当サイト設定)

学习目标

  • 能举例说明人工智能的 4 个级别和 AI 效应
  • 能区分框架问题、符号接地问题、中文房间等论点
  • 能说明三次 AI 热潮的技术(搜索与推理、知识表示、机器学习与深度学习)及代表性例子

要点

  • AI 的级别用“简单的控制程序”“经典的人工智能(使用搜索、推理、知识)”“机器学习”“深度学习(连特征量也学习)”4 个阶段来说明。
  • AI 效应:一旦机制被弄清,就会被视为“那不是智能”的现象。
  • 框架问题是“只挑出与当前课题有关的事项”的困难;符号接地问题是无法把符号与现实世界的含义联系起来的问题。
  • 图灵测试是看能否通过对话把机器与人区分开的测试。中文房间是针对它的思想实验,认为“按规则操作符号并不等于理解了含义”(强 AI 与弱 AI 之争)。
  • 第一次热潮(1950~60 年代)用搜索与推理解决了玩具问题却解决不了现实问题;第二次(1980 年代)用知识表示和专家系统,遇到了知识获取瓶颈;第三次(2000 年代~)是机器学习与深度学习。
  • Mini-Max 法以对手走出最佳着法为前提进行评估,αβ 剪枝剪掉不需要的分支以减少搜索。蒙特卡洛法用随机的模拟对局进行评估。
  • 2012 年的 ILSVRC 中 AlexNet(深度学习)以大幅优势夺冠,第三次热潮全面展开。2016 年 AlphaGo 战胜了职业棋手。

工作中的应用场景

  • 企划在考虑咨询应对的自动化时,把用规则(基于规则)就能覆盖的范围与需要从数据中学习的范围分开考虑。

考试评估项目(来自考试指南)

  • 人工知能の定義(AI のレベル分け、AI 効果、人工知能とロボットの違い)
  • 人工知能分野で議論される問題(チューリングテスト、中国語の部屋、フレーム問題、シンボルグラウンディング問題、シンギュラリティ)
  • 探索・推論(探索木、幅優先・深さ優先探索、Mini-Max 法、αβ 法、モンテカルロ法、STRIPS、SHRDLU)
  • 知識表現とエキスパートシステム(意味ネットワーク、オントロジー、MYCIN、DENDRAL、Cyc、ワトソン)
  • 機械学習(ビッグデータ、次元の呪い、統計的自然言語処理)
  • ディープラーニング(ILSVRC、AlexNet、AlphaGo、生成 AI)

学习资源

02

机器学习概述

機械学習の概要

7%(当サイト設定)

学习目标

  • 能根据课题选择监督学习、无监督学习、强化学习及代表性方法
  • 能根据混淆矩阵计算准确率、精确率、召回率和 F 值,并选择符合目的的指标
  • 能说明留出法与 k 折交叉验证,以及识别过拟合的方法

要点

  • 监督学习从特征量与正确答案(教师数据)的组合中学习。预测数值的是回归,判断类别的是分类。逻辑回归名不副实,是一种分类方法。
  • 集成学习:Bagging(用自助采样并行学习,如随机森林)和 Boosting(用下一个模型弥补前一个模型的错误,如梯度提升)。
  • SVM 通过最大化间隔确定边界,借助核技巧也能处理非线性的分离。
  • 无监督学习:k-means 把数据分为 k 个簇(k 需事先确定),沃德法是用树状图表示的层次聚类。主成分分析沿方差大的方向降维,t-SNE 是面向可视化的非线性降维。
  • 强化学习从行动与奖励中学习策略。有基于价值的方法(Q 学习、SARSA)、基于策略的方法(REINFORCE、策略梯度法),以及两者结合的 Actor-Critic。ε-greedy 以概率 ε 随机探索。
  • 精确率=TP/(TP+FP):预测为阳性中正确的比例。召回率=TP/(TP+FN):实际阳性中被找出的比例。想避免漏检就重视召回率,想避免误报就重视精确率。
  • 过拟合是训练数据上误差小、验证数据上误差大的状态。数据少时用 k 折交叉验证估计泛化性能。

工作中的应用场景

  • 销售在预测客户流失(分类)时,为减少对可能流失客户的漏检而重视召回率,并用 F 值确认与精确率的平衡。
  • 市场营销用 k-means 按购买历史把客户分组,按组改变措施。

考试评估项目(来自考试指南)

  • 教師あり学習(回帰・分類、線形回帰、ロジスティック回帰、決定木、ランダムフォレスト、勾配ブースティング、SVM、AR モデル)
  • 教師なし学習(k-means 法、ウォード法、主成分分析、t-SNE、協調フィルタリング、トピックモデル)
  • 強化学習(マルコフ決定過程、割引率、ε-greedy、Q 学習、SARSA、方策勾配法、Actor-Critic)
  • モデルの選択・評価(交差検証、混同行列、適合率・再現率・F 値、ROC 曲線・AUC、MSE・RMSE・MAE、AIC・BIC、過学習)

学习资源

03

深度学习概述

ディープラーニングの概要

11%(当サイト設定)

学习目标

  • 能根据任务选择激活函数和误差函数
  • 能说明误差反向传播法与梯度消失问题的关系及对策
  • 能说明梯度下降法的课题(局部最优、鞍点、学习率)以及代表性的优化方法和超参数调整

要点

  • 单层感知机只能解决线性可分的问题(无法解决 XOR)。带隐藏层的多层感知机可以处理非线性问题。
  • GPU 擅长大量简单的并行计算(矩阵运算),TPU 是 Google 开发的专门用于张量计算的处理器。
  • Sigmoid 函数导数的最大值为 0.25,层数叠加后梯度会变小(梯度消失)。ReLU 在正区间导数为 1,梯度不易消失。输出层:回归用恒等函数,二分类用 Sigmoid,多分类用 Softmax。
  • 误差函数:回归用均方误差,分类用交叉熵。分布的差异用 KL 散度。度量学习用 Contrastive Loss、Triplet Loss。
  • L1 正则化(Lasso)容易把不需要的权重变为 0,具有特征选择的效果;L2 正则化(Ridge)使权重整体变小。Dropout 在训练时随机使神经元失效。
  • 误差反向传播法利用链式法则从输出侧高效计算梯度。
  • 随机梯度下降法用部分数据(小批量)更新。Momentum 用惯性抑制振荡,AdaGrad、RMSprop 按参数调整学习率,Adam 结合了两者的思路。
  • 超参数(学习率、层数等)的搜索用网格搜索、随机搜索、贝叶斯优化。早停在验证误差开始变差时停止训练。

工作中的应用场景

  • 信息系统把图像检查模型的训练从公司内部电脑(CPU)迁移到云端 GPU 实例,缩短训练时间。

考试评估项目(来自考试指南)

  • ニューラルネットワークとディープラーニング(単純パーセプトロン、多層パーセプトロン、CPU・GPU・TPU)
  • 活性化関数(シグモイド、tanh、ReLU、Leaky ReLU、ソフトマックス、勾配消失問題)
  • 誤差関数(平均二乗誤差関数、交差エントロピー、KL 情報量、Contrastive Loss、Triplet Loss)
  • 正則化(L1・L2 正則化、ラッソ回帰、ドロップアウト)
  • 誤差逆伝播法(連鎖律、勾配消失・勾配爆発、信用割当問題)
  • 最適化手法(勾配降下法、確率的勾配降下法、モーメンタム、AdaGrad、RMSprop、Adam、学習率、早期終了、二重降下現象、ハイパーパラメータ探索)

学习资源

04

深度学习的要素技术

ディープラーニングの要素技術

16%(当サイト設定)

学习目标

  • 能说明卷积层输出尺寸和参数量的思路,以及与全连接层的区别
  • 能说明 RNN、LSTM、GRU 与 Attention、Transformer 的区别和作用
  • 能说明自编码器与 VAE、归一化层、数据增强的目的及区分使用

要点

  • 卷积层把滤波器(卷积核)在图像上滑动以提取局部特征,并共享权重,因此参数比全连接层少。输出尺寸=(输入−滤波器+2×填充)/步幅+1。
  • Dilated(Atrous)Convolution 通过留出间隔扩大感受野,Depthwise Separable Convolution 拆分为逐通道卷积和 1×1 卷积以减少计算量(MobileNet)。
  • 批归一化在小批量内按通道归一化,层归一化在 1 条数据内对全部特征归一化(用于 Transformer)。实例归一化按 1 条数据、1 个通道进行(风格迁移)。
  • 最大池化带来对微小位置偏移的不变性,没有需要学习的参数。GAP 对每个特征图取平均,可代替全连接层。
  • 跳跃连接(ResNet)越过若干层把输入加上去,使深层网络中梯度也容易传递。
  • RNN 用 BPTT 训练,在长序列上会发生梯度消失。LSTM 用输入门、遗忘门、输出门和记忆单元(CEC)保持长期依赖,GRU 对其进行了简化。教师强制在训练时把前一时刻的正确答案作为输入。
  • Transformer 不使用 RNN,而用自注意力(Self-Attention)并行计算所有令牌之间的关系。词序信息通过位置编码给出。Multi-Head Attention 从多个角度计算注意力。
  • 自编码器学习把输入压缩为潜在表示再复原(降维、异常检测)。VAE 用概率分布表示潜在变量,能够生成新的数据。
  • 数据增强通过变换训练数据来增加数据量,提高泛化性能。Cutout、Random Erasing 遮住一部分,Mixup 混合两张图像,CutMix 剪贴一部分。文本则用改写(paraphrasing)等。

工作中的应用场景

  • 制造由于外观检查的图像较少,用翻转、旋转、改变亮度进行数据增强后训练,提高对未知产品照片的准确度。

考试评估项目(来自考试指南)

  • 全結合層・畳み込み層(カーネル、ストライド、パディング、特徴マップ、Dilated Convolution、Depthwise Separable Convolution)
  • 正規化層(バッチ正規化、レイヤー正規化、インスタンス正規化、グループ正規化)
  • プーリング層(最大値プーリング、グローバルアベレージプーリング)・スキップ結合(ResNet)
  • 回帰結合層(RNN、BPTT、LSTM、GRU、双方向 RNN、教師強制、エルマンネットワーク)
  • Attention(Seq2Seq、Self-Attention、Source-Target Attention、Multi-Head Attention、Transformer、位置エンコーディング、クエリ・キー・バリュー)
  • オートエンコーダ(積層オートエンコーダ、VAE、VQ-VAE・β-VAE)
  • データ拡張(Crop、Flip、Rotate、Cutout、Random Erasing、Mixup、CutMix、RandAugment、paraphrasing)

学习资源

05

深度学习的应用案例

ディープラーニングの応用例

16%(当サイト設定)

学习目标

  • 能把图像识别的任务种类与代表性模型对应起来
  • 能说明自然语言处理、语音处理的特征表示和代表性模型
  • 能根据目的选择生成模型、迁移学习、多模态、可解释性、轻量化的代表性方法

要点

  • 物体识别给出整张图像的类别,物体检测给出位置(边界框)和类别,语义分割给出每个像素的类别,实例分割给出每个个体的区域,全景分割则两者兼顾。
  • 物体检测:R-CNN → Fast R-CNN → Faster R-CNN(用 RPN 也学习候选区域)的两阶段型,以及 YOLO、SSD 的单阶段型(速度快)。分割:FCN、U-Net(带跳跃连接的编码器-解码器)、Mask R-CNN(实例)。
  • word2vec 把词变成分布式表示(向量),CBOW 由周围词预测中心词,Skip-gram 由中心词预测周围词。fastText 使用子词。ELMo 给出随上下文变化的表示。
  • BERT 使用 Transformer 的编码器,是用掩码词预测(MLM)和下一句预测进行预训练的双向模型。GPT 是用解码器预测下一个词的自回归型模型。
  • 语音:A-D 转换(采样、量化)→ 用 FFT 得到频谱 → 梅尔尺度的 MFCC 等特征。CTC 学习输入与输出长度不同的数据之间的对应。WaveNet 直接生成语音波形。
  • DQN 用 CNN 近似 Q 函数,通过经验回放和目标网络实现稳定。RLHF 根据人的评价建立奖励模型,并用强化学习调整语言模型。sim2real 把在仿真中的学习迁移到真实设备上(域随机化)。
  • GAN 让生成器与判别器相互竞争。Pix2Pix 进行成对图像的转换,CycleGAN 进行无需成对的转换。扩散模型通过学习去噪过程来生成。NeRF 根据多个视角的图像表示三维场景。
  • 迁移学习把已训练的模型挪用于其他任务,微调还会对权重进行追加调整。灾难性遗忘是学习新任务时丢失以前知识的现象。CLIP 学习把图像与文本对应起来,能以零样本方式分类。
  • Grad-CAM 利用梯度,用热力图显示图像的哪些部分对判断起了作用。LIME 用局部的简单模型进行近似,SHAP 用博弈论的沙普利值显示特征的贡献。
  • 蒸馏利用大模型(教师)的输出训练小模型(学生)。剪枝删除重要度低的权重,量化降低数值精度(位数)。

工作中的应用场景

  • 零售用物体检测从店铺摄像头影像中找出货架缺货,并在店内终端上运行为边缘 AI 进行了量化和蒸馏的模型。

考试评估项目(来自考试指南)

  • 画像認識(物体識別・物体検出・セグメンテーション・姿勢推定;AlexNet、VGG、GoogLeNet、ResNet、EfficientNet、R-CNN 系、YOLO、SSD、U-Net、Mask R-CNN、Vision Transformer)
  • 自然言語処理(BoW、TF-IDF、word2vec、fastText、ELMo、BERT、GPT、LLM、GLUE)
  • 音声処理(A-D 変換、PCM、FFT、MFCC、隠れマルコフモデル、WaveNet、CTC、話者識別)
  • 深層強化学習(DQN、ダブル DQN、Rainbow、A3C、PPO、AlphaGo・AlphaStar、RLHF、sim2real、オフライン強化学習)
  • データ生成(GAN、DCGAN、Pix2Pix、CycleGAN、Diffusion Model、NeRF)
  • 転移学習・ファインチューニング(Few-shot、破滅的忘却、自己教師あり学習)・マルチモーダル(CLIP、DALL-E、基盤モデル、Zero-shot)
  • モデルの解釈性(XAI、CAM、Grad-CAM、LIME、SHAP、Permutation Importance)・モデルの軽量化(蒸留、プルーニング、量子化、宝くじ仮説、エッジ AI)

学习资源

06

面向 AI 的社会落地・数理统计

AI の社会実装に向けて・数理統計

5%(当サイト設定)

学习目标

  • 能说明 CRISP-DM 的工序以及 PoC、MLOps 的作用
  • 能说明数据收集与标注的注意事项,以及数据泄漏等陷阱
  • 能计算并选择基本的统计量、概率分布和距离

要点

  • CRISP-DM:业务理解 → 数据理解 → 数据准备 → 建模 → 评估 → 部署。
  • 通过 PoC(概念验证)小规模确认效果和可行性后再正式引入。反复做 PoC 却迟迟进不了生产的状态也被称为“PoC 贫困”。
  • MLOps 把模型的开发与运维一体化推进,进行准确度监控、重新训练和版本管理。运行中数据分布发生变化时准确度会下降(数据漂移、概念漂移)。
  • 标注是附加正确标签的工作,要把标准文档化,并确认作业者之间的偏差。
  • 数据泄漏是本来不能使用的信息(未来的信息或正确答案本身)混入训练,使评估结果不当地变好的问题。
  • 中位数不易受离群值影响。即使存在相关也不一定存在因果,由第三因素造成的表面相关称为伪相关。
  • 余弦相似度衡量向量方向的接近程度(文档相似度等),马氏距离是考虑了数据分布(协方差)的距离,用于异常检测。

工作中的应用场景

  • 经营企划用 3 个月的 PoC 试行需求预测 AI,事先确定评估指标和合格标准,再判断是否正式引入。

考试评估项目(来自考试指南)

  • AI プロジェクトの進め方(CRISP-DM、CRISP-ML、PoC、MLOps、BPR、アジャイル、Web API、クラウド、Docker、Jupyter Notebook)
  • データの収集・加工・分析・学習(オープンデータセット、アノテーション、コーパス、データリーケージ)
  • AI に必要な数理・統計知識(平均・中央値・最頻値、分散・標準偏差、相関係数・疑似相関、正規分布・二項分布・ポアソン分布、条件付き確率、最尤法、最小二乗法、仮説検定、ユークリッド距離・マハラノビス距離・コサイン類似度)

学习资源

07

与 AI 相关的法律与合同

AI に関する法律と契約

13%(当サイト設定)

学习目标

  • 能区分并套用个人信息、个人数据、需特别注意的个人信息、匿名加工信息和假名加工信息
  • 能说明第 30 条之 4 的宗旨,以及 AI 生成物的作品性和著作权侵权的思路
  • 能说明商业秘密的三要件、AI 开发合同的阶段以及准委托与承揽的区别

要点

  • 个人信息是关于在世个人、能识别特定个人的信息。人脸认证数据、个人编号(My Number)等个人识别符号单独即属于个人信息。人种、信条、病史等属于需特别注意的个人信息,取得时原则上需要本人同意。
  • 向第三方提供原则上需要本人同意。但委托、业务继承、共同利用不属于“第三方”。
  • 匿名加工信息是经过加工、无法识别本人也无法复原的信息,在一定条件下可不经本人同意向第三方提供。假名加工信息是经过加工、不与其他信息对照就无法识别本人的信息,可用于公司内部分析,但原则上不能向第三方提供。
  • GDPR 是欧盟的个人数据保护条例,也可能适用于向欧盟境内个人提供商品或服务的境外企业。
  • 著作权法第 30 条之 4:不以享受思想或情感为目的的利用(为 AI 训练进行的信息分析等)原则上无需许可即可进行,但不当损害著作权人利益的情形除外。
  • AI 生成物在人具有创作意图并作出创作性贡献时可能成为作品。生成物若与既有作品相似且依据了该作品,就可能构成侵权。
  • 专利的要件有新颖性、创造性等。商业秘密的三要件是秘密管理性、有用性和非公知性。限定提供数据是通过 ID、密码等加以管理并向特定对象提供的数据。
  • 日本经济产业省的《关于 AI 与数据利用的合同指南》提倡评估 → PoC → 开发 → 追加学习的探索式分阶段开发。成果不确定的阶段被认为适合准委托合同。

工作中的应用场景

  • 法务与交易方共同开发需求预测模型时,在合同中确定各阶段的合同形式、已训练模型和数据的权利归属以及使用条件。

考试评估项目(来自考试指南)

  • 個人情報保護法(個人情報・個人識別符号・要配慮個人情報、利用目的、第三者提供、委託、匿名加工情報・仮名加工情報、GDPR)
  • 著作権法(著作物・創作性、著作権法 30 条の 4、AI 生成物、利用規約)
  • 特許法(発明・新規性・進歩性、職務発明)
  • 不正競争防止法(営業秘密の三要件、限定提供データ)・独占禁止法
  • AI 開発委託契約(AI・データの利用に関する契約ガイドライン、探索的段階型、NDA、準委任契約・請負契約)
  • AI サービス提供契約(SaaS、利用規約、データ利用権、精度保証)

学习资源

08

AI 伦理・AI 治理

AI 倫理・AI ガバナンス

20%(当サイト設定)

学习目标

  • 能说明硬法与软法、基于风险的方法的思路及其优缺点
  • 能把隐私、公平性、安全性、透明性问题的原因和对策套用到案例中
  • 能说明 AI 治理的体制和方法(伦理评估、多样化成员、审计)

要点

  • 硬法是具有法律约束力的法律,软法是指南等不具约束力的规范。软法能灵活应对变化,但强制力较弱。
  • 基于风险的方法:根据风险大小改变规制强度(EU AI Act 把 AI 分为禁止、高风险、有限风险和最小风险)。
  • 隐私设计(Privacy by Design)是从企划和设计阶段就纳入隐私保护的思路。利用摄像头图像时,要进行通知和张贴告示、防止目的外利用、限定保存期限等。
  • 公平性:训练数据的偏差(抽样偏差)或对过去歧视的反映,会导致对特定属性不利的结果。即使去掉敏感属性,也可能通过与之相关的代理变量产生歧视。
  • 对抗样本(Adversarial Examples)是用人察觉不到的微小噪声诱使 AI 误识别的攻击。数据投毒(Poisoning)是在训练数据中混入不正当数据的攻击。模型窃取是通过对 API 的大量查询复制模型的攻击。
  • 过滤气泡是因推荐而只被自己喜欢的信息包围的状态,回音室是意见相同的人之间意见被放大的现象。
  • 模型训练的电力消耗和 CO2 排放是环境方面的论点。AI 带来的就业变化、技能丧失以及与 AI 的协作是劳动方面的论点。
  • AI 治理把制定 AI 方针、伦理评估、由多样化成员(多元化)进行讨论、外部审计以及确保可追溯性结合起来。

工作中的应用场景

  • 人事在把 AI 用于招聘的材料筛选之前,确认训练数据的偏差和各属性之间结果的差异,并确定由人作最终判断的体制和说明方法。

考试评估项目(来自考试指南)

  • 国内外のガイドライン(AI 原則、ハードロー・ソフトロー、リスクベースアプローチ、EU AI Act、AI 事業者ガイドライン)
  • プライバシー(プライバシー・バイ・デザイン、カメラ画像利活用ガイドブック)
  • 公平性(アルゴリズムバイアス、サンプリングバイアス、センシティブ属性)
  • 安全性とセキュリティ(Adversarial Examples、データ汚染、モデル窃取、セキュリティ・バイ・デザイン)・悪用(ディープフェイク、フェイクニュース)
  • 透明性(説明可能性、データの来歴、ブラックボックス)・民主主義(フィルターバブル、エコーチェンバー)
  • 環境保護・労働政策・その他の価値(インクルージョン、軍事利用)
  • AI ガバナンス(AI ポリシー、倫理アセスメント、ステークホルダーの関与、監査、トレーサビリティ)

学习资源

读完之后

使用须知(非官方、原创题目、不保证合格)