G検定 · LESSON 5

ディープラーニングの応用例16%(当サイト設定) · 7項目

画像認識、自然言語処理、音声処理、深層強化学習、データ生成、転移学習とマルチモーダル、解釈性と軽量化を学びます。

5.1画像認識

画像認識(物体識別・物体検出・セグメンテーション・姿勢推定;AlexNet、VGG、GoogLeNet、ResNet、EfficientNet、R-CNN 系、YOLO、SSD、U-Net、Mask R-CNN、Vision Transformer)

概念

画像認識のタスクには、画像全体のクラスを当てる物体識別、物体の位置を矩形で示す物体検出、画素ごとにクラスを当てるセグメンテーション(セマンティック・インスタンス・パノプティック)、人の関節の位置を推定する姿勢推定(OpenPose など)があります。識別のモデルは AlexNet → VGG(3×3 の畳み込みを重ねる)→ GoogLeNet(Inception モジュール)→ ResNet(スキップ結合)→ EfficientNet(深さ・幅・解像度をバランスよく拡大)と発展しました。検出は 2 段階の R-CNN 系(Faster R-CNN)と 1 段階の YOLO・SSD、セグメンテーションは U-Net・Mask R-CNN、Vision Transformer は画像をパッチに分けて Transformer で処理します。

仕組み・手順

  1. 必要な出力(クラス・矩形・画素・関節)からタスクを決める
  2. 速度が重要な検出には 1 段階の YOLO・SSD を選ぶ
  3. 医療画像のセグメンテーションには U-Net がよく使われる

業務での例

工場のラインで部品の位置をリアルタイムに検出するため YOLO を使い、傷の領域を画素単位で示すためにセグメンテーションのモデルを組み合わせる。

紛らわしい点・試験の注意

ミニクイズ

Q1. 画像認識のタスクを選ぶ。自動運転で、画像の画素ごとに「道路」「歩道」「空」などのクラスを割り当てたい。重なった車を 1 台ずつ区別する必要はない。どのタスクに当たるか。

  1. 物体識別(画像分類)
  2. インスタンスセグメンテーション
  3. セマンティックセグメンテーション
  4. 物体検出
答えと解説を見る

正解:C セマンティックセグメンテーション

セマンティックセグメンテーションは画素単位の分類。同じクラスの個体は区別しない。(判断の分かれ目:画素ごとのクラス、個体は区別しない)

Q2. 画像認識のタスクを選ぶ。重なり合って写る複数の人を、1 人ずつ別の領域として画素単位で切り分けたい。どのタスクに当たるか。

  1. 物体識別(画像分類)
  2. インスタンスセグメンテーション
  3. セマンティックセグメンテーション
  4. 物体検出
答えと解説を見る

正解:B インスタンスセグメンテーション

インスタンスセグメンテーション(Mask R-CNN など)は個体ごとに領域を分ける。両方を統合したのがパノプティックセグメンテーション。(判断の分かれ目:個体ごとの領域を画素単位で)

参考リンク

5.2自然言語処理

自然言語処理(BoW、TF-IDF、word2vec、fastText、ELMo、BERT、GPT、LLM、GLUE)

概念

BoW(Bag of Words)は語の出現回数で文書を表し、TF-IDF は文書内の頻度と文書全体での珍しさで語の重要度を表します。word2vec は語を分散表現(ベクトル)にする手法で、周辺の語から中心の語を予測する CBOW と、その逆の skip-gram があります。fastText は部分文字列も使い未知の語に強く、ELMo は文脈に応じた表現を双方向 LSTM で得ます。BERT は Transformer のエンコーダで、マスクした語の予測(MLM)と次の文の予測で事前学習します。GPT は Transformer のデコーダで次の語を予測し、大規模化して LLM へと発展しました。GLUE は言語理解の性能を測るベンチマークです。

仕組み・手順

  1. 語の表現の進化(数え上げ → 分散表現 → 文脈に応じた表現)を整理する
  2. BERT(理解)と GPT(生成)の違いを理解する
  3. 用途に合わせて事前学習のモデルをファインチューニングする

業務での例

問い合わせの分類に BERT をファインチューニングし、FAQ の回答文の生成には GPT 系の LLM を使う。

紛らわしい点・試験の注意

ミニクイズ

Q1. 自然言語処理の文書や単語の表現を選ぶ。「王様−男性+女性≒女王」のように、意味の近い単語が近くなる密なベクトル(分散表現)を、周辺の単語から学習したい。最も適したものはどれか。

  1. n-gram
  2. word2vec
  3. TF-IDF
  4. BoW(Bag-of-Words)
答えと解説を見る

正解:B word2vec

word2vec には CBOW とスキップグラムがある。(判断の分かれ目:意味を表す密なベクトルを学習)

Q2. 自然言語処理の文書や単語の表現を選ぶ。連続する N 個の文字や単語の並びを単位として、言葉のつながりの出現の確率を数えたい。最も適したものはどれか。

  1. TF-IDF
  2. BoW(Bag-of-Words)
  3. n-gram
  4. word2vec
答えと解説を見る

正解:C n-gram

n-gram は連続する N 個の単位。言語モデルや検索の索引に使われてきた。(判断の分かれ目:連続する N 個の並び)

参考リンク

5.3音声処理

音声処理(A-D 変換、PCM、FFT、MFCC、隠れマルコフモデル、WaveNet、CTC、話者識別)

概念

音声はマイクで取り込んだアナログの信号を A-D 変換(標本化・量子化)でデジタルにします(PCM)。高速フーリエ変換(FFT)で周波数の成分に分け、人の聴覚の特性を考慮した特徴量の MFCC(メル周波数ケプストラム係数)を使います。従来の音声認識は隠れマルコフモデル(HMM)で音素の系列をモデル化しました。WaveNet は音声の波形を直接生成するモデルで、音声合成の品質を大きく上げました。CTC は入力と出力の長さが異なる系列の対応付けを学ぶ方法です。話者識別は誰が話しているかを判定します。

仕組み・手順

  1. 音声のデジタル化の流れ(標本化 → 量子化 → 符号化)を理解する
  2. 特徴量(スペクトル・MFCC)の意味を理解する
  3. 音声認識と音声合成で使う技術を区別する

業務での例

コールセンターの録音を、CTC を使った音声認識で文字にし、話者識別でオペレーターと顧客の発言を分ける。

紛らわしい点・試験の注意

ミニクイズ

Q1. 音声処理の技術を選ぶ。音声の波形を、過去のサンプルから次のサンプルを予測する形で直接生成し、自然な音声合成を実現した DeepMind のモデルはどれか。

  1. CTC
  2. 隠れマルコフモデル
  3. WaveNet
  4. MFCC(メル周波数ケプストラム係数)
答えと解説を見る

正解:C WaveNet

WaveNet は Dilated Causal Convolution を使い、音声合成の品質を大きく上げた。(判断の分かれ目:波形を直接生成)

Q2. 音声処理の技術を選ぶ。ディープラーニングが普及する前の音声認識で、音素の状態の遷移を確率でモデル化するのに使われた手法はどれか。

  1. 隠れマルコフモデル
  2. MFCC(メル周波数ケプストラム係数)
  3. CTC
  4. WaveNet
答えと解説を見る

正解:A 隠れマルコフモデル

隠れマルコフモデル(HMM)は音響モデルとして長く使われた。(判断の分かれ目:状態遷移の確率モデル)

参考リンク

5.4深層強化学習

深層強化学習(DQN、ダブル DQN、Rainbow、A3C、PPO、AlphaGo・AlphaStar、RLHF、sim2real、オフライン強化学習)

概念

DQN は Q 学習の行動価値をディープラーニングで近似し、経験再生(過去の経験をランダムに使う)とターゲットネットワークで学習を安定させ、Atari のゲームで成果を上げました。ダブル DQN は Q 値の過大評価を抑え、Rainbow は複数の改良を組み合わせます。A3C は複数のエージェントで非同期に学習し、PPO は方策の更新の幅を制限して安定させます。AlphaGo(囲碁)、AlphaStar(StarCraft II)が代表的な成果です。RLHF は人の評価で LLM を調整します。sim2real はシミュレーションで学んだ方策を実世界に移すこと、オフライン強化学習は集めたデータだけで学ぶ方法です。

仕組み・手順

  1. DQN の安定化の工夫(経験再生・ターゲットネットワーク)を理解する
  2. 実機で試すのが危険・高価ならシミュレーションと sim2real を使う
  3. 環境と相互作用できないならオフライン強化学習を検討する

業務での例

ロボットアームの把持をシミュレーションで学習し、照明や摩擦をランダムに変える(ドメインランダマイゼーション)ことで実機への移行(sim2real)を容易にする。

紛らわしい点・試験の注意

ミニクイズ

Q1. 対話の AI の出力を、人の好みや安全性に合わせて調整したい。人が出力を比べて評価し、その評価で報酬モデルを作って強化学習で調整する手法はどれか。

  1. インストラクションチューニング
  2. 知識の蒸留
  3. RLHF
  4. DPO
答えと解説を見る

正解:C RLHF

RLHF は LLM の出力を人の好みや安全性に合わせる手法。報酬モデルの学習と PPO などによる最適化を行う。 【他の選択肢】インストラクションチューニングは指示と回答の組で教師あり学習する。蒸留は大きなモデルの知識を移す。DPO は報酬モデルと強化学習を使わず、好みのデータで直接最適化する。

Q2. StarCraft II でトッププレイヤーの水準に達した DeepMind のエージェントはどれか。

  1. AlphaStar
  2. OpenAI Five
  3. AlphaGo Zero
  4. Agent57
答えと解説を見る

正解:A AlphaStar

AlphaStar はマルチエージェント強化学習なども使った。【他の選択肢】自己対戦の囲碁は AlphaGo Zero、Atari 57 種は Agent57、Dota 2 は OpenAI Five。 【他の選択肢】Agent57 は Atari の 57 種類のゲーム、AlphaGo Zero は自己対戦の囲碁、OpenAI Five は Dota 2 のエージェント。

参考リンク

5.5データ生成

データ生成(GAN、DCGAN、Pix2Pix、CycleGAN、Diffusion Model、NeRF)

概念

GAN(敵対的生成ネットワーク)は、本物らしいデータを作る生成器と、本物か偽物かを見分ける識別器を競わせて学習します。DCGAN は畳み込みを使った GAN、Pix2Pix はペアの画像(線画と写真など)で画像の変換を学び、CycleGAN はペアのない 2 つのドメイン(馬とシマウマなど)の変換を学びます。拡散モデル(Diffusion Model)はノイズを加える過程の逆を学び、ノイズから画像を生成します。NeRF は複数の視点の写真から 3 次元の空間を表現し、新しい視点の画像を生成します。

仕組み・手順

  1. ペアのデータがあるなら Pix2Pix、ないなら CycleGAN
  2. 高品質で多様な画像の生成には拡散モデルを使う
  3. 3 次元のシーンの再構成には NeRF を使う

業務での例

昼の街の写真と夜の街の写真(ペアではない)から、昼の写真を夜の雰囲気に変換するため CycleGAN を使う。

紛らわしい点・試験の注意

ミニクイズ

Q1. GAN(敵対的生成ネットワーク)の説明として最も適切なものはどれか。

  1. 画像にノイズを加える過程を逆にたどり、ノイズを取り除きながら画像を生成する
  2. 入力を潜在表現に圧縮して復元するよう学習し、復元の誤差で異常を検知する
  3. 前の単語から次の単語を予測することを繰り返し、文章を生成する
  4. 生成器と識別器を競わせて学習し、本物に近いデータを生成する
答えと解説を見る

正解:D 生成器と識別器を競わせて学習し、本物に近いデータを生成する

GAN はイアン・グッドフェローらが提案した。CNN を使った DCGAN で画像の生成が安定した。

Q2. データ生成のモデルを選ぶ。線画と着色画のような、対応するペアの画像を大量に用意できる場合に、線画から着色画への変換を学習したい。最も適したものはどれか。

  1. Pix2Pix
  2. Diffusion Model(拡散モデル)
  3. NeRF
  4. CycleGAN
答えと解説を見る

正解:A Pix2Pix

Pix2Pix は条件付き GAN でペア画像の変換を学ぶ。

参考リンク

5.6転移学習・マルチモーダル

転移学習・ファインチューニング(Few-shot、破滅的忘却、自己教師あり学習)・マルチモーダル(CLIP、DALL-E、基盤モデル、Zero-shot)

概念

転移学習は学習済みのモデルを別のタスクに使う方法で、ファインチューニングは学習済みの重みを初期値にして新しいデータで追加学習します。Few-shot は少数の例で、Zero-shot は例なしでタスクを行います。破滅的忘却は、新しいタスクを学ぶと以前の知識を忘れる現象です。自己教師あり学習は、データ自体から作った問題(マスクした部分の予測など)で、ラベルなしで事前学習します。CLIP は画像とテキストを同じ空間に対応付けるモデル、DALL-E はテキストから画像を生成するモデルです。

仕組み・手順

  1. データが少ないときは学習済みモデルの転移学習を使う
  2. 大規模なラベルなしデータは自己教師あり学習で活用する
  3. 画像とテキストを結び付ける用途には CLIP のようなモデルを使う

業務での例

商品の画像の検索で、CLIP を使って「赤いスニーカー」という文章に近い画像を、追加の学習なしに(Zero-shot)検索する。

紛らわしい点・試験の注意

ミニクイズ

Q1. 「破滅的忘却」の説明として最も適切なものはどれか。

  1. 学習データの中のラベルの誤りにより、モデルの精度が少しずつ低下していく現象
  2. 新しいタスクを学習すると、以前に学習したタスクの性能が大きく下がる現象
  3. 運用中にデータの傾向が変わり、モデルの予測の精度が時間とともに低下する現象
  4. 学習率が大きすぎて、学習の途中で誤差が急激に大きくなり発散する現象
答えと解説を見る

正解:B 新しいタスクを学習すると、以前に学習したタスクの性能が大きく下がる現象

ファインチューニングで起こりやすい。【他の選択肢】運用中の精度低下はデータドリフト・コンセプトドリフト。

Q2. 大量のデータで事前学習され、追加の調整で翻訳・要約・分類など多様なタスクに適応できる大規模なモデルを何と呼ぶか。

  1. マルチタスク学習
  2. エキスパートシステム
  3. 転移学習
  4. 基盤モデル(Foundation Model)
答えと解説を見る

正解:D 基盤モデル(Foundation Model)

GPT・BERT・CLIP などが基盤モデルの例。1 つのモデルで複数のタスクを学ぶマルチタスク学習の考えとも関係する。 【他の選択肢】マルチタスク学習は複数のタスクを同時に学ぶ学習の方法。転移学習は学習済みの知識を別のタスクに使う手法で、モデルの呼び名ではない。エキスパートシステムはルールで動く。

参考リンク

5.7モデルの解釈性・軽量化

モデルの解釈性(XAI、CAM、Grad-CAM、LIME、SHAP、Permutation Importance)・モデルの軽量化(蒸留、プルーニング、量子化、宝くじ仮説、エッジ AI)

概念

XAI(説明可能な AI)は AI の判断の理由を示す技術です。CAM・Grad-CAM は画像のどこに注目したかをヒートマップで示し、LIME は予測の周辺で単純なモデルで近似して説明し、SHAP はゲーム理論のシャープレイ値で各特徴量の貢献を示します。Permutation Importance は特徴量をシャッフルしたときの性能の低下で重要度を測ります。軽量化には、大きなモデル(教師)の出力で小さなモデル(生徒)を学習する蒸留、不要な重みを削るプルーニング、重みの精度を下げる量子化があります。宝くじ仮説は、大きなネットワークの中に単独でも高い性能を出す小さなサブネットワークがあるという仮説です。エッジ AI は端末の上で推論する AI です。

仕組み・手順

  1. 説明の対象(画像の注目箇所か、特徴量の貢献か)で手法を選ぶ
  2. 端末で動かすなら量子化・プルーニング・蒸留で軽量化する
  3. 軽量化の後は精度の低下を確認する

業務での例

スマートフォンのアプリで画像分類を動かすため、モデルを 8 ビットに量子化し、Grad-CAM で誤分類の原因の注目箇所を確認する。

紛らわしい点・試験の注意

ミニクイズ

Q1. 音声をコンピュータで扱うための A-D 変換の説明として最も適切なものはどれか。

  1. 話している人が誰かを、声の特徴から判定する
  2. 文字の列から、人の声のような音声の波形を作り出す
  3. 音声の波形を周波数ごとの成分に分解し、どの高さの音が含まれるかを求める
  4. アナログの波形を一定の間隔で取り出し(標本化)、数値に置き換える(量子化)
答えと解説を見る

正解:D アナログの波形を一定の間隔で取り出し(標本化)、数値に置き換える(量子化)

A-D 変換で得たデジタル音声の代表的な形式が PCM。周波数への分解は高速フーリエ変換(FFT)、話者の判定は話者識別、最後の選択肢は音声合成。

Q2. 説明可能 AI(XAI)が特に求められる場面として最も適切なものはどれか。

  1. 大量の画像を、利用者の好みとは関係なく撮影した日付の順に並べる場面
  2. 社内の会議室の予約の空き状況を、カレンダーに表示する場面
  3. 融資の審査や医療の診断の支援など、判断の理由の説明が必要な場面
  4. ゲームの中のキャラクターの動きを、ランダムに変化させて楽しさを増やす場面
答えと解説を見る

正解:C 融資の審査や医療の診断の支援など、判断の理由の説明が必要な場面

影響の大きい判断では、根拠の説明、誤りの発見、公平性の確認のために解釈性が必要になる。

参考リンク

レッスンは当サイトが各試験実施団体の公開ページとシラバスをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。

ご利用上の注意(非公式・独自問題・合格保証なし)