生成AIパスポート · LESSON 2
第2章 生成AI19%（当サイト設定） · 6項目
生成 AI を支える技術、学習と推論のプロセス、LLM の基礎、主要なモデルの動向、各モダリティの生成 AI を学びます。
2.1生成 AI を支える技術革新
生成AIを支える技術革新（Transformer以降、拡散モデル、基盤モデル・マルチモーダル）
概念
2017 年の Transformer は、Attention（注意機構）で文中の単語どうしの関係を並列に計算し、大規模な言語モデルの基礎になりました。拡散モデルは、ノイズから少しずつ画像を復元する方法で、画像生成の主流です。基盤モデルは大量のデータで事前学習し、さまざまなタスクに適応できる大規模なモデル、マルチモーダルはテキスト・画像・音声など複数の種類のデータを扱えることです。
仕組み・手順
- テキストの生成は Transformer ベースの LLM
- 画像の生成は拡散モデルが主流
- 画像と文章を一緒に扱う場合はマルチモーダルのモデル
業務での例
会議のホワイトボードの写真を撮って、マルチモーダルの生成 AI に内容の要約と ToDo の抽出を依頼する。
紛らわしい点・試験の注意
- Transformer の中心は Attention（RNN のような逐次処理ではない）
- 拡散モデルは GAN とは異なる生成の方式
- 基盤モデルは特定のタスク専用ではない
ミニクイズ
Q1. Transformer の Self-Attention（自己注意機構）の説明として最も適切なものはどれか。
- 文中の各トークンが他のどのトークンにどれだけ注目すべきかを、Query・Key・Value で計算する仕組み
- 文を先頭から 1 トークンずつ順に読み、前の時点の状態を次の計算に引き継いでいく仕組み
- 生成した文章を別のモデルが評価して点数を付け、基準を満たした文章だけを出力する仕組み
- 入力に小さなフィルタをずらしながら適用し、近くにあるトークンの局所的な特徴だけを抽出する仕組み
答えと解説を見る
正解：A 文中の各トークンが他のどのトークンにどれだけ注目すべきかを、Query・Key・Value で計算する仕組み
Self-Attention はトークンどうしの関連の強さを計算し、離れた語の関係もとらえる。順に読むのは RNN、フィルタは CNN。
Q2. 拡散モデル（Diffusion Model）が画像を生成する仕組みとして最も適切なものはどれか。
- 生成器と識別器を競わせ、識別器が見分けられない画像を作る
- 大量の画像から似た画像を検索し、それらを切り貼りして画像を作る方法で、新しい画像を生成する
- 人が描いた線画のルールを登録し、ルールに従って画像を描く
- 画像にノイズを加える過程を学習し、その逆にノイズを少しずつ取り除いて画像を作る
答えと解説を見る
正解：D 画像にノイズを加える過程を学習し、その逆にノイズを少しずつ取り除いて画像を作る
拡散モデルは拡散過程（ノイズの付加）と逆拡散過程（ノイズの除去）を使う。潜在拡散モデルは圧縮した潜在空間で処理して計算量を減らす。
参考リンク
2.2生成 AI の学習プロセス
生成AIの学習プロセス（事前学習・ファインチューニング・RLHF、スケーリング則）
概念
LLM は、大量のテキストで次の単語を予測する事前学習を行い、特定の用途に合わせてファインチューニングし、人の評価を報酬にした強化学習（RLHF）で、役に立ち安全な応答をするよう調整されます。スケーリング則は、モデルのパラメータ数・データ量・計算量を増やすほど性能が向上する経験則です。
仕組み・手順
- 事前学習で汎用の言語能力を得る
- ファインチューニングで特定のタスクや形式に適応する
- RLHF で人の好みや安全性に沿った応答にする
業務での例
社内の問い合わせ対応用に、汎用の LLM を自社の Q&A の例でファインチューニングし、回答の形式をそろえる。
紛らわしい点・試験の注意
- RLHF の「HF」は Human Feedback（人のフィードバック）
- スケーリング則は「大きくすれば必ず良い」ではなく、傾向の経験則
- ファインチューニングは事前学習をやり直すことではない
ミニクイズ
Q1. 「パラメータ数・データ量・計算量を増やすと、性能が予測可能な形で向上する」という経験則を何と呼ぶか。
- ムーアの法則
- 過学習
- 創発的能力
- スケーリング則
答えと解説を見る
正解：D スケーリング則
スケーリング則は大規模化を進める根拠となった。規模の拡大で突然現れる能力は創発的能力と呼ばれる。 【他の選択肢】創発的能力は規模の拡大で突然現れる能力。過学習は学習データに合いすぎる現象。ムーアの法則は半導体の集積度の経験則。
Q2. 生成 AI の学習について述べたものとして適切でないものはどれか。
- RLHF を行えば、モデルはハルシネーションを一切起こさなくなる
- 学習データに偏りがあると、出力にもバイアスが現れることがある
- ファインチューニングは特定の用途やドメインに合わせて追加で学習する
- 事前学習では大量のテキストで次トークン予測を学ぶ
答えと解説を見る
正解：A RLHF を行えば、モデルはハルシネーションを一切起こさなくなる
RLHF は応答を好ましい方向に近づけるが、ハルシネーションを完全になくすものではない。出力の確認は常に必要。
参考リンク
2.3生成 AI の推論プロセス
生成AIの生成（推論）プロセス（トークン化、埋め込み、次トークン予測、ハルシネーション、Temperature・Top-p、コンテキストウィンドウ）
概念
入力の文章はトークン（単語や文字の断片）に分けられ、埋め込み（ベクトル）に変換されます。LLM は次に来るトークンの確率を予測して 1 つずつ選び、文章を作ります。Temperature や Top-p は選び方のランダムさを調整し、低いと一貫した、高いと多様な出力になります。コンテキストウィンドウは一度に扱えるトークンの量です。ハルシネーションは、もっともらしいが事実と異なる内容を出力することです。
仕組み・手順
- 正確さが重要な用途では Temperature を低めにする
- 長い文書はコンテキストウィンドウに収まるか確認する
- 事実の確認が必要な内容は、出典で裏付けを取る
業務での例
議事録の要約では Temperature を低くして内容を忠実に、キャッチコピーの案出しでは高めにして多様な案を出させる。
紛らわしい点・試験の注意
- Temperature を下げてもハルシネーションはなくならない
- 日本語は英語よりトークン数が多くなりやすい
- LLM は「意味を理解して検索する」のではなく、確率的に次のトークンを予測する
ミニクイズ
Q1. 生成 AI がハルシネーションを起こす主な理由として最も適切なものはどれか。
- 利用者の入力が長すぎると、モデルが入力を無視して決まった文を返すため
- 事実を検索して答えるのではなく、確率的にもっともらしい次のトークンを予測して文章を作るため
- インターネットの最新の情報を常に参照しており、誤った情報も取り込むためと考えられているため
- Temperature を 0 にすると、事実と異なる内容を必ず出力するため
答えと解説を見る
正解：B 事実を検索して答えるのではなく、確率的にもっともらしい次のトークンを予測して文章を作るため
LLM は次トークン予測で文章を作るので、根拠のない内容でももっともらしく出力することがある。一次情報での確認や RAG が対策になる。
Q2. トークン化の説明として最も適切なものはどれか。
- 文章の内容を要約して、重要な文だけを残すこと
- 文章の中の個人情報を記号に置き換えて、匿名にすること
- 文章を暗号化して、外部に漏れても読めないようにすることで、情報漏えいを防ぐ
- 文章をモデルが扱う単位（単語やサブワードなど）に分割すること
答えと解説を見る
正解：D 文章をモデルが扱う単位（単語やサブワードなど）に分割すること
LLM はトークン単位で入力を処理し、次のトークンを予測する。料金や上限（コンテキストウィンドウ）もトークン数で数えることが多い。
参考リンク
2.4LLM の基礎
LLMの基礎（LMとLLM、オンプレミス／オープンソースLLM）
概念
言語モデル（LM）は単語の並びの確率を扱うモデルで、パラメータ数と学習データを大規模にしたものが LLM（大規模言語モデル）です。クラウドの API で使う LLM のほか、重みが公開されたオープンなモデル（オープンソース・オープンウェイト）を自社のサーバー（オンプレミス）や自社のクラウド環境で動かす選択肢もあります。
仕組み・手順
- データの機密性・コスト・性能・運用の体制を確認する
- 手軽さと高い性能が必要ならクラウドの API
- 外部にデータを出せない場合は、オープンなモデルを自社の環境で動かすことを検討する
業務での例
機密の設計書を扱う部署では、オープンなモデルを社内のサーバーで動かし、一般的な文書作成はクラウドの生成 AI サービスを使う。
紛らわしい点・試験の注意
- オープンなモデルを自社で動かすには、GPU などの計算資源と運用の体制が必要
- オープンなモデルにもライセンスの条件がある
- LLM の「大規模」はパラメータ数・データ量・計算量の大きさ
ミニクイズ
Q1. 大規模言語モデルで、規模を大きくしたときに、小さいモデルではできなかったタスクが急にできるようになる現象を何と呼ぶか。
- 創発的能力
- ハルシネーション
- 過学習
- 勾配消失
答えと解説を見る
正解：A 創発的能力
創発的能力は、一定の規模を超えると推論や指示の理解などの能力が現れる現象として知られる。
Q2. 言語モデル（LM）と大規模言語モデル（LLM）の関係として最も適切なものはどれか。
- LLM は、パラメータ数と学習データを大規模にした言語モデルで、幅広いタスクをこなせる
- LM は画像を扱うモデル、LLM は文章を扱うモデルのことである
- LLM は言語モデルとは別の仕組みで、文章の確率を扱わない
- LM はクラウドで動くモデル、LLM はオンプレミスで動くモデルのことであると区別されている
答えと解説を見る
正解：A LLM は、パラメータ数と学習データを大規模にした言語モデルで、幅広いタスクをこなせる
言語モデルは文章の出現の確率を扱うモデルで、それを大規模化したのが LLM。規模の拡大で汎用的な能力を持つようになった。
参考リンク
2.5主要な生成 AI モデルの動向
ChatGPTと主要な生成AIモデルの動向（推論モデル、Gemini・Claude・Copilot）
概念
主要なサービスには、OpenAI の ChatGPT、Google の Gemini、Anthropic の Claude、Microsoft の Copilot などがあります。近年は、回答の前に段階的に考える推論モデル（リーズニングモデル）が登場し、数学やプログラミングなどの複雑な問題で性能が上がりました。各サービスは、検索との連携・ファイルの分析・エージェントの機能など、得意な分野や連携できる製品が異なります。
仕組み・手順
- 業務で使うツール（Microsoft 365・Google Workspace など）との連携を確認する
- 複雑な分析や推論が必要なら推論モデルを使う
- データの取り扱い（学習への利用の有無・保存期間）の条件を確認する
業務での例
複雑な予算の計算の確認は推論モデルに任せ、日常のメールの下書きは高速なモデルを使い分ける。
紛らわしい点・試験の注意
- 推論モデルは考える時間がかかり、応答が遅く費用が高いことがある
- サービスの名前と機能は頻繁に変わるため、最新の情報を確認する
- 無料版と法人向けでデータの扱いが異なることがある
ミニクイズ
Q1. 数学の証明やプログラムのバグの原因の調査に生成 AI を使う。推論モデルを選ぶ理由として最も適切なものはどれか。
- 学習データが新しく、最新の情報に基づいて答えるため
- 回答の前に推論時の計算を多く使い、段階的に考えて精度を高めるため
- 外部のツールを使わずに、正確な計算の結果を保証するため
- 回答までの時間と費用が、通常のモデルより少ないため
答えと解説を見る
正解：B 回答の前に推論時の計算を多く使い、段階的に考えて精度を高めるため
推論モデルは思考の連鎖（Chain-of-Thought）のように手順を踏んで考える。その分、回答までの時間と費用は増えやすい。 【他の選択肢】推論モデルは時間と費用が増えやすい。学習データの新しさとは別の特徴。計算の正確さを保証するものではない。
Q2. ChatGPT などの生成 AI サービスについて述べたものとして適切でないものはどれか。
- 推論モデルのように、考える過程に計算を使って精度を高めるモデルがある
- テキストに加え、画像や音声も扱えるマルチモーダルなモデルが増えている
- コードの作成やブラウザの操作を行うエージェントの機能がある
- モデルは公開後に変わらないので、一度覚えれば最新の情報を追う必要はない
答えと解説を見る
正解：D モデルは公開後に変わらないので、一度覚えれば最新の情報を追う必要はない
生成 AI のモデルとサービスは変化が速く、継続的な情報収集が必要。シラバスも毎年改訂される。 【他の選択肢】他の 3 つは正しい。生成 AI のモデルとサービスは変化が速く、継続的な情報の収集が必要。
参考リンク
2.6各モダリティの生成 AI
各モダリティの生成AI（画像・音楽・音声・動画、C2PA・電子透かし）
概念
生成 AI は、テキストだけでなく、画像・音楽・音声・動画も生成できます。生成物の来歴を示す技術として、C2PA（コンテンツの来歴と真正性を記録する技術標準）や、電子透かし（見えない情報を埋め込む技術）があります。音声の生成はなりすましや詐欺にも悪用されうるため、注意が必要です。
仕組み・手順
- 用途に合うモダリティの生成 AI を選ぶ
- 生成物の権利と利用規約を確認する
- 来歴の情報や AI 生成の表示を適切に付ける
業務での例
広報が新製品のイメージ画像を生成 AI で作り、C2PA の来歴情報を保持したまま公開し、AI で生成したことを明記する。
紛らわしい点・試験の注意
- C2PA は来歴の記録で、内容の正しさを保証するものではない
- 電子透かしは編集で消える場合もある
- 実在の人物の声や顔の生成には法的・倫理的なリスクがある
ミニクイズ
Q1. マルチモーダルモデルの説明として最も適切なものはどれか。
- テキスト・画像・音声など、複数の種類（モダリティ）のデータを扱えるモデル
- 複数の言語の間で翻訳することだけに特化したモデル
- 複数の企業が共同で所有し、利用料を分け合うモデル
- 複数の小さなモデルを順番に呼び出し、結果を多数決で決めるモデルのことを指している
答えと解説を見る
正解：A テキスト・画像・音声など、複数の種類（モダリティ）のデータを扱えるモデル
マルチモーダルモデルは、画像を見て説明する・音声を聞いて要約するなど、モダリティをまたいだ処理ができる。
Q2. 埋め込み（Embedding）の説明として最も適切なものはどれか。
- プロンプトの中に、出力の形式を指定する例を埋め込んだもの
- Web ページに AI の回答を表示するために、HTML に埋め込んだ部品
- トークンや文章を、意味の近さを反映した数値のベクトルに変換したもの
- 画像の中に、生成 AI で作ったことを示す情報を見えない形で入れたもの
答えと解説を見る
正解：C トークンや文章を、意味の近さを反映した数値のベクトルに変換したもの
埋め込みでは意味の近い文章ほどベクトルが近くなる。RAG の意味的検索に使われる。画像に情報を入れるのは電子透かし。
参考リンク
レッスンは当サイトが各試験実施団体の公開ページとシラバスをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。
ご利用上の注意（非公式・独自問題・合格保証なし）
- 本サイトの問題は、公開されているスキル概要・試験ガイドをもとに当サイトが独自に作成した練習問題であり、実際の試験問題ではありません。
- 本サイトは生成AI活用普及協会（GUGA）・日本ディープラーニング協会（JDLA）その他の試験実施団体と提携しておらず、各団体による承認・推奨を受けたものではありません。記載の試験名・団体名は各権利者の商標または登録商標である場合があります。
- 本コンテンツは学習の補助であり、合格を保証するものではありません。試験の内容・形式・前提条件は予告なく変更されます。受験前に必ず試験ページで最新情報を確認してください。
- 本模擬試験の正答率は、本試験の換算（スケール）スコアとは換算できず、合否を予測するものではありません。
- 未ログイン時の進捗はこのブラウザ内（localStorage）に保存します。Google でログインすると学習記録をアカウントに同期します。端末内の記録とサーバー上の記録は別に削除します。詳しくは保存・同期の説明とCookie・保存設定をご確認ください。