AIAI Agent Dev Labaiagentdev-lab.com
3分適性診断 →
無料で学習を始める／ログイン無料で始める
メニュー

PMLE · LESSON 6

セクション6：AI ソリューションの監視約13% · 2項目

AI のリスク・責任ある AI・説明可能性と、モデルの継続的な監視と評価を学びます。

6.1AI のリスク・責任ある AI・説明可能性

AI のリスク（データの流出、悪意のあるプロンプト、LLM への機密情報の共有、Regex・セーフティフィルタ・Model Armor）、責任ある AI（バイアスの監視）、Explainable AI

概念

AI のリスクには、データの流出、悪意のあるプロンプト（プロンプトインジェクション・ジェイルブレイク）、LLM への機密情報の入力などがあります。対策として、正規表現などの入力・出力のフィルター、安全性のフィルター、プロンプトと応答を検査する Model Armor を使います。責任ある AI ではバイアスを監視し、Explainable AI（特徴量のアトリビューション：サンプル Shapley・統合勾配など）で予測の理由を示します。

仕組み・手順

  1. 想定される脅威（流出・インジェクション）を洗い出す
  2. Model Armor や安全性のフィルターで入出力を検査する
  3. 属性ごとの性能を監視してバイアスを確認する
  4. Explainable AI で特徴量の寄与を示す

業務での例

社外向けのチャットで、Model Armor でプロンプトインジェクションと機密情報の出力を検査し、問題のある応答をブロックする。

紛らわしい点・試験の注意

ミニクイズ

Q1. 社員が生成 AI のチャットに顧客のデータを貼り付けるおそれがある。対策として最も適切なものはどれか。

  1. LLM の出力を Model Armor で検査し、有害な内容をブロックする
  2. 機密データを検出・マスクしてから LLM に入力する
  3. 利用の規程を作り、顧客のデータを入れないよう研修する
  4. プロンプトのログを Cloud Logging に保存し、後から監査する
答えと解説を見る

正解：B　機密データを検出・マスクしてから LLM に入力する

Model Armor や Sensitive Data Protection を組み合わせる。 【他の選択肢】ログの監査は事後の確認。研修は大切だが、誤りを防ぐ仕組みにならない。出力の検査は入力された機密データの共有を防がない。

Q2. 与信のモデルで、個々の審査の結果の理由を担当者に示したい。Explainable AI を使う利点として最も適切なものはどれか。

  1. 予測の精度を上げ、誤りを減らせる
  2. 個々の予測にどの特徴量がどれだけ寄与したかを示せる
  3. 予測の因果関係を示し、結果を変える方法を保証できる
  4. モデルの公平性を自動で保証できる
答えと解説を見る

正解：B　個々の予測にどの特徴量がどれだけ寄与したかを示せる

アトリビューションは説明の参考で、因果を示すものではない。 【他の選択肢】アトリビューションは寄与の参考で、因果を示さない。公平性の保証や精度の向上の機能ではない。

参考リンク

6.2Model Monitoring と継続的な評価

Model Monitoring による継続的な評価、学習と配信のスキュー・データドリフト・コンセプトドリフト・特徴量アトリビューションのドリフト、生成 AI の監視・テスト・評価

概念

Model Monitoring は、本番の入力と予測を監視し、学習と配信のスキュー（学習データと本番の入力の違い）、データドリフト（本番の入力の時間による変化）、特徴量のアトリビューションのドリフトを検出します。コンセプトドリフトは、入力と正解の関係自体が変わることで、正解のラベルとの比較で見つけます。生成 AI は評価のサービスで定期的に品質を測り、テストを継続します。

仕組み・手順

  1. 基準のデータ（学習データ）と閾値を設定する
  2. スキューとドリフトを監視し、アラートを設定する
  3. 正解のラベルを集めて、精度の低下（コンセプトドリフト）を確認する
  4. 生成 AI は評価データで定期的に品質を測る

業務での例

コロナ禍で購買の行動が変わり、入力の分布は似ていても需要との関係が変わった（コンセプトドリフト）ため、最新のデータで再学習する。

紛らわしい点・試験の注意

ミニクイズ

Q1. Model Monitoring を設定する目的として最も適切なものはどれか。

  1. 学習のデータを、自動的にラベル付けし直す
  2. モデルの学習の損失を、学習の途中で自動的に下げる
  3. エンドポイントの URL を、定期的に自動で変更する
  4. スキューやドリフトを検知して通知する
答えと解説を見る

正解：D　スキューやドリフトを検知して通知する

継続的な評価の指標を設定し、アラートを再学習につなげる。

Q2. スキューの検知に必要なものとして最も適切なものはどれか。

  1. 比較の基準となる学習のデータ
  2. 本番のエンドポイントの URL の一覧だけ
  3. モデルの開発者の名前と連絡先だけ
  4. ノートブックのファイルの一覧だけ
答えと解説を見る

正解：A　比較の基準となる学習のデータ

学習のデータの分布と本番の分布を比べる。ドリフトは過去の本番のデータと比べる。

参考リンク

レッスンは当サイトがGoogle Cloud 認定の公開ページと試験ガイドをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。

ご利用上の注意（非公式・独自問題・合格保証なし）