AIF-C01 · LESSON 5

AI ソリューションのセキュリティ、コンプライアンス、ガバナンス14% · 2項目

AI システムを保護する方法と、AI システムのガバナンスとコンプライアンスを学びます。

5.1AI システムを保護する

5.1 AI システムを保護する方法を説明する。

概念

AI システムの保護は、IAM による最小権限、暗号化（KMS：保存時、TLS：転送時）、ネットワークの分離（VPC エンドポイント・PrivateLink で Bedrock にプライベートに接続）、データの保護（Macie で機密データの検出、学習データの来歴の管理）、ログ（CloudTrail・モデルの呼び出しのログ）で行います。生成 AI 特有の脅威として、プロンプトインジェクション・データの汚染（ポイズニング）・モデルの窃取があります。

仕組み・手順

Bedrock やモデルへのアクセスを IAM で最小限にする
VPC インターフェイスエンドポイントでインターネットを経由せずに Bedrock を呼ぶ
学習データとプロンプトのデータを KMS で暗号化する
Macie で S3 の学習データに個人情報がないか確認する
ガードレールとログでプロンプトの攻撃を検知・防止する

業務での例

社内のアプリから Bedrock を VPC エンドポイント経由で呼び出し、呼び出しのログを S3 に保存して、異常な利用がないか監査する。

紛らわしい点・試験の注意

Bedrock では、プロンプトや出力がモデルの提供者に共有されたり、学習に使われたりしない
責任共有モデルは AI のサービスにも適用される（データとアクセスの管理は利用者）
データの汚染は、学習データに悪意のあるデータを混ぜる攻撃

ミニクイズ

Q1. 生成 AI のアプリの責任共有モデルについて、利用者の責任として正しくないものはどれか。

Bedrock の基盤のサーバーの OS にセキュリティの更新を適用すること
アプリが扱うデータの分類と保護の方法を決めること
ガードレールなど、アプリの入力と出力に対する安全対策を設定すること
モデルを呼び出せる IAM の権限を管理すること

答えと解説を見る

正解：A　Bedrock の基盤のサーバーの OS にセキュリティの更新を適用すること

Bedrock の基盤のインフラは AWS が管理する。利用者は権限・データ・アプリの設定に責任を持つ。

Q2. Amazon Macie で、学習に使う予定の S3 のバケットに顧客の氏名と電話番号を含むファイルが見つかった。次に行うべきこととして最も適切なものはどれか。

見つかったことを記録せずに、予定どおりそのままのデータで学習を始めることにする
該当するデータを取り除くかマスキングし、利用の目的と権限を確認してから学習に使う
Macie の検出の結果が今後出ないように、Macie の設定を無効にしておくことにする
バケットを誰でも読めるように公開して、多くの人に内容を確認してもらうことにする

答えと解説を見る

正解：B　該当するデータを取り除くかマスキングし、利用の目的と権限を確認してから学習に使う

機密データが見つかったら、学習の前に除去やマスキングを行い、利用の目的・同意・権限を確認する。

参考リンク

5.2AI システムのガバナンスとコンプライアンス

5.2 AI システムのガバナンスとコンプライアンス規制を認識する。

概念

AI のガバナンスには、ポリシーの策定、データのライフサイクルの管理（保持・削除・来歴）、監視と監査、規制（ISO/IEC 42001 などの標準、各国の規制）への対応が含まれます。AWS のツールは、AWS Artifact（コンプライアンスの報告書）、AWS Audit Manager（監査の証拠の収集）、AWS Config（構成の評価）、CloudTrail（操作の記録）、Trusted Advisor です。生成 AI のセキュリティスコーピングマトリックスは、利用の形（消費者向けアプリ〜自社モデル）で責任の範囲を整理します。

仕組み・手順

AI の利用のポリシー（使ってよいデータ・用途・承認）を定める
データの来歴・保持・削除のルールを決める
Audit Manager で監査の証拠を自動で集める
Config と CloudTrail で設定と操作を記録する
定期的にレビューし、規制の変化に合わせて更新する

業務での例

監査に備えて、Audit Manager で生成 AI の利用に関する管理策の証拠を自動で集め、Artifact から AWS 側の認証の報告書を入手する。

紛らわしい点・試験の注意

Artifact は報告書の入手、Audit Manager は自社の監査の証拠の収集
スコーピングマトリックスでは、自社でモデルを学習するほど責任の範囲が広い
ガバナンスは導入時だけでなく運用中も継続する

ミニクイズ

Q1. 生成 AI のセキュリティのスコーピングマトリックスを使う目的として、最も適切なものはどれか。

モデルの学習にかかる時間を短くするための、GPU の割り当ての計画として使う
生成 AI のモデルの料金を、利用の形に応じて自動で割り引いてもらうための、AWS への申込書として使う
どの基盤モデルの回答が一番正確かを、点数で順位付けするためのベンチマークとして使う
利用の形（アプリを使うだけか、モデルを調整するか等）に応じて、必要なセキュリティの対策を整理する

答えと解説を見る

正解：D　利用の形（アプリを使うだけか、モデルを調整するか等）に応じて、必要なセキュリティの対策を整理する

スコーピングマトリックスは、生成 AI の利用の範囲を分類し、範囲ごとにガバナンス・法令・リスク管理・統制・回復性の考慮事項を整理する枠組み。

Q2. Amazon Bedrock のモデル呼び出しのログを有効にしたとき、ログの送り先として設定できるものはどれか。

Amazon CloudWatch Logs や Amazon S3
Amazon Polly の音声のファイル
AWS Artifact のレポート
Amazon Translate の用語集

答えと解説を見る

正解：A　Amazon CloudWatch Logs や Amazon S3

モデル呼び出しのログは、CloudWatch Logs や S3 に送れる。アクセスを制御し、保持の期間も決めておく。

参考リンク

レッスンは当サイトがAWS 認定の公式ページと公式試験ガイドをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。

ご利用上の注意（非公式・独自問題・合格保証なし）

本サイトの問題は、公式に公開されているスキル概要・試験ガイドをもとに当サイトが独自に作成した練習問題であり、実際の試験問題ではありません。
Amazon Web Services、AWS、および関連するマークは、米国その他の国における Amazon.com, Inc. またはその関連会社の商標です。本サイトは AWS（Amazon Web Services）と提携しておらず、AWS による承認・推奨を受けたものではありません。
本コンテンツは学習の補助であり、合格を保証するものではありません。試験の内容・形式・前提条件は予告なく変更されます。受験前に必ず公式ページで最新情報を確認してください。
本模擬試験の正答率は、公式試験の換算（スケール）スコア（合格 700）とは換算できず、合否を予測するものではありません。
未ログイン時の進捗はこのブラウザ内（localStorage）に保存します。Google でログインすると学習記録をアカウントに同期します。端末内の記録とサーバー上の記録は別に削除します。詳しくは保存・同期の説明とCookie・保存設定をご確認ください。