AI の安全性、セキュリティ、ガバナンス20% · 4項目

Q1. 人事の規程の質問への回答が、規程のルールと論理的に矛盾していないかを検証したい。最も適切な機能はどれか。

1. 回答の文字数を短く制限して、矛盾が入り込む余地をなくすことにする
2. temperature を下げることで、回答が規程のルールと矛盾しないことを数学的に完全に保証する
3. Guardrails の自動推論のチェックで、規程のルールから作ったポリシーに照らして回答を検証する
4. コンテンツフィルターの強さを最大にして、規程と矛盾する回答を止める

Q2. 回答に競合の会社の商品名や、社内で使わない言葉が出ないようにしたい。最も適切な設定はどれか。

1. 拒否されたトピックに、商品名を 1 文字ずつ別々のトピックとして登録する
2. ガードレールのワードフィルターに、止めたい言葉のリストを登録する
3. コンテンツフィルターの憎悪のカテゴリーを最大にして、言葉を止める
4. システムプロンプトに商品名を並べ、モデルにその言葉を覚えさせておく

Q1. チャットのテキストを埋め込みにする前に、個人情報を検出して取り除きたい。リアルタイムに処理したい。最も適切なサービスはどれか。

1. AWS Glue のクローラー
2. Amazon Rekognition の画像のラベルの検出
3. Amazon Comprehend の PII の検出
4. Amazon Polly の音声合成

Q2. 生成 AI のデータの保護とガバナンスの説明として誤っているものはどれか。

1. インターフェイス VPC エンドポイントで、インターネットを通らずに Bedrock を呼べる
2. KMS のカスタマーマネージドキーで、カスタムモデルを暗号化できる
3. CloudTrail で、Bedrock の API の操作を記録できる
4. Bedrock に送ったプロンプトは、既定でモデルの提供元に共有されて学習に使われる

Q1. 組織の全アカウントで、承認したモデルの他は呼べないようにしたい。最も適切な方法はどれか。

1. モデルの呼び出しのログを月に 1 回確かめて、違反した人に注意する
2. 承認していないモデルは、システムプロンプトで使わないように頼んでおく
3. 各アカウントの利用者に、承認したモデルの一覧をメールで送っておく
4. AWS Organizations の SCP で、承認したモデルの他の呼び出しを拒否する

Q2. すべてのモデルの呼び出しで、決めたガードレールを必ず使わせたい。開発者が付け忘れても防ぎたい。最も適切な方法はどれか。

1. IAM の条件キー bedrock:GuardrailIdentifier で、指定したガードレールのない呼び出しを拒否する
2. 共通の SDK のラッパーで、呼び出しのたびにガードレールを付ける
3. CloudTrail のログを調べ、ガードレールのない呼び出しを通知する
4. ガードレールの ID を全チームに共有し、付け方を手順書で周知する

Q1. 社外の顧客向けのチャットで、透明性を高めたい。最も適切な対応はどれか。

1. AI が生成した回答であることを示し、根拠の資料と、人の担当者に切り替える方法も示す
2. 人の担当者への切り替えはできないようにして、すべて AI だけで対応する
3. 回答の根拠は社内の秘密なので、引用できる資料がある場合でも利用者には一切示さないことにする
4. AI が回答していることは伏せ、人の担当者が答えているように見せておく

Q2. 採用の書類の要約のアシスタントで、応募者の性別や年齢で要約の内容が変わらないかを確かめたい。最も適切な方法はどれか。

1. 属性だけを変えた入力の組で出力を比べ、差を評価の指標として続けて記録する
2. 入力から性別や年齢の列を除いてから要約させ、評価は公開の前に行う
3. 開発者が代表の書類を読み比べ、偏りがなければ公平と判断する
4. ガードレールの拒否されたトピックに差別的な表現を登録する