AIAI Agent Dev Labaiagentdev-lab.com
3分適性診断 →
無料で学習を始める／ログイン無料で始める
メニュー

AIF-C01 · LESSON 4

責任ある AI に関するガイドライン14% · 2項目

責任ある AI システムの開発と、透明性が高く説明可能なモデルの重要性を学びます。

4.1責任ある AI システムの開発

4.1 責任ある AI システムの開発について説明する。

概念

責任ある AI の観点は、公平性（偏りがない）、説明可能性、プライバシーとセキュリティ、安全性、制御可能性、正確性と堅牢性、ガバナンス、透明性です。AWS のツールには、Bedrock のガードレール（有害なコンテンツ・禁止トピック・個人情報のフィルター・コンテキストのグラウンディングのチェック）、SageMaker Clarify（データとモデルの偏りの検出）、Amazon A2I（人によるレビュー）があります。

仕組み・手順

  1. データセットに偏りがないか（多様性・代表性）を確認する
  2. Clarify で学習前のデータと学習後のモデルの偏りを測る
  3. ガードレールで有害な出力と個人情報の漏洩を防ぐ
  4. 信頼度の低い予測は A2I で人がレビューする
  5. 環境への影響（モデルのサイズ・計算量）も考慮する

業務での例

ローンの審査のモデルで、Clarify により年齢層ごとの承認率の差を測り、偏りが大きい特徴量を見直してから再学習する。

紛らわしい点・試験の注意

ミニクイズ

Q1. モデルの学習に使うデータセットの特徴として、責任ある AI の観点で最も望ましいものはどれか。

  1. インターネットから大量に集めたが、出所も内容も確認していないままのデータ
  2. 過去に問題のあった判断も含めて、そのまま正解のラベルとして使っているデータ
  3. 利用者の多様な属性を含み、集団ごとの量のバランスが取れた、出所の確かなデータ
  4. 集めやすい一部の地域の利用者だけを集めた、量はとても多いが偏りのあるデータ
答えと解説を見る

正解：C　利用者の多様な属性を含み、集団ごとの量のバランスが取れた、出所の確かなデータ

包括性・多様性・バランス・キュレーションされた出所は、偏りの少ないモデルを作るための土台になる。

Q2. 責任ある AI の考え方として、誤っているものはどれか。

  1. リリースの後も、出力を監視して問題を見つける
  2. 影響の大きい判断には、人による確認を入れる
  3. 開発の初めの段階から、データやモデルの偏りと安全性のリスクを評価する
  4. 全体の精度が高ければ、属性ごとの公平性を確認する必要はない
答えと解説を見る

正解：D　全体の精度が高ければ、属性ごとの公平性を確認する必要はない

全体の精度が高くても、特定の集団で性能が低いことがある。公平性は属性ごとに確認する。

参考リンク

4.2透明性が高く説明可能なモデル

4.2 透明性の高い説明可能なモデルの重要性を認識する。

概念

透明性は「モデルがどう作られ、どう使われるかを開示すること」、説明可能性は「個々の予測の理由を説明できること」です。単純なモデル（線形回帰・決定木）は解釈しやすく、深層学習は高性能だが解釈が難しいトレードオフがあります。SageMaker Clarify は SHAP による特徴量の重要度を示し、SageMaker Model Cards はモデルの目的・学習データ・評価・リスクを文書化します。AWS AI Service Cards は AWS の AI サービスの用途と限界を説明します。

仕組み・手順

  1. 説明可能性の要件（規制・顧客への説明）を確認する
  2. 要件が厳しい場合は解釈しやすいモデルを検討する
  3. Clarify で予測に影響した特徴量を示す
  4. Model Cards でモデルの情報を文書化して共有する
  5. 利用者に AI を使っていることと限界を伝える

業務での例

保険の料金のモデルで、顧客から理由を問われたときに、Clarify の特徴量の重要度で「運転歴」「車種」の影響を説明できるようにする。

紛らわしい点・試験の注意

ミニクイズ

Q1. オープンソースのモデルが透明性の面で持つ利点として、最も適切なものはどれか。

  1. オープンソースのモデルを使えば、利用者の責任がすべてなくなる
  2. モデルの重み・学習のデータの情報・ライセンスを確認でき、中身を検証しやすい
  3. オープンソースのモデルは、必ず最も高い精度を出すことが保証されている
  4. オープンソースのモデルは、偏りや安全性の問題が一切ないことが保証されている
答えと解説を見る

正解：B　モデルの重み・学習のデータの情報・ライセンスを確認でき、中身を検証しやすい

オープンソースのモデルは公開された情報を確認できるため、透明性を判断しやすい。ただし、偏りや安全性の評価は利用者が行う。

Q2. モデルの解釈のしやすさと性能の関係として、最も適切なものはどれか。

  1. どんな種類のモデルでも、解釈のしやすさと精度は常に同時に最高にできるので、用途ごとに比べる必要はない
  2. 複雑なモデルほど必ず解釈しやすくなるので、説明が必要な用途ほど複雑なモデルを選ぶ
  3. 解釈しやすい単純なモデルは説明しやすいが、複雑なモデルより精度が低いことがあり、用途に応じて選ぶ
  4. 解釈のしやすさは精度とまったく関係がないので、どの用途でも考慮しなくてよい
答えと解説を見る

正解：C　解釈しやすい単純なモデルは説明しやすいが、複雑なモデルより精度が低いことがあり、用途に応じて選ぶ

解釈のしやすさと性能にはトレードオフがある。説明責任の要件と必要な性能から選ぶ。

参考リンク

レッスンは当サイトがAWS 認定の公式ページと公式試験ガイドをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。

ご利用上の注意（非公式・独自問題・合格保証なし）