G検定 · LESSON 8

AI 倫理・AI ガバナンス20%(当サイト設定) · 7項目

国内外の AI のガイドライン、プライバシー、公平性、安全性とセキュリティ、透明性と民主主義、環境・労働などの価値、AI ガバナンスを学びます。

8.1国内外のガイドライン

国内外のガイドライン(AI 原則、ハードロー・ソフトロー、リスクベースアプローチ、EU AI Act、AI 事業者ガイドライン)

概念

AI 原則は、人間中心・公平性・透明性・安全性・プライバシーなど AI の開発と利用の基本的な考え方で、日本の「人間中心の AI 社会原則」や OECD の AI 原則があります。ハードローは法的な強制力のある規制、ソフトローはガイドラインなど強制力のない規範です。リスクベースアプローチは、リスクの大きさに応じて対策や規制の強さを変える考え方です。EU AI Act は、許容できないリスク(禁止)・高リスク(厳しい義務)・限定的なリスク(透明性の義務)・最小リスクに分けて規制します。日本の AI 事業者ガイドラインは、開発者・提供者・利用者向けのソフトローです。

仕組み・手順

  1. 自社の AI がどのリスクの区分に当たるかを確認する
  2. 国内のソフトローと海外のハードローの両方を確認する
  3. ガイドラインを社内の規程に取り入れる

業務での例

EU の市場で採用の支援 AI を提供する企業は、EU AI Act の高リスクに当たるため、リスク管理・データの品質・人による監視などの義務に対応する。

紛らわしい点・試験の注意

ミニクイズ

Q1. AI の規律の方法を考える。AI の用途ごとのリスクの大きさに応じて、規制の強さや求める対策を変える考え方はどれに当たるか。

  1. アジャイル・ガバナンス
  2. ソフトロー
  3. リスクベースアプローチ
  4. ハードロー
答えと解説を見る

正解:C リスクベースアプローチ

EU AI Act は許容できないリスク(禁止)・高リスク・限定的リスク・最小リスクに分ける。(判断の分かれ目:リスクに比例した規制)

Q2. AI の規律の方法を考える。目標を設定し、運用しながら評価と見直しを素早く繰り返して、ガバナンスの仕組みを改善し続ける考え方はどれに当たるか。

  1. マルチステークホルダー
  2. リスクベースアプローチ
  3. ソフトロー
  4. アジャイル・ガバナンス
答えと解説を見る

正解:D アジャイル・ガバナンス

アジャイル・ガバナンスは変化の速い技術に対応するための考え方で、AI 事業者ガイドラインでも示されている。(判断の分かれ目:評価と見直しを繰り返して改善) 【他の選択肢】ソフトローは法的拘束力のない規範、リスクベースアプローチはリスクの大きさに応じた対応、マルチステークホルダーは多様な関係者の参加で、評価と見直しを繰り返す改善のサイクルを指すものではない。

参考リンク

8.2プライバシー

プライバシー(プライバシー・バイ・デザイン、カメラ画像利活用ガイドブック)

概念

プライバシー・バイ・デザインは、企画・設計の段階からプライバシーの保護を組み込む考え方です。カメラ画像利活用ガイドブックは、店舗などでカメラの画像を使う事業者向けに、事前の告知・目的の明示・データの管理などの配慮事項を示しています。個人情報保護法を守るだけでなく、利用者の期待や不安への配慮も重要です。

仕組み・手順

  1. 企画の段階でプライバシーへの影響を評価する(PIA)
  2. 必要最小限のデータだけを集め、早めに削除・匿名化する
  3. カメラで撮影していることと目的を、分かりやすく告知する

業務での例

店舗の来店客の分析で、顔の画像を保存せず、属性(年代・性別の推定)だけを集計して画像は即時に破棄し、店頭に撮影と目的を掲示する。

紛らわしい点・試験の注意

ミニクイズ

Q1. 国内外の AI の原則・ガイドラインで共通して議論されている価値として最も適切な組み合わせはどれか。

  1. 技術の秘匿、開発者の匿名性、規制の撤廃、データの独占
  2. 最大の利益、最短の開発期間、最小の費用、最大の市場シェア
  3. 軍事利用の推進、監視の強化、自動化の全面化、人の関与の排除
  4. 人間中心、公平性、プライバシー、安全性、透明性・説明責任
答えと解説を見る

正解:D 人間中心、公平性、プライバシー、安全性、透明性・説明責任

OECD の AI 原則、広島 AI プロセス、日本の AI 事業者ガイドラインなどで共通の価値が示されている。

Q2. カメラ画像を使う AI のプライバシーの配慮を考える。新しい顔認証のサービスを企画している。後から問題に気づいて作り直すことがないようにしたい。最も適切な対応はどれか。

  1. 属性を推定した後、元の顔画像は速やかに破棄する手順を定める
  2. 設計の段階からプライバシーへの影響を評価し、保護の策を組み込む
  3. 撮影と目的を入口に掲示し、プライバシーへの配慮を知らせる
  4. 目的外の利用や第三者への提供を行わないルールを定め、利用者に示す
答えと解説を見る

正解:B 設計の段階からプライバシーへの影響を評価し、保護の策を組み込む

プライバシー・バイ・デザインは、企画・設計の段階からプライバシー保護を組み込む考え方。プライバシー影響評価(PIA)を行う。(判断の分かれ目:設計の段階から組み込む) 【他の選択肢】画像の破棄・利用のルール・掲示はいずれも有効な保護の策だが、後から作り直さないためには、設計の段階での影響評価(PIA)が先になる。

参考リンク

8.3公平性

公平性(アルゴリズムバイアス、サンプリングバイアス、センシティブ属性)

概念

アルゴリズムバイアスは、AI の判断が特定の集団に不利に偏ることです。学習データが偏った集め方をされたサンプリングバイアスや、過去の差別的な判断を反映したデータが原因になります。性別・人種などのセンシティブ属性を特徴量から除いても、郵便番号など相関の強い代理の変数から偏りが残ることがあります。

仕組み・手順

  1. 学習データが対象の集団を代表しているかを確認する
  2. 属性ごとに予測の結果や誤りの率を比べる
  3. 偏りが見つかったらデータ・特徴量・閾値を見直す

業務での例

過去の採用の実績で学習した書類選考の AI が、特定の性別に不利な評価をしていたため、属性ごとの通過率を比べ、学習データと特徴量を見直す。

紛らわしい点・試験の注意

ミニクイズ

Q1. 通販サイトで、購買の履歴から顧客の健康の状態を AI が推定してしまう事例が問題になった。この問題の説明として最も適切なものはどれか。

  1. 学習データに偏りがあり、特定の集団に不利な推定になる問題
  2. データ収集の段階で、本人の同意なく購買の履歴を集めた問題
  3. 推定の結果が誤っていても、本人が訂正できない問題
  4. 推論の段階で、本人が提供していない機微な情報を AI が推定してしまう問題
答えと解説を見る

正解:D 推論の段階で、本人が提供していない機微な情報を AI が推定してしまう問題

購買履歴から妊娠を推定した事例のように、推論の結果がプライバシーを侵害することがある。 【他の選択肢】同意のない収集は収集の段階の問題。偏りは公平性の問題。訂正の権利の問題もあるが、本人が提供していない情報を推定すること自体がこの事例の論点。

Q2. AI の公平性の問題の原因を考える。性別の項目は入力から除いたが、性別と強く相関する「所属していた部活動」の項目から、結果として性別による差が生じた。最も近い原因はどれか。

  1. 代理変数による間接的な差別
  2. 過去の差別の学習(歴史的バイアス)
  3. ラベル付けの偏り
  4. サンプリングバイアス(データの集め方の偏り)
答えと解説を見る

正解:A 代理変数による間接的な差別

センシティブ属性を除くだけでは不十分で、代理変数にも注意が必要。(判断の分かれ目:相関する別の変数を通じた差別)

参考リンク

8.4安全性とセキュリティ・悪用

安全性とセキュリティ(Adversarial Examples、データ汚染、モデル窃取、セキュリティ・バイ・デザイン)・悪用(ディープフェイク、フェイクニュース)

概念

AI 特有の攻撃には、人には分からない小さなノイズで誤認識させる敵対的サンプル(Adversarial Examples)、学習データに不正なデータを混ぜるデータ汚染(ポイズニング)、API への大量の問い合わせでモデルを複製するモデル窃取、学習データの推測(メンバーシップ推論)などがあります。セキュリティ・バイ・デザインは設計の段階からセキュリティを組み込む考え方です。悪用には、偽の画像・動画・音声(ディープフェイク)や、偽のニュースの拡散があります。

仕組み・手順

  1. 想定される攻撃と影響を設計の段階で洗い出す
  2. 学習データの出所を管理し、汚染を防ぐ
  3. API の問い合わせの回数の制限や監視でモデル窃取を防ぐ

業務での例

自動運転の標識の認識で、標識に小さなシールを貼るだけで誤認識する敵対的サンプルに備え、敵対的な学習と複数のセンサーの併用で頑健にする。

紛らわしい点・試験の注意

ミニクイズ

Q1. AI に対する攻撃を見分ける。公開の API に大量の問い合わせを行い、その入力と出力の組から元のモデルとほぼ同じモデルを複製する攻撃はどれに当たるか。

  1. データ汚染(ポイズニング)
  2. モデル窃取
  3. Adversarial Examples(敵対的サンプル)
  4. メンバーシップ推論攻撃
答えと解説を見る

正解:B モデル窃取

モデル窃取の対策に、問い合わせの回数の制限や出力の情報の制限がある。(判断の分かれ目:問い合わせの結果からモデルを複製)

Q2. AI に対する攻撃を見分ける。モデルの出力の傾向から、ある人のデータが学習に使われたかどうかを推定し、プライバシーを侵害する攻撃はどれに当たるか。

  1. モデル窃取
  2. Adversarial Examples(敵対的サンプル)
  3. データ汚染(ポイズニング)
  4. メンバーシップ推論攻撃
答えと解説を見る

正解:D メンバーシップ推論攻撃

データ窃取の一種。差分プライバシーなどの技術で対策する。(判断の分かれ目:学習データに含まれていたかを推定)

参考リンク

8.5透明性・民主主義

透明性(説明可能性、データの来歴、ブラックボックス)・民主主義(フィルターバブル、エコーチェンバー)

概念

透明性は、AI を使っていること、どのように作られ判断しているかを、関係者に説明できることです。ディープラーニングは判断の理由が分かりにくいブラックボックスの問題があり、説明可能性(XAI)の技術や、データの来歴(どこから来たデータか)の記録で補います。民主主義への影響として、推薦のアルゴリズムで好みの情報ばかりに囲まれるフィルターバブルや、似た意見ばかりが反響して強化されるエコーチェンバーがあります。

仕組み・手順

  1. AI の利用と判断の根拠を利用者に説明できるようにする
  2. 学習データの来歴を記録・管理する
  3. 推薦のシステムで、多様な情報にも触れられる工夫をする

業務での例

ニュースアプリで、好みに合う記事だけでなく、異なる視点の記事も一定の割合で表示し、推薦の理由も示す。

紛らわしい点・試験の注意

ミニクイズ

Q1. AI の悪用と対策を考える。社長の声をまねたディープフェイクの電話で、送金を指示する詐欺が増えている。経理の手続きを見直したい。最も適切な対策はどれか。

  1. 事実確認(ファクトチェック)の機関や仕組みと連携し、情報の出所を確かめる習慣を広める
  2. 生成 AI の利用規約で禁止する用途を定め、悪用を検知したら利用を停止する
  3. 本人の確認の手続きで、声や映像だけに頼らない別の経路の確認を組み込む
  4. 生成したコンテンツに電子透かしや来歴の情報を付け、検知の技術と組み合わせる
答えと解説を見る

正解:C 本人の確認の手続きで、声や映像だけに頼らない別の経路の確認を組み込む

別の連絡手段での折り返し確認など、手続きで防ぐ。(判断の分かれ目:声だけに頼らない確認)

Q2. AI の悪用と対策を考える。自社が提供する生成 AI の API が、なりすましのメールの大量作成に使われている。提供者として対応したい。最も適切な対策はどれか。

  1. 生成したコンテンツに電子透かしや来歴の情報を付け、検知の技術と組み合わせる
  2. 本人の確認の手続きで、声や映像だけに頼らない別の経路の確認を組み込む
  3. 事実確認(ファクトチェック)の機関や仕組みと連携し、情報の出所を確かめる習慣を広める
  4. 生成 AI の利用規約で禁止する用途を定め、悪用を検知したら利用を停止する
答えと解説を見る

正解:D 生成 AI の利用規約で禁止する用途を定め、悪用を検知したら利用を停止する

提供者は利用規約と監視で悪用に対応する。(判断の分かれ目:提供者としての禁止と停止)

参考リンク

8.6環境保護・労働政策・その他の価値

環境保護・労働政策・その他の価値(インクルージョン、軍事利用)

概念

大規模な AI の学習と運用は多くの電力を使い、環境への負荷が課題になっています。AI による自動化は仕事の内容を変えるため、従業員の再教育(リスキリング)などの労働政策が重要です。インクルージョン(包摂)は、障害のある人や高齢者などを含め、誰もが AI の恩恵を受けられるようにする考え方です。自律型致死兵器システム(LAWS)など AI の軍事利用も国際的に議論されています。

仕組み・手順

  1. AI の利用で消費する電力と、その削減の方法を検討する
  2. 自動化で影響を受ける業務の従業員の再教育を計画する
  3. 多様な利用者が使えるよう、アクセシビリティに配慮する

業務での例

問い合わせ対応の AI の導入に合わせて、オペレーターを AI の応答の品質の管理や複雑な案件の担当に配置転換し、研修を行う。

紛らわしい点・試験の注意

ミニクイズ

Q1. AI と環境保護の議論として最も適切なものはどれか。

  1. AI の計算は電力をまったく使わないので、環境への影響は議論されていない
  2. AI の電力の消費は、モデルの大きさや学習の回数とは無関係である
  3. 大規模なモデルの学習と推論の電力の消費と、CO2 の排出が懸念されている
  4. AI の利用は必ず環境への負荷を増やすので、気候変動の対策には一切使えない
答えと解説を見る

正解:C 大規模なモデルの学習と推論の電力の消費と、CO2 の排出が懸念されている

一方で AI は電力の需給の最適化など気候変動の対策にも使われる。効率のよいモデルの設計も重要。

Q2. AI と労働の議論として最も適切なものはどれか。

  1. AI に任せた業務は、人がその業務の技能を失っても何の問題も生じない
  2. 仕事の内容が変わる一方、AI との協働や新しい仕事も生まれ、学び直しが重要になる
  3. AI はすべての仕事を近いうちに完全に置き換えるため、人の仕事はなくなる
  4. AI は仕事にまったく影響を与えないので、働き方を見直す必要はない
答えと解説を見る

正解:B 仕事の内容が変わる一方、AI との協働や新しい仕事も生まれ、学び直しが重要になる

労働力不足を補う効果もある。AI に頼りすぎることによるスキルの喪失も論点。

参考リンク

8.7AI ガバナンス

AI ガバナンス(AI ポリシー、倫理アセスメント、ステークホルダーの関与、監査、トレーサビリティ)

概念

AI ガバナンスは、AI のリスクを管理し、便益を最大化するための組織の仕組みです。AI ポリシー(基本方針)を定め、AI の企画・開発の段階で倫理アセスメント(リスクと影響の評価)を行い、利用者や影響を受ける人などのステークホルダーの意見を取り入れます。内部・外部の監査で運用を確認し、トレーサビリティ(データ・モデル・判断の経緯を追跡できること)を確保します。

仕組み・手順

  1. AI ポリシーと責任の体制を定める
  2. 新しい AI の企画ごとに倫理アセスメントを行う
  3. データとモデルの版、判断の記録を残し、監査できるようにする

業務での例

新しい与信の AI を導入する前に、倫理委員会がアセスメントを行い、外部の有識者の意見も聞いて、判断の記録を 5 年間保存する運用を決める。

紛らわしい点・試験の注意

ミニクイズ

Q1. AI ガバナンスの取り組みを選ぶ。開発のチームのメンバーの性別や年代、専門が偏っていて、想定外の利用者への影響を見落としがちである。最も適切なものはどれか。

  1. 多様な背景のメンバーで検討する体制をつくる
  2. 倫理アセスメント(影響評価)を開発の前と運用中に行う
  3. 外部の第三者による監査を受ける
  4. AI ポリシーを策定して公表する
答えと解説を見る

正解:A 多様な背景のメンバーで検討する体制をつくる

ダイバーシティのある体制で、多様なステークホルダーの視点を取り込む。(判断の分かれ目:多様な視点を入れる)

Q2. AI ガバナンスの取り組みを選ぶ。社内の確認だけでは信頼が得られないため、独立した立場から AI の管理の体制と運用を確かめてもらいたい。最も適切なものはどれか。

  1. 多様な背景のメンバーで検討する体制をつくる
  2. 外部の第三者による監査を受ける
  3. AI ポリシーを策定して公表する
  4. 倫理アセスメント(影響評価)を開発の前と運用中に行う
答えと解説を見る

正解:B 外部の第三者による監査を受ける

AI に対する監査は、第三者の視点で客観性と信頼性を高める。(判断の分かれ目:独立した立場からの確認)

参考リンク

レッスンは当サイトが各試験実施団体の公開ページとシラバスをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。

ご利用上の注意(非公式・独自問題・合格保証なし)