AI-300 · LESSON 3

GenAIOps インフラストラクチャの設計と実装20–25% · 3項目

Microsoft Foundry の環境とプラットフォームの構成、基盤モデルのデプロイと管理、プロンプトのソース管理による版管理といった、生成 AI の運用基盤を学びます。

3.1Foundry の環境とプラットフォームを構成する

Implement Foundry environments and platform configuration

概念

Microsoft Foundry(旧 Azure AI Foundry)は、モデル・エージェント・評価・監視をまとめて扱う生成 AI のプラットフォームです。Foundry リソースの下にプロジェクトを作り、チームや用途ごとに分けます。外部のサービス(Azure AI Search・Storage など)には接続(Connections)で安全につなぎます。

仕組み・手順

  1. 開発・テスト・本番で Foundry リソースやプロジェクトを分ける
  2. マネージド ID とキーなしの認証(Microsoft Entra ID)で、接続先のサービスにアクセスする
  3. プライベートエンドポイントと公衆ネットワークのアクセスの無効化で閉域化する
  4. RBAC(Azure AI User・Azure AI Project Manager など)で権限を最小にする
  5. Bicep などの IaC で環境を再現可能にする

業務での例

本番のプロジェクトはプライベートエンドポイントからだけ使えるようにし、アプリはマネージド ID で Foundry と AI Search に接続して API キーを使わない。

紛らわしい点・試験の注意

ミニクイズ

Q1. Foundry のプロジェクトから他の Azure リソースへ、キーを使わずアクセスさせたい。適切な構成はどれか。

  1. サービスプリンシパルのシークレットを接続に登録する
  2. 接続にアクセスキーを保存し、Key Vault で管理する
  3. 管理者の Entra ID アカウントで接続を作成して共用する
  4. マネージド ID を使い、RBAC で必要なロールを付与する
答えと解説を見る

正解:D マネージド ID を使い、RBAC で必要なロールを付与する

マネージド ID と RBAC でキーレスかつ最小権限のアクセスを実現する。 【他の選択肢】Key Vault でもキーは使っている。シークレットは期限と漏えいの管理が必要。管理者の個人アカウントの共用は不適切である。

Q2. Foundry の環境を開発・本番で同一構成に保ち、レビュー可能にしたい。適切な方法はどれか。

  1. Bicep テンプレートと Azure CLI でインフラを定義・展開する
  2. ARM テンプレートをポータルからエクスポートし、都度手で修正する
  3. 開発環境のリソースを本番用のリソースグループにそのまま移動する
  4. ポータルで本番を作り、開発環境と設定を目視で比較する
答えと解説を見る

正解:A Bicep テンプレートと Azure CLI でインフラを定義・展開する

IaC で構成をコード化すれば差異をなくせる。 【他の選択肢】移動では開発環境がなくなる。目視の比較はレビュー可能な定義にならない。エクスポートの手修正は再現性に欠ける。

参考リンク

3.2本番ワークロード向けに基盤モデルをデプロイ・管理する

Deploy and manage foundation models for production workloads

概念

Foundry のモデルは、デプロイの種類によって料金・データの処理場所・容量の保証が異なります。Standard(リージョン内の従量課金)、Global Standard(世界のデータセンターで処理し高いクォータ)、Data Zone(米国・EU などのゾーン内で処理)、Provisioned(PTU で容量を予約し安定したレイテンシ)、Batch(非同期で安価)があります。

仕組み・手順

  1. データの所在の要件を確認し、Standard・Data Zone・Global のどれを使うか決める
  2. トラフィックの量と安定性の要件から、従量課金か Provisioned(PTU)かを選ぶ
  3. TPM(1 分あたりのトークン)のクォータとレート制限(429)を確認し、再試行を実装する
  4. モデルの版の自動更新の設定と、提供終了(リタイア)の日程を管理する
  5. API Management をゲートウェイにして、負荷分散・トークンの制限・ログを一元化する

業務での例

EU の顧客データを扱うチャットは Data Zone(EU)のデプロイ、夜間の大量の要約は Batch、ピークが読めるコールセンターの支援は Provisioned を使う。

紛らわしい点・試験の注意

ミニクイズ

Q1. 試行段階で、インフラ管理なしに従量課金で基盤モデルを使い始めたい。適切なデプロイ方法はどれか。

  1. プロビジョニング済みスループット(PTU)
  2. Kubernetes のオンラインエンドポイント
  3. サーバーレス API エンドポイント
  4. マネージドコンピューティングへのデプロイ
答えと解説を見る

正解:C サーバーレス API エンドポイント

サーバーレス API はインフラ管理不要で、使った分だけ課金される。 【他の選択肢】マネージドコンピューティングや Kubernetes は VM やクラスターの管理と常時の費用が伴う。PTU は容量を確保する固定費で、試行段階に向かない。

Q2. 全社展開した Q&A で、大量かつ安定したスループットと予測可能な性能が必要になった。検討すべきものはどれか。

  1. サーバーレス API(従量課金)のデプロイ
  2. 標準(従量課金)のデプロイで、スループットの上限の引き上げを申請する
  3. スループットの上限が高いグローバルバッチのデプロイ
  4. プロビジョニング済みスループット(PTU)
答えと解説を見る

正解:D プロビジョニング済みスループット(PTU)

PTU は容量を確保し、高負荷時も安定した性能を得るための選択肢。 【他の選択肢】グローバルバッチは非同期の処理向けで、対話の Q&A に合わない。従量課金は混雑の影響を受け、性能が予測しにくい。上限の引き上げでも予約された容量にはならない。

参考リンク

3.3ソース管理でプロンプトの版管理を実装する

Implement prompt versioning and management with source control

概念

プロンプトはアプリの振る舞いを決める「コード」と同じなので、Git で版管理し、変更をレビュー・評価してからリリースします。Prompty ファイル(プロンプトとモデルの設定を 1 つにまとめる形式)やテンプレートとしてリポジトリに置き、評価のパイプラインと組み合わせます。

仕組み・手順

  1. プロンプトとモデルのパラメータを Prompty などのファイルにしてリポジトリで管理する
  2. 変更はプルリクエストで提出し、レビューを受ける
  3. CI で評価データセットに対する自動評価を実行し、基準を下回れば不合格にする
  4. 合格した版をタグ付けし、本番の環境にデプロイする
  5. 本番で使っているプロンプトの版をトレースに記録する

業務での例

システムメッセージに 1 行追加する変更でも、GitHub Actions で 200 件の評価データの groundedness と relevance を測り、前の版より下がらないことを確認してからマージする。

紛らわしい点・試験の注意

ミニクイズ

Q1. 本番で使うモデルのバージョンが予告なく変わり、出力傾向が変化した。予防策として適切なものはどれか。

  1. 自動アップデートを有効にし、新しいバージョンの公開を通知で知る
  2. モデルのバージョンを明示的に管理し、更新は評価後に段階展開する
  3. 出力が変わったら、プロンプトを修正して以前の傾向に合わせる
  4. 新しいバージョンが出たら、評価せずに全量を切り替える
答えと解説を見る

正解:B モデルのバージョンを明示的に管理し、更新は評価後に段階展開する

バージョン固定と評価済みの段階展開で、予期しない変化を防ぐ。 【他の選択肢】自動更新は予告なしの変化を防げない。後追いのプロンプト修正は予防策ではない。評価なしの切り替えは同じ問題を起こす。

Q2. モデルの廃止(リタイア)予定日が近づいていることに、確実に気づきたい。最も適切な運用はどれか。

  1. 廃止日の後にエラーが出てから、別のモデルへの切り替えを検討する
  2. モデルのライフサイクルの情報と通知を確認し、切り替えの計画を立てておく
  3. 自動アップデートを有効にしておけば、どのデプロイも評価なしで新しい版へ移行できる
  4. 廃止を避けるため、同じバージョンのモデルを再デプロイし続ける
答えと解説を見る

正解:B モデルのライフサイクルの情報と通知を確認し、切り替えの計画を立てておく

モデルには廃止日がある。公開される予定と通知を確認し、評価と切り替えを前もって計画する。 【他の選択肢】エラーが出てからでは業務が止まる。再デプロイしても廃止日は変わらない。自動アップデートでも評価と計画は必要で、全てのデプロイに当てはまるわけではない。

参考リンク

レッスンは当サイトがMicrosoft Learn の公開ページをもとに独自に作成したもので、試験の内容を保証するものではありません。製品の仕様は変わることがあるため、参考リンク先の最新情報を確認してください。

ご利用上の注意(非公式・独自問題・合格保証なし)