Azure AI ソリューションの計画と管理
Plan and manage an Azure AI solution
学習目標
- タスクに応じて LLM・小規模言語モデル・マルチモーダルモデル・Foundry Tools を選べる
- マネージド ID・プライベートネットワーク・キーレス認証・RBAC でセキュリティを構成できる
- クォータ・レート制限・コストを管理し、品質と安全性を監視できる
- ガードレール・評価・トレース・承認フローで責任ある AI を実装できる
要点
- モデル選択は「品質・遅延・コスト」のバランス。大量の定型分類なら小規模言語モデル、複雑な推論は大規模モデル、画像を含むならマルチモーダル。
- 認証はキーレスが原則:アプリにはマネージド ID を割り当て、RBAC で必要最小限のロールを付与する。API キーをコードやリポジトリに置かない。
- ネットワークはプライベートエンドポイント等で閉域化し、公開範囲を絞る。
- 429(レート制限)対策はクォータ確認・指数バックオフ付き再試行・容量計画。コストはトークン量とデプロイ形態で決まる。
- 監視対象はモデル性能だけでなく、根拠性(grounding)の品質、安全性イベント、検索インデックスの健全性まで含める。
- 責任ある AI:コンテンツフィルター・ガードレール、評価、トレースと出所メタデータ、承認ワークフロー、ツールアクセス制御をセットで設計する。
業務での使いどころ
- 営業提案書ドラフト生成は大規模モデル、問い合わせ分類は小規模モデル、と用途別にモデルを分けてコストを抑える。
- 総務社内規程 Q&A アプリをマネージド ID と閉域ネットワークで構成し、API キーの管理負担と漏えいリスクをなくす。
- 経理支払関連ツールはエージェントから直接実行させず、承認ワークフローを経由。トレースで「誰が何を根拠に承認したか」を残す。
公式の評価項目(英語)
- Choose the appropriate Foundry services for generative AI and agents
- Set up AI solutions in Foundry
- Manage, monitor, and secure AI systems
- Implement responsible AI across generative AI and agentic systems