ADR：企業向けAI Agentランタイムパターン

背景

企業向けAI Agentは、多数のツールを持つ一つのチャットボットとしてデモされがちです。しかし、機密データ、レガシーシステム、承認、規制業務を含むワークフローでは危険です。本番を意識した設計には、状態管理、信頼境界、型付きハンドオフ、最小権限のワーカー、人間承認、可観測性が必要です。

決定

• ワークフローエンジンが状態、リトライ、冪等性、ルーティング、承認ゲートを管理します。
• Agentは専門ワーカーとして扱い、必要最小限のツールだけを持たせます。
• Agent間の出力はスキーマ検証済みのペイロードで渡します。
• 外部ファイル、メール、ウェブページ、ユーザー入力は不信頼入力として扱います。
• 書き込み可能な操作は、低リスクで事前承認済みでない限り、人間承認を必須にします。
• プロンプト、ツール呼び出し、ソース、成果物、評価結果、承認操作を記録します。

ランタイム層

1. 入力層：UI、スケジューラー、イベントバス、APIゲートウェイ。
2. コントロールプレーン：ワークフローエンジン、ポリシーサービス、状態ストア、オーケストレーション。
3. Agentランタイム：Reader、Validator、Critic、Resolver、ドラフト作成ワーカー。
4. データ・ツール層：ドキュメントストア、コネクタゲートウェイ、成果物ストア、ツール許可リスト。
5. ガバナンス層：監査ログ、評価ハーネス、人間レビューキュー、インシデント対応。

良い影響

• 一つの万能Agentより安全です。
• セキュリティ、コンプライアンス、業務責任者に説明しやすくなります。
• 回帰テストとワークフロー可観測性を実現しやすくなります。
• 支援モードから部分自動化へ段階的に展開できます。

トレードオフ

• チャットボットデモよりエンジニアリング負荷は高くなります。
• ツール選定の前にワークフロー設計が必要です。
• プロダクト、エンジニアリング、セキュリティ、オペレーションの責任分担が必要です。

使うべき場面

• 機密データを扱う場合。
• 業務影響が大きい、または複数の記録システムを扱う場合。
• 人間承認、監査、コンプライアンスが必要な場合。
• 外部の不信頼入力を読む場合。