支援例
AIアーキテクチャ設計支援
業種: AI
背景
LLM / RAG / Agent を業務システムに組み込むにあたり、データ連携、認証、権限、ログ、評価、運用を含めた全体アーキテクチャが必要でした。
課題
LLM / RAG / Agent を業務システムに組み込むにあたり、データ連携、権限、監査、運用を含めた設計が必要でした。
想定スコープ
- AIアプリ、LLM、RAG、Vector DB、認証、ログ、評価、運用を全体設計対象に設定。
- AWSを含むクラウドAI基盤、社内データ連携、権限管理を含める。
- PoC構成と本番構成の差分を明確化する。
支援内容
AIアプリケーション、データ基盤、認証、ログ、評価、運用の構成を整理しました。
技術ポイント
- AIアプリ、LLM、データ基盤、検索基盤、認証、監査ログの責務を分離しました。
- AWSを含むクラウドAI基盤、API連携、Vector DB、RAG構成の適用範囲を整理しました。
- プロンプト管理、回答ログ、評価データ、コスト監視を本番運用に含めました。
進め方
- 既存システム、利用者、データ分類、セキュリティ要件を確認しました。
- 複数の構成案を比較し、PoC向けと本番向けのアーキテクチャを分けて設計しました。
- 運用時の監視、障害対応、品質改善、権限管理の流れを整理しました。
成果物
- AIシステム全体アーキテクチャ図。
- 認証・権限・ログ・監査・評価の設計資料。
- PoC構成、本番構成、運用体制の比較表。
リスクと対策
- PoCだけで成立する構成にならないよう、本番運用時の監視とログを初期から設計。
- 機密データのLLM入力を制御するため、データ分類とマスキング方針を整理。
- モデル変更時の影響を抑えるため、LLM呼び出し部分を抽象化。
使用技術
成果
PoCで終わらず本番導入を見据えたAIシステムの全体設計を具体化しました。
- PoCで終わらず本番導入へ進めるためのAIシステム全体像が明確になりました。
- データ基盤とAIアプリを接続する際のセキュリティ・運用リスクを整理できました。
- 開発チーム、インフラ担当、業務部門が同じ構成図をもとに議論できるようになりました。
次フェーズ
- 代表ユースケースで構成検証を実施。
- 評価基盤とプロンプト管理を整備。
- 運用監視、コスト管理、セキュリティレビューを本番設計へ反映。