セキュリティ・ガバナンス・コスト
最適化を実現するAI連携基盤
KongのAPI/AIゲートウェイ機能とKeycloakの認証認可機能を組み合わせて、安全で統制され、コスト最適化も実現できるAPI/AIエージェント/LLM連携基盤を実現します。
このようなお客さまにおすすめです
- AIエージェントを安全に活用したい
- 多数のAIエージェントを統制して活用したい
- AI活用に関するコストの可視化・低減・最適化を実現したい
特長
Point1 AIエージェントを安全に活用
AIには適切な権限を適用、標準規格は最新に準拠
AI活用では、情報漏洩やサイバー攻撃への悪用といった深刻なリスクを防ぎ、被害を最小限にすることが重要です。
本ソリューションでは、既存の認証基盤やバックエンド認可サーバと連携し、ユーザー本来の権限範囲内とAIエージェントの役割を考慮し、AIが過剰な権限を持つことを防ぐセキュアな仕組みを確立します。
また、OAuthなどの最新の標準規格に準拠し、セキュリティリスクを最小化します。
Point2 ガバナンスルールを効率的に一元管理
サービス全体の開発効率向上と品質向上を実現
AI活用範囲が広がり、質問に回答してくれる生成AIだけでなく、必要なタスクまで自動で実施してくれるAIエージェントの活用が広まっています。
一方で乱立するAIエージェントの品質のばらつきにより、安全かつ効果的に活用することが難しい、高品質のAIエージェント開発には時間がかかる、という課題があります。
本ソリューションでは、ゲートウェイに認証、CORS(Cross-Origin Resource Sharing)、ロギング、プロンプトガード、PIIサニタイズなどのポリシーを適用することで、多数のAIエージェントに対するガバナンスルールを一元管理でき、個別開発部分は最小化できるため、サービス全体の開発効率向上と品質向上を実現できます。
また、開発者ポータルにより、ポリシーに準拠したAIエージェントやサービスを効率的に公開、検索、利用できるようになります。
Point3 AIコストを可視化・低減・最適化
爆発的に増加するAIコストを正しく管理
AI活用の増加に合わせて、そのコストも増加していきますが、どのタスクでどれだけAIコストがかかっているかなどがわからず、想定の何倍ものコストが発生する、急に予算の上限に達して使えなくなる、などの課題に直面します。
本ソリューションでは、すべてのリクエストがゲートウェイを経由するため、LLMやAIエージェントの使用状況、トークン数、レイテンシ、コストの追跡、可視化、分析を実現できます。
また、プロンプト圧縮によるトークン数削減、セマンティックキャッシュの活用によるLLM利用回数削減により、AIコスト削減と応答高速化を実現できます。
さらに、用途とコストに応じた適切なLLMへの自動振り分け、レート制限やヘルスチェックとサーキットブレーカーで想定外利用の抑止を行い、AIコスト最適化を実現できます。