Zen Firewall で AI / LLM 利用状況を追跡する

Aikido の Zen Firewall は、OpenAI、Anthropic をはじめとする主要プロバイダーにまたがる AI / LLM API の利用状況を監視します。この機能は、モデルの使用状況やトークン消費量を追跡し、AI インフラへの支出を把握・最適化するためのコスト見積もりを提供します。各リクエストの入力・出力トークンの両方を、使用された具体的なモデルとともに追跡します。

ユースケース

📊 トークン使用量の監視: すべての LLM 呼び出しにおける入力・出力トークンを追跡
💰 コストの見積もり: API 利用状況のリアルタイムなコスト見積もりを取得
🔍 モデル利用状況の把握: どのモデルが最も頻繁に使用されているかを確認
📈 支出の最適化: LLM コストを削減できる余地を特定
🎯 プロバイダー別の追跡: OpenAI、Anthropic をはじめとする各プロバイダーの利用状況を監視
⚡ 異常の検知: トークン消費量の異常なスパイクを検出

LLM 利用状況を確認する方法

特定のアプリを選択し、Firewall タブに進みます。「AI Usage」に移動すると、利用状況の分析結果を確認できます。

AI Bill of Materials (AIBOM)

Zen Firewall は、アプリケーションが通信しているすべての AI・LLM サービスを一覧化した AI Bill of Materials を生成できます。

この機能はリクエストベースで提供されます。有効化を希望する場合はサポートまでお問い合わせください。