Portkey AI は、生成系 AI 開発者向けのエンタープライズ級 LLMOps プラットフォームで、大規模な AI アプリケーションに本番環境レベルの基盤を提供します。チームが安全かつ高効率に AI アプリを構築・管理できるよう支援します。
統一 AI ゲートウェイ、全栈の可観測性とモニタリング、安全ガバナンスとコントロール、プロンプトとワークフロー管理などの機能を提供し、モデル統合から運用監視までの全工程をカバーします。
生成系 AI チーム、アプリ開発者、プラットフォームエンジニアリングチーム、企業レベルの AI アプリケーションを一元管理・ガバナンスしたい組織向けです。特に複数の LLM モデルと提供元を管理するプロジェクトに適しています。
クラウドホスティングを中心としたサービスで、無料プランと従量課金、またはオンプレミスでのオープンソース版を提供しています。料金体系の詳細は公式の価格ページをご参照ください。
秘密鍵の管理、アクセス制御、ワークスペース分離などを提供し、PII の匿名化などのセーフガードにも対応しています。具体的な安全対策やコンプライアンス情報は公式ドキュメントをご参照ください。
統一 AI ゲートウェイを通じて、1600以上の大型言語モデルと提供元の接続・管理をサポートし、多モデル統合をシンプルにします。
通常はアカウントを登録してワークスペースを作成し、Portkey SDK または LangChain などの既存フレームワークを設定してアプリリクエストを Portkey ゲートウェイのエンドポイントに指向します。詳細な手順は公式の入門ガイドを参照してください。
本プラットフォームは、インテリジェントルーティング、意味論キャッシュ、詳細なコスト監視・アトリビューションなどを通じて、コスト最適化のツールと洞察を提供し、AI アプリの支出を管理します。
