Portkey

Portkey 是 LLM 應用的 AI 閘道(gateway)與管理平台:當你的產品要用多個 AI 模型(OpenAI、Anthropic 等),Portkey 提供一個統一的閘道,讓你用一個介面呼叫各家模型,並做快取、失敗自動重試、監控用量與成本控管。它是接在你的應用和各 LLM 之間的中介層,讓多模型的管理變簡單、可靠。

對做 AI 產品的開發者與團隊,它的價值是「統一管理與可靠地呼叫多個模型」:不用為每家模型各寫一套,透過閘道統一呼叫、自動重試提升穩定、快取省錢、監控看清成本與用量。

有免費方案,進階功能需付費,偏開發者使用。要清楚它是給有在呼叫 LLM API 的開發者用的基礎設施,不是給一般人的工具。要清楚它跟 Helicone 的 LLM 中介/觀測取向相近,差異化在「統一閘道 + 可靠性」。適合要用多個 LLM、需要統一管理與提升可靠度的 AI 產品開發者與團隊。