Cloptima

把 SDK 的 base URL 換成 Cloptima，每次呼叫模型前先遮蔽個資與金鑰、檢查預算上限，再記到依團隊與應用拆帳的費用帳本上

免費或付費

一句話介紹：把 SDK 的 base URL 換成 Cloptima，每次呼叫模型前先遮蔽個資與金鑰、檢查預算上限，再記到依團隊與應用拆帳的費用帳本上

Cloptima 是 11 月 5 日登上 Product Hunt 的 AI 閘道，官網標語是「AI Gateway、Guardrails 與 LLM FinOps」。它的位置很明確：坐在你的程式和 OpenAI、Anthropic 這些模型供應商中間。導入方式也簡單，原本的 OpenAI SDK 不用換，只要把 base_url 改成 Cloptima 的端點，再加一個標示應用名稱的 header。

功能特色與適用場景：每一次呼叫在送出前會先跑一輪政策檢查。護欄部分可以用自訂規則遮掉姓名、email、API 金鑰，偵測提示詞注入，也能串 Azure AI Content Safety、AWS Bedrock Guardrails、Google Model Armor 做第二層掃描。預算是「會擋」的硬上限，可依政策設每日、每月額度與單次 token 上限，實驗用的專案則可設成只警示。另外有精確比對與語意快取、同一模型跨供應商自動備援（例如 Anthropic 回 429 就改走 Bedrock），以及 MCP 工具治理：哪個代理能用 github.search_code、哪個不准碰 postgres.execute_sql，工具定義被改動時也會提醒。

所有呼叫都會照團隊、應用、環境、模型拆帳，價格用你談好的合約價計算，財務和工程看到的是同一本帳。官方宣稱完整治理的額外延遲 p95 在 13 毫秒內，目錄有 248 個以上模型。Growth 方案起可以把邊緣閘道裝在自己的 VPC 裡。

和站上的 Portkey、Helicone、開源的 LiteLLM 比，Cloptima 把重心放在「花費治理」：拆帳、退費報表（chargeback）、FOCUS 格式匯出，這些是給 FinOps 團隊看的東西。

台灣使用者怎麼用：適合已經有好幾個團隊在呼叫模型 API、每月帳單開始讓財務皺眉的公司。介面與文件全英文，以美元計價。若有個資法或金融業資料不出境的要求，要確認自己的方案是否包含 VPC 內的邊緣閘道。

TheAI學院編輯建議

編輯實測後的真心話

AI 閘道這個類別已經很擠，Cloptima 的差異是把「錢」當主角：硬預算、合約價計費、chargeback，這些都是財務會追著問的事。我沒有實測，從定價表看來，免費方案拿來試接一個小專案綽綽有餘；真正的價值要等團隊多、帳單大時才顯現。

— theai 編輯團隊

主要功能

相容 OpenAI 與 Anthropic 的端點，只改 base URL 就能接入
自訂規則遮蔽個資與金鑰，偵測提示詞注入，可串 Azure、AWS、Google 安全掃描
每日、每月硬性預算與單次 token 上限，超額直接擋下
精確與語意回應快取，加上跨供應商自動備援
MCP 工具治理：逐一允許或拒絕代理可用的工具
依團隊、應用、環境、模型拆帳，支援 chargeback 與 FOCUS 匯出
Growth 方案起可在自家 VPC 部署邊緣閘道

如何使用 Cloptima

到 cloptima.ai 註冊免費的 AI Developer 方案，不需信用卡
在主控台加入 OpenAI 或 Anthropic 等供應商金鑰
建立政策，設定護欄規則、每日預算與 token 上限
把程式中 SDK 的 base_url 換成 Cloptima 端點並加上應用名稱標頭
送出第一筆呼叫，在主控台查看花費帳本與被攔截的紀錄

適用場景

多個產品線共用模型 API，需要按部門拆帳給財務
客服機器人送出前先遮掉客戶姓名、email 與訂單資訊
限制內部程式代理每天最多花多少錢、能用哪些 MCP 工具
主要供應商限流時自動切到 Bedrock 或 Vertex AI 維持服務
評估語意快取能省下多少重複提問的 token 費用

Cloptima 的優點與缺點

優點

BYOK、模型費不加價，免費方案就有護欄與預算功能
預算是真的會擋，不只是寄警示信
拆帳顆粒度細，財務與工程能對同一份數字

缺點

語意快取、單位經濟分析要 AI Pro（每月 249 美元）以上
SSO／SAML 只在 Enterprise 方案
介面與文件全英文，沒有中文說明

價格方案

AI Developer 永久免費（每月 1 萬筆 LLM 事件、1 位成員、保留 14 天）；AI Starter 每月 49 美元；AI Pro 每月 249 美元；AI Growth 每月 999 美元；Enterprise 另議。採 BYOK，模型費用直接付給供應商、官方表示不加價。價格以官網為準