Cerebrium

Cerebrium 是一家 Serverless GPU 基礎設施公司，主打「即時 AI」：語音代理、影片模型、LLM 這類對延遲很敏感的工作負載。它的核心承諾是冷啟動快、擴展快、按秒收費、不用預訂容量。

官網的冷啟動比較很能說明定位：以 vLLM 跑 Qwen 為例，Cerebrium 開啟快照功能時 3.8 秒、不開 42 秒，對照另一家供應商 71 秒、自建 EKS／GKE 156 秒；Stable Diffusion XL 則是 3.38 秒對 91 秒。關鍵技術是記憶體與 GPU 快照，讓容器可以快速還原。容量方面官網寫可用 GPU 超過 2,500 張，區域包括 us-east-1、eu-west-2、eu-north-1、ap-south-1，橫跨多個雲，突發流量時自動擴展、不用做容量規劃。GPU 種類從 T4、L4、A10、L40s、A100、RTX PRO 6000 到 H100、H200、B200 都有，也能純 CPU 執行，用 CLI 一行指令就能在 8 張 H100 上跑訓練腳本。方案方面，免費的 Hobby 有 3 個席次、3 個部署應用、5 個並行 GPU；Standard 每月 $100 開放不限應用、30 個 GPU 並行與自訂網域；Enterprise 有無上限並行 GPU、專屬 Slack 支援與 ML 工程服務。

功能特色與適用場景：如果你在做語音代理、即時影片生成這類「使用者在等」的產品，冷啟動秒數直接影響體驗，Cerebrium 就是為這類情境設計的。台灣團隊要注意它的區域在美國、歐洲與印度，沒有東亞節點，服務台灣使用者的語音代理會多一段跨洋延遲，最好實測端到端延遲再決定；按秒計費也意味著流量不穩的服務成本較好控制。