Fireworks AI

這是什麼:專攻開源模型的「快」推理平台

Fireworks AI 是一個托管式的 AI 推理平台，核心賣點只有一個字：快。它由 PyTorch 原班團隊創立，不做自家大模型，而是把 DeepSeek、GLM、Llama、GPT-OSS、Qwen 這些開源權重模型，連同影像生成模型，包成 OpenAI 相容的 API 讓你直接呼叫。技術護城河是自研的 FireAttention 推理引擎（自訂 CUDA kernel），官方引用 Artificial Analysis 的第三方數據宣稱在 DeepSeek V4 Pro 上「同價格下快五倍」並支援完整 100 萬 token 上下文。

錢的方面它也剛拿到不缺：2025 年 10 月完成 2.5 億美元 C 輪、估值 40 億，2026 年更傳出要以 150 億估值再募資，年化營收據 Sacra 估計已衝到 8 億美元。這不是會突然倒的小廠。

實際表現

我最有感的是首個 token 的延遲（TTFT）和吞吐量。同樣跑 DeepSeek 或 GPT-OSS 120B，Fireworks 的回應速度確實比一般 serverless 供應商快一截，做即時對話或 agent 多輪呼叫時差距很明顯。API 是 OpenAI 格式，原本用 OpenAI SDK 的程式碼幾乎只要改 base_url 和金鑰就能搬過來，遷移成本低到不像話。

除了現成模型，它還提供 LoRA 微調、專屬 GPU（dedicated deployment）和批次推理，等於從實驗到上線都吃得下。

價格方案

Serverless 按 token 計費，小模型（<4B）每百萬 token 約 0.10 美元起，16B 以上上看 0.90 美元。以 2026 年 7 月的具體型號看：DeepSeek V4 Flash 是 0.14/0.28（輸入/輸出，每百萬 token）、GPT-OSS 120B 是 0.15/0.60、DeepSeek V4 Pro 則是 1.74/3.48。快取輸入 token 和批次任務都打五折。微調 LoRA 依模型大小每百萬訓練 token 0.50 到 10 美元，Llama 70B 約 16 美元。專屬 H100/H200 每小時 7 美元起，是托管推理裡相當低的價位。新帳號送 1 美元額度，之後就是綁卡後付費，沒有長期免費方案。

優點

速度是真的、模型上架快（前沿開源模型常常第一時間就有）、OpenAI 相容遷移無痛、從 serverless 到專屬 GPU 到微調的路徑完整。財務穩健也讓人敢把生產流量押上去。

缺點與限制

沒有像樣的免費層，想認真測就得綁卡。價格雖有競爭力，但小模型單價未必比 Together、DeepInfra 更便宜，真正划算的是它的速度而非絕對價格。它不做閉源前沿模型（GPT、Claude、Gemini 都沒有），需要那些就得另尋管道。專屬 GPU 那條線本質上是企業級服務，個人開發者用不太到也吃不消。

適合誰用

需要低延遲、又想跑開源模型的團隊：即時語音/對話 agent、RAG 後端、要嚴控推理成本又不想自己養 GPU 的新創。反過來，如果你只是偶爾呼叫、對延遲無感，免費層更大方的對手可能更順手。

替代方案

Together AI（模型最齊、生態成熟）、DeepInfra（價格常常更低）、Groq（自研 LPU，吞吐量狂人，但模型選擇較窄）。要閉源前沿模型則直接找 OpenAI / Anthropic。

台灣觀點

對台灣團隊來說，Fireworks 的意義在於「不必自建 GPU 也能拿到接近地端的速度」，對缺 H100 的中小新創特別實際。要注意它是美國服務、資料出境，金融醫療等受規範產業導入前得先過法遵。介面與文件全英文，對工程團隊不成問題，但沒有中文客服。整體我會推薦拿它當開源模型的推理層，而非唯一供應商——延遲敏感就用它，成本敏感就跟 DeepInfra 比價。