Cerebras

Cerebras 是什麼:把整片晶圓做成一顆 AI 晶片

我第一次看到 Cerebras 的 demo 是在瀏覽器裡跟 Llama 跑對話，游標還沒放開，整段回答已經刷完。它的核心不是模型，而是硬體：別人把晶圓切成幾百顆 GPU，Cerebras 反其道而行，把一整片晶圓做成單一巨型晶片 WSE（Wafer-Scale Engine），把權重全放進晶片內的 SRAM，省掉 GPU 之間搬資料的頻寬瓶頸。結果就是它主打的那句話：全世界最快的推論。

實際表現與速度

速度是真的，不是行銷話術。在 Llama 4 Maverick（400B 級）上，Cerebras 官方數據約 2,500 tokens/秒/使用者，同一模型跑在 Nvidia DGX B200 上大約 1,000；Llama 3.3 70B 更是衝到 1,800 tokens/秒以上。這種速度對「即時串流輸出」與「agentic 連續多輪呼叫」差別很大——寫程式代理來回十幾趟工具呼叫時，你會明顯感覺卡頓消失。缺點是模型選擇被硬體綁死，只有官方部署好的那幾個開源模型，不能像自建 GPU 那樣愛跑什麼跑什麼。

價格方案

免費層佛心：每天 100 萬 tokens、30 RPM，不用信用卡，涵蓋 Llama 3.3 70B、Qwen3 32B/235B、GPT-OSS 120B。付費按 token：GPT-OSS-120B 約 $0.35/$0.75、Llama 3.3 70B 約 $0.85/$1.20、GLM-4.7 約 $2.25/$2.75（每百萬 tokens 輸入/輸出）。另有 Cerebras Code Pro $50、Max $200/月，針對高頻寫程式。大模型（DeepSeek、Kimi K2、Qwen3-Coder）走 Dedicated Endpoints 客製報價。

優點

速度天花板目前業界最高、免費額度大方到可以拿來做真專案、OpenAI-相容 API 幾行就接上、延遲低到適合語音與即時 agent。

缺點與限制

模型菜單受限，想要最新閉源模型或冷門權重就別指望。更要留意的是公司體質：2026 年 5 月 Cerebras 以每股 $185 掛牌 Nasdaq（代號 CBRS），募得 55.5 億美元、首日近乎翻倍，2025 年營收 5.1 億美元、淨利 8,800 萬。但招股書揭露營收高度集中——G42 佔 24%、阿聯 MBZUAI 佔 62%，兩家 UAE 機構合計佔 2025 年營收 86%。這種客戶集中度對長期供應穩定性是隱憂，選它當生產環境唯一供應商前我會先準備備援。

適合誰用

需要極致 token 吞吐的即時應用：語音助理、串流對話、寫程式 agent、以及對延遲敏感的 demo。不適合需要大量特殊模型或想完全掌控部署的團隊。

替代方案

Groq（同樣主打超快推論、自研 LPU 晶片）、Together AI（模型多、可微調）、Fireworks AI（開源模型推論、速度與彈性平衡）。

台灣觀點

對台灣開發者，免費層足以撐起一個側專案或內部工具，值得試。中文能力取決於模型本身——它上面的 Qwen3、DeepSeek 中文都不錯，繁體輸出可用但偶爾要在 prompt 裡明確要求「用台灣繁體中文」。實測要留意：機房在美國，從台灣連過去網路往返約 150–250ms，雖然生成快，但首個 token 的網路延遲省不掉，對超低延遲語音場景這段要納入評估。目前沒有台灣或亞洲節點。