Modal

一句話結論

Modal 讓你用寫 Python 的方式跑 GPU 工作負載，不用碰 Kubernetes；閒置不計費這點對流量不穩的 AI 應用特別划算。

有什麼功能

它是 serverless 的運算平台：在 Python 函式上加個裝飾器，指定要幾核 CPU、多少記憶體、哪種 GPU，部署後就有一個可以呼叫的端點。冷啟動最佳化做得不錯，容器啟動時間壓在幾秒內，這在 serverless GPU 領域是關鍵指標。

常見用途包含模型推論服務、批次資料處理、定時任務、以及微調訓練。也支援網頁端點、共享儲存磁碟區、以及在雲端執行 notebook 式的互動開發。

定價

Starter 免費：0 美元基礎費加運算費用，每月含 30 美元免費額度、最多 3 個工作區席次、100 個容器、10 個 GPU 併發。

Team 每月 250 美元基礎費加運算費用：每月含 100 美元免費額度、席次不限、5,000 個容器、50 個 GPU 併發，另有自訂網域與部署回溯。

Enterprise 洽詢：量大折扣、最高 GPU 併發、HIPAA 與稽核紀錄、SSO、專屬支援。

計價依實際使用的 CPU 核心、記憶體與 GPU 時間計算，閒置不收費。早期新創可申請額外免費額度，研究生與研究者最高可申請一萬美元額度。

優點

• 不用碰基礎設施，寫 Python 就能跑 GPU
• 閒置不計費，流量波動大的應用成本結構友善
• 冷啟動速度在同類服務中表現好
• 免費額度足以做完整的原型驗證
• 學術與早期新創的額度方案大方

缺點

• Team 方案每月 250 美元的基礎費是明顯的門檻
• 綁定其程式模型，之後要搬到自架環境需要改寫
• GPU 供給受市場影響，尖峰時特定機型可能排隊
• 除錯體驗仍不如在自己機器上直接跑

適合誰

要把模型推論或批次運算上線、但沒有基礎設施工程師的小團隊與獨立開發者。特別適合流量不穩定的應用——白天有人用、半夜沒人用的那種。

不適合：長時間滿載運轉的訓練任務（自己租機器或用長約更便宜）、以及資料必須留在本地的專案。

替代方案

• Replicate：現成模型多，部署自訂模型也方便
• RunPod：按小時租 GPU，長時間任務更便宜
• Baseten：推論服務化做得完整，偏企業導向
• Together AI、Fireworks AI：直接用託管的開源模型 API

台灣觀點

台灣團隊要跑 GPU，選項一直很尷尬：自己買卡要處理機房與折舊，租國內雲的 GPU 機型選擇少又貴，用國際雲又要面對複雜的 Kubernetes 設定。Modal 這種「寫 Python 就好」的路線，對三五人的新創是很實際的解法。

成本上我建議這樣算：如果你的服務每天只有幾小時有流量，serverless 幾乎穩贏；但如果 GPU 幾乎全天滿載，換算下來自己在 RunPod 租長約或買機器會便宜不少。轉折點通常落在「日均使用率超過三到四成」的時候。

另外，運算在境外執行這件事，處理個資或營業秘密的專案要先過法遵。台灣近年的資安要求越來越嚴，別等系統上線才被要求搬回來——那個重工成本比省下的雲端費用高得多。