Modal
用 Python 寫幾行裝飾器就能在雲端跑 GPU 的無伺服器平台：推論、訓練、Sandboxes 都依秒計費，閒置不收錢
Modal 是紐約的雲端基礎設施公司，2026 年 10 月 14 日剛宣布完成 7.5 億美元 D 輪融資，年化營收突破 10 億美元，官網說用量比 5 個月前的 C 輪時又成長了 3 倍。站上舊資料寫它是「跑 AI 與運算工作的雲端平台」，太籠統。Modal 的特色是：你不用寫 Dockerfile、不用管 Kubernetes，在 Python 函式上加一個裝飾器，指定要哪種 GPU，程式就會在它的雲端執行，跑完自動縮回零，只收實際執行的秒數。它自己重寫了檔案系統、容器執行環境、排程器與網路，容量池橫跨 20 多家雲端供應商。
功能特色與適用場景：產品分四塊。Inference 提供相容 OpenAI 格式的端點，也能把整套自訂的 vLLM、SGLang 推論堆疊搬上來，並有針對 HTTP 服務的 Modal Servers。Training 從單張 GPU 微調到多節點叢集都有，一個裝飾器就能拿到 RDMA 連線的叢集、不用簽容量合約，並支援 slime、Miles 等開源強化學習框架。Sandboxes 是給 AI 代理用的「電腦」，官網說能在一分鐘內用程式建立數百萬個並行 sandbox，虛擬機版本已正式推出，這塊單獨就有 3 億美元年化營收。Functions 則是通用的平行運算，可以一次展開到上千張 GPU 跑批次，或把函式直接變成 HTTPS 端點。客戶包括 DoorDash、Suno、Runway、Cognition、Ramp、Linear。企業面有 SOC 2 Type II、HIPAA、RBAC、稽核紀錄與資料駐留控制，日誌可匯出到 OpenTelemetry 相容工具。
給台灣使用者的建議：最適合會寫 Python、但不想養一台 GPU 主機的工程師與研究生。例如每週跑一次 Whisper 轉錄或圖片生成批次，用 Modal 只付那幾分鐘的錢；免費的 Starter 方案每月送 30 美元，以 H100 每小時約 3.95 美元換算，大約能跑 7 個多小時，做期末專題或論文實驗很夠用，研究生還能申請最高 1 萬美元的學術額度。以美元信用卡計費；可以在設定裡選擇區域，但台灣企業若有個資落地要求，要確認所選區域是否符合。文件全英文，對完全不寫程式的人不適合。
TheAI學院 編輯建議
編輯實測後的真心話Modal 是我心目中「開發者體驗」做得最好的 GPU 雲，寫起來真的像在跑本機程式。年化營收破 10 億美元也說明它不只是玩具。唯一要想清楚的是綁定：程式寫成 Modal 的樣子，要搬家時得改一輪，不過以它省下的維運時間來看，多數小團隊應該划得來。
主要功能
- Python 裝飾器指定 GPU 即可上雲執行，自動擴縮到零，依秒計費
- Inference：相容 OpenAI 格式端點，或部署自訂 vLLM、SGLang 推論堆疊
- Training：單 GPU 微調到 RDMA 多節點叢集，無需容量合約
- Sandboxes：大量並行的隔離執行環境，支援虛擬機，給 AI 代理與強化學習使用
- Functions：上千張 GPU 平行批次運算，函式可直接變成 HTTPS 端點
- SOC 2 Type II、HIPAA、RBAC、稽核紀錄與 OpenTelemetry 日誌匯出
如何使用 Modal
- 到 modal.com 註冊帳號，在電腦上執行 pip install modal 並用 modal setup 登入
- 在 Python 檔案裡定義 App 與映像檔，於函式上加裝飾器並指定 GPU 型號
- 用 modal run 執行測試，確認日誌與費用
- 要長期提供服務時用 modal deploy 部署，把函式變成 HTTPS 端點或排程工作
- 在設定頁設定預算上限，研究生可另外申請學術額度
適用場景
- 研究生跑論文實驗或期末專題，不必自購 GPU
- 定期批次處理影音轉錄、圖片生成或資料標註
- 把開源 LLM 部署成可自動擴縮的 API
- AI 代理產品用 Sandboxes 安全執行模型產生的程式碼
- 新創用多節點叢集微調或做強化學習後訓練
Modal 的優點與缺點
優點
- 不用寫 Dockerfile 或管 Kubernetes，Python 開發者上手很快
- 閒置不收費、依秒計價，適合不定期的批次工作
- 免費方案每月 30 美元額度，學術單位可申請高額補助
缺點
- 綁定 Modal 的 Python SDK 寫法，日後搬到其他平台要改程式
- Sandboxes 以非搶占價 3 倍計費，大量使用成本上升快
- 只適合會寫程式的人，文件全英文
價格方案
Starter 月費 0 元＋運算費（每月送 30 美元額度）；Team 每月 250 美元＋運算費（每月送 100 美元額度）；Enterprise 洽談。GPU 依秒計費，例如 H100 每秒約 0.0011 美元、T4 每秒約 0.00016 美元；Sandboxes 以非搶占價 3 倍計費。學術研究最高可申請 1 萬美元額度。以官網為準
Modal 常見問題
Modal 免費嗎？
Starter 方案月費 0 元，每月送 30 美元運算額度，超過才依秒計費；Team 方案每月 250 美元並送 100 美元額度。研究生與實驗室可申請最高 1 萬美元學術額度，以官網為準。
在 Modal 用一張 H100 一小時多少錢？
官網 H100 價格約每秒 0.0011 美元，換算每小時約 3.95 美元，只算程式實際執行的時間；Sandboxes 另以非搶占價 3 倍計費。
Modal 和 RunPod、Replicate 差在哪？
[RunPod](/tools/runpod) 偏向租用 GPU 主機，自己管環境；[Replicate](/tools/replicate) 偏向直接呼叫現成模型；Modal 則是用 Python 程式碼定義環境與 GPU，自動擴縮、依秒計費，彈性最高但需要寫程式。
Modal 適合不會寫程式的人嗎？
不適合。Modal 的使用方式就是寫 Python 程式並用 CLI 部署；不寫程式的人建議改用有圖形介面的 AI 工具或現成模型 API。
使用者評價
還沒有足夠評價，搶先分享你的使用心得！
寫下你的評價
Modal 的替代方案
查看相似的 AI 工具 →相關 AI 工具
Claude
Anthropic 的 AI 助理，長文件與寫作品質是它的主場。
telemetry.dev
把 AI 代理每一次模型呼叫、工具步驟與檢索串成一條 trace，看出哪一步最慢、哪個模型最燒錢、哪個 MCP 工具最常失敗
agentmash
隊友的 Codex 正在改同一個檔案，你的 Claude Code 動手前就會收到通知；按開發者計費，代理不限數量
Pluto Door
用白話描述問題，Ori 讀 log、跑指令，改動前一定問你；另外把每台 Linux 主機變成有 Dock 和視窗的桌面
Backenly
代理透過 MCP 建好資料庫、登入與儲存，Backenly 每分鐘巡檢並自動修安全範圍內的問題，刪表這類動作一律等人核准
Spacesheep
代理寫好的 HTML 或資料夾一行指令發布成私人網址，人和代理都能留言、改版，還能送電子簽署與接即時資料
猜你也想看的AI 開發者工具
Modal 評測：值得用嗎？
一句話結論
Modal 讓你用寫 Python 的方式跑 GPU 工作負載，不用碰 Kubernetes；閒置不計費這點對流量不穩的 AI 應用特別划算。
有什麼功能
它是 serverless 的運算平台：在 Python 函式上加個裝飾器，指定要幾核 CPU、多少記憶體、哪種 GPU，部署後就有一個可以呼叫的端點。冷啟動最佳化做得不錯，容器啟動時間壓在幾秒內，這在 serverless GPU 領域是關鍵指標。
常見用途包含模型推論服務、批次資料處理、定時任務、以及微調訓練。也支援網頁端點、共享儲存磁碟區、以及在雲端執行 notebook 式的互動開發。
定價
Starter 免費：0 美元基礎費加運算費用，每月含 30 美元免費額度、最多 3 個工作區席次、100 個容器、10 個 GPU 併發。
Team 每月 250 美元基礎費加運算費用：每月含 100 美元免費額度、席次不限、5,000 個容器、50 個 GPU 併發，另有自訂網域與部署回溯。
Enterprise 洽詢：量大折扣、最高 GPU 併發、HIPAA 與稽核紀錄、SSO、專屬支援。
計價依實際使用的 CPU 核心、記憶體與 GPU 時間計算，閒置不收費。早期新創可申請額外免費額度，研究生與研究者最高可申請一萬美元額度。
優點
- 不用碰基礎設施，寫 Python 就能跑 GPU
- 閒置不計費，流量波動大的應用成本結構友善
- 冷啟動速度在同類服務中表現好
- 免費額度足以做完整的原型驗證
- 學術與早期新創的額度方案大方
缺點
- Team 方案每月 250 美元的基礎費是明顯的門檻
- 綁定其程式模型，之後要搬到自架環境需要改寫
- GPU 供給受市場影響，尖峰時特定機型可能排隊
- 除錯體驗仍不如在自己機器上直接跑
適合誰
要把模型推論或批次運算上線、但沒有基礎設施工程師的小團隊與獨立開發者。特別適合流量不穩定的應用——白天有人用、半夜沒人用的那種。
不適合：長時間滿載運轉的訓練任務（自己租機器或用長約更便宜）、以及資料必須留在本地的專案。
替代方案
- Replicate：現成模型多，部署自訂模型也方便
- RunPod：按小時租 GPU，長時間任務更便宜
- Baseten：推論服務化做得完整，偏企業導向
- Together AI、Fireworks AI：直接用託管的開源模型 API
台灣觀點
台灣團隊要跑 GPU，選項一直很尷尬：自己買卡要處理機房與折舊，租國內雲的 GPU 機型選擇少又貴，用國際雲又要面對複雜的 Kubernetes 設定。Modal 這種「寫 Python 就好」的路線，對三五人的新創是很實際的解法。
成本上我建議這樣算：如果你的服務每天只有幾小時有流量，serverless 幾乎穩贏；但如果 GPU 幾乎全天滿載，換算下來自己在 RunPod 租長約或買機器會便宜不少。轉折點通常落在「日均使用率超過三到四成」的時候。
另外，運算在境外執行這件事，處理個資或營業秘密的專案要先過法遵。台灣近年的資安要求越來越嚴，別等系統上線才被要求搬回來——那個重工成本比省下的雲端費用高得多。
本評測由 TheAI學院編輯群整理，內容力求客觀、含優缺點，僅供參考。
最後更新：2026年10月