AI 開發框架與基建 AI 工具推薦
AI 開發框架與基礎建設：模型部署、向量資料庫、LLM 應用框架、推理加速。挑選是技術決策：看社群活躍度與文件品質、與你技術棧的相容性、自架與託管的成本結構。這一類變化極快，選主流大社群的專案通常比追最新的酷東西穩——半年後還在維護的框架才是好框架。
共 337 個工具 （第 12 / 12 頁）
Baseten
給要把模型正式上線的團隊用的推論平台：專屬部署、Model APIs、Loops 強化學習訓練，可放自家 VPC
Modal
用 Python 寫幾行裝飾器就能在雲端跑 GPU 的無伺服器平台：推論、訓練、Sandboxes 都依秒計費，閒置不收錢
LangChain
開源 LLM 應用框架＋LangSmith 觀測評估平台，從原型到上線的 Agent 工程全套
Fireworks AI
主打「擁有自己的專屬模型」的開源模型推論平台：高吞吐推論、30 多個區域資料駐留、微調與 Nexus 模型調度
Together AI
自稱「AI Native Cloud」的開源模型雲：Serverless 推論、PTU 專屬端點、H100／B200 GPU 叢集與微調一站買齊
Replicate
一行程式呼叫上千個開源與商用 AI 模型的雲端 API，按秒或按產出計費（2026 年起屬於 Cloudflare）
LlamaIndex
從開源 RAG 框架起家，現在主打 LlamaParse 文件解析與抽取的文件智慧平台