AI 開發框架與基建 AI 工具推薦
AI 開發框架與基礎建設：模型部署、向量資料庫、LLM 應用框架、推理加速。挑選是技術決策：看社群活躍度與文件品質、與你技術棧的相容性、自架與託管的成本結構。這一類變化極快，選主流大社群的專案通常比追最新的酷東西穩——半年後還在維護的框架才是好框架。
共 255 個工具 （第 9 / 9 頁）
PromptLayer
提示管理與監控平台。
Portkey
LLM 應用的 AI 閘道與管理平台。
Braintrust
AI 應用的評估與實驗平台。
Helicone
LLM 監控與分析的開源平台。
Langfuse
開源的 LLM 應用可觀測平台。
Humanloop
LLM 評估與提示管理平台。
Vellum
打造、測試與部署 LLM 應用的平台。
OpenHands
開源的 AI 軟體工程代理。
Baseten
部署與服務 AI 模型的平台。
Modal
跑 AI 與運算工作的雲端平台。
LangChain
打造 LLM 應用的開發框架。
Fireworks AI
高速的開源模型推論平台。
Together AI
開源模型的雲端推論與微調平台。
Replicate
用 API 一鍵運行各種開源 AI 模型。
LlamaIndex
LlamaIndex 最適合用於構建與管理大型語言模型的資料索引與查詢系統。