AI 開發框架與基建 AI 工具推薦
AI 開發框架與基礎建設：模型部署、向量資料庫、LLM 應用框架、推理加速。挑選是技術決策：看社群活躍度與文件品質、與你技術棧的相容性、自架與託管的成本結構。這一類變化極快，選主流大社群的專案通常比追最新的酷東西穩——半年後還在維護的框架才是好框架。
共 337 個工具 （第 11 / 12 頁）
Lunary
開源的 LLM 觀測與管理平台。
Literal AI
LLM 應用的觀測與評估平台。
Haystack
打造 LLM 應用的開源框架。
Sieve
影音 AI 處理的開發者平台。
Inferless
Serverless 的模型部署平台。
Nomic
嵌入模型與資料視覺化平台。
Hyperbolic
平價的 AI 推論與 GPU 平台。
Patronus AI
AI 評估與防護平台。
Chroma
給 AI 應用的開源嵌入式向量資料庫。
Qdrant
高效能的開源向量資料庫。
Weaviate
開源的向量資料庫。
Pinecone
熱門的向量資料庫服務。
RunPod
平價的雲端 GPU 運算平台。
DeepInfra
低價的開源模型推論 API。
Cerebras
以自家晶片提供極速 AI 推論。
Fal
為生成式媒體打造的高速推論平台。
Anyscale
大規模 AI 運算與部署平台。
Predibase
微調與服務開源模型的平台。
Lamini
企業級 LLM 微調與部署平台。
OpenPipe
微調與最佳化模型的平台。
LangSmith
LLM 應用的觀測與評估平台。
Athina AI
LLM 評估與監控平台。
PromptLayer
提示管理與監控平台。
Portkey
LLM 應用的 AI 閘道與管理平台。
Braintrust
AI 應用的評估與實驗平台。
Helicone
LLM 監控與分析的開源平台。
Langfuse
開源的 LLM 應用可觀測平台。
Humanloop
LLM 評估與提示管理平台。
Vellum
打造、測試與部署 LLM 應用的平台。
OpenHands
MIT 授權的開源 AI 軟體工程代理平台，可本機自架、串 GitHub／Slack／Jira 自動修 CI 與審 PR，也能驅動 Claude Code、Codex 等其他代理