AI 開發框架與基建 AI 工具推薦
AI 開發框架與基礎建設：模型部署、向量資料庫、LLM 應用框架、推理加速。挑選是技術決策：看社群活躍度與文件品質、與你技術棧的相容性、自架與託管的成本結構。這一類變化極快，選主流大社群的專案通常比追最新的酷東西穩——半年後還在維護的框架才是好框架。
共 84 個工具・免費或付費 （第 3 / 3 頁）
OpenCode
開源、模型不綁定的終端機 AI 程式代理，可串接 75+ 個模型供應商，在自己的電腦上跑、支援離線與企業級部署。
FastGPT
開源的知識庫問答與工作流平台。
Dify
開源的 LLM 應用開發平台。
Firecrawl
把任何網站轉成 LLM 好讀 Markdown 的抓取 API
Zilliz
Milvus 背後的雲端向量資料庫。
Lunary
開源的 LLM 觀測與管理平台。
Literal AI
LLM 應用的觀測與評估平台。
Nomic
嵌入模型與資料視覺化平台。
Chroma
給 AI 應用的開源嵌入式向量資料庫。
Qdrant
高效能的開源向量資料庫。
Weaviate
開源的向量資料庫。
Pinecone
熱門的向量資料庫服務。
Cerebras
以自家晶片提供極速 AI 推論。
OpenPipe
微調與最佳化模型的平台。
LangSmith
LLM 應用的觀測與評估平台。
Athina AI
LLM 評估與監控平台。
PromptLayer
提示管理與監控平台。
Portkey
LLM 應用的 AI 閘道與管理平台。
Helicone
LLM 監控與分析的開源平台。
Langfuse
開源的 LLM 應用可觀測平台。
OpenHands
開源的 AI 軟體工程代理。
Modal
跑 AI 與運算工作的雲端平台。
LangChain
打造 LLM 應用的開發框架。
LlamaIndex
LlamaIndex 最適合用於構建與管理大型語言模型的資料索引與查詢系統。