AI 開發框架與基建 AI 工具推薦
AI 開發框架與基礎建設：模型部署、向量資料庫、LLM 應用框架、推理加速。挑選是技術決策：看社群活躍度與文件品質、與你技術棧的相容性、自架與託管的成本結構。這一類變化極快，選主流大社群的專案通常比追最新的酷東西穩——半年後還在維護的框架才是好框架。
共 255 個工具 （第 8 / 9 頁）
Kilo Code
開源 AI 編碼代理,不綁單一模型也不綁單一編輯器。VS Code、JetBrains、CLI 到雲端都能接,讓你用自己喜歡的 LLM 做跨檔重構與除錯,連工具費都透明可查。
OpenCode
開源、模型不綁定的終端機 AI 程式代理，可串接 75+ 個模型供應商，在自己的電腦上跑、支援離線與企業級部署。
SambaNova
以自家晶片提供高速 AI 推論。
FastGPT
開源的知識庫問答與工作流平台。
Dify
開源的 LLM 應用開發平台。
Firecrawl
把任何網站轉成 LLM 好讀 Markdown 的抓取 API
LanceDB
為 AI 打造的開源向量資料庫。
Zilliz
Milvus 背後的雲端向量資料庫。
Lunary
開源的 LLM 觀測與管理平台。
Literal AI
LLM 應用的觀測與評估平台。
Haystack
打造 LLM 應用的開源框架。
Sieve
影音 AI 處理的開發者平台。
Inferless
Serverless 的模型部署平台。
Nomic
嵌入模型與資料視覺化平台。
Hyperbolic
平價的 AI 推論與 GPU 平台。
Patronus AI
AI 評估與防護平台。
Chroma
給 AI 應用的開源嵌入式向量資料庫。
Qdrant
高效能的開源向量資料庫。
Weaviate
開源的向量資料庫。
Pinecone
熱門的向量資料庫服務。
RunPod
平價的雲端 GPU 運算平台。
DeepInfra
低價的開源模型推論 API。
Cerebras
以自家晶片提供極速 AI 推論。
Fal
為生成式媒體打造的高速推論平台。
Anyscale
大規模 AI 運算與部署平台。
Predibase
微調與服務開源模型的平台。
Lamini
企業級 LLM 微調與部署平台。
OpenPipe
微調與最佳化模型的平台。
LangSmith
LLM 應用的觀測與評估平台。
Athina AI
LLM 評估與監控平台。