AI 開發框架與基建 AI 工具推薦
AI 開發框架與基礎建設：模型部署、向量資料庫、LLM 應用框架、推理加速。挑選是技術決策：看社群活躍度與文件品質、與你技術棧的相容性、自架與託管的成本結構。這一類變化極快，選主流大社群的專案通常比追最新的酷東西穩——半年後還在維護的框架才是好框架。
共 84 個工具・免費或付費 （第 2 / 3 頁）
Ciroos
跨領域根因分析的 AI SRE 平台，加速企業事件處理
Metoro
Kubernetes 專用的 AI SRE 平台，eBPF 零侵入式可觀測性
TrueFoundry
統一平台治理、部署、擴展與追蹤代理式 AI 工作負載
RuntimeAI
為自主 AI agent 打造的控制平面,主打安全、控管與治理,提供 runtime 日誌、人為監督與風險管理,協助企業在數天內滿足 EU AI Act 等合規要求。
Anchor Browser
為 agentic AI 打造的雲端瀏覽器自動化基礎建設,讓 agent 像真人一樣上網操作,內建反偵測與自動解 CAPTCHA、無限並行,WebVoyager 任務完成率達 89%。
Hyperbrowser
為 AI agent 從頭打造的雲端瀏覽器基礎建設,可同時開上千個隔離 session,還附一個看得懂白話指令的 HyperAgent 框架,讓 agent 直接讀懂任務去操作網頁。
Steel
開源的瀏覽器 API,把 Chromium 包成可大規模雲端管理的 REST/WebSocket 服務,專門當 AI agent 與爬蟲上網的底層,自架免授權費,雲端版也有免費額度。
Kodus
開源、模型自選的 AI 程式碼審查 agent,直接在 GitHub/GitLab/Bitbucket 的 PR 裡跑審查,會學你團隊的規則,自帶 API key、對 LLM 成本零加價。
Kernel
給 AI agent 用的雲端瀏覽器基礎建設,毫秒級冷啟動、內建反偵測與代理,讓 agent 像真人一樣上網填表、抓資料、操作網站,開發者免自己養瀏覽器叢集。
Omnara
把 Claude Code 等程式 AI agent 的執行過程同步到手機與網頁,讓你離開電腦也能審核、回覆、繼續派工,是給 AI 代理工程師的隨身指揮中心。
Upstage
韓國的企業級 AI 公司,推出 Solar 系列大型語言模型與文件智能工具,擅長把發票、保單、合約等複雜文件轉成結構化資料,支援地端部署與多項合規認證。
Promptfoo
開源的 LLM 評測與紅隊測試工具,用宣告式設定就能比較 GPT、Claude、Gemini 的表現,還能對 AI 應用做越獄、prompt 注入等弱點掃描,評測直接在本機跑。
Blaxel
為 AI agent 打造的「永續沙箱」平台,閒置時待命零運算費、25 毫秒內喚醒,能撐五萬個並行沙箱,還把 agent 與 MCP server 同地部署來壓低延遲。
Agenta
開源的 LLM 應用開發平台,把 prompt 管理、評測、可觀測性與協作收進一個介面,還能把 prompt 版本和 trace 綁在一起,讓工程師、PM 與領域專家在同一處對齊。
AgentOps
專為 AI agent 打造的可觀測性平台,支援 OpenAI、CrewAI、Autogen 等 400 多種框架與模型,主打時光回溯除錯,能把 agent 的每一步重播出來看哪裡出錯。
RAGFlow
開源的 RAG 引擎,強在「深度文件理解」——把 PDF、表格、圖片等多格式資料清洗成高品質語意片段,再用向量加 BM25 混合檢索與重排,給 LLM 一個靠譜的上下文層。
Kiro
AWS 推出的規格驅動開發工具,先把需求寫成明確規格與設計文件,再讓 AI agent 照著拆解任務、寫程式,把氛圍編程拉回可上線的工程紀律。
Truffle AI
被稱為「AI 代理界的 AWS」的後端平台，把 AI agent 包成可直接呼叫的 API，幫你扛掉部署、整合與基礎設施，開發者用簡單的 SDK 就能把代理塞進任何軟體裡，背後有 YC 撐腰。
Coder
開源的自架雲端開發環境平台,用 Terraform 模板把開發環境寫成基礎設施即程式碼,能跑在 AWS、GCP、Azure、Kubernetes 到裸機,還能替 AI 編碼代理提供受治理的工作空間。
Ona
Gitpod 改名而來,把雲端開發環境升級成軟體工程代理的指揮中心,Ona Agent 能平行或在背景自主跑任務,還帶上你環境的完整脈絡,並用 Guardrails 控管安全。
Daytona
專門用來跑 AI 生成程式碼的安全沙盒,90 毫秒內就能開出一個隔離環境,相容 Docker、跨多區域,還能保留檔案系統與記憶狀態,讓代理放心執行不可信的程式碼。
SiliconFlow
一個 API 串接 200 多個開源與商用大模型。矽基流動提供無伺服器推論、模型微調與專屬 GPU 部署,讓你在同一個平台上自由切換模型、按用量付費,省去自己養 GPU 的沉重負擔。
Trieve
開源、可自架的全能檢索 API。Trieve 把搜尋、RAG、推薦與分析整合成一套 API,讓你不用拼湊一堆服務,就能為產品加上又準又快的語意搜尋與檢索能力。
LangWatch
AI 代理的測試與評估可觀測性平台。LangWatch 把正式環境的真實追蹤轉成評估資料集,還能模擬端到端的代理流程,讓你在出包前就抓到問題,而不是等使用者來抱怨才知道哪裡壞了。
ZeroEntropy
專治 RAG 檢索不準。ZeroEntropy 提供高精度的重排序與嵌入模型,常常只要加上一行程式碼,就能把你檢索回來的結果排得更對,讓 AI 引用到真正相關的內容而不是似是而非的雜訊。
Coral Protocol
跨框架的多代理基礎設施。Coral Protocol 提供代理註冊表、執行環境與零信任編排,讓來自不同團隊、不同框架的 AI 代理能彼此發現、安全協作,把「一堆各自為政的代理」變成真正會合作的系統。
Cua
給 AI 一台真正的雲端電腦。Cua 提供 Linux、Windows、macOS 沙盒桌面與開源 SDK,讓代理像人一樣移動滑鼠、點按鍵盤、操控整個作業系統,而不是只會呼叫幾個 API。
Korbit AI
掛上你的 GitHub、GitLab 或 Bitbucket,它就自動審每一個 PR:抓 bug、寫摘要、給可直接照做的修改建議,像團隊裡多了一個不會累、不會漏的 review 機器人。
cubic
YC 出身的 AI 程式碼審查平台,能讀懂跨檔案的複雜邏輯,不只挑語法毛病,還會幫你畫架構圖、一鍵套用修正建議,讓 PR review 從拖時間變成幾分鐘的事。
Kilo Code
開源 AI 編碼代理,不綁單一模型也不綁單一編輯器。VS Code、JetBrains、CLI 到雲端都能接,讓你用自己喜歡的 LLM 做跨檔重構與除錯,連工具費都透明可查。