AI 開發框架與基建 AI 工具推薦

DeepEval

開源大型語言模型評估框架，實現自動化單元測試

Datalab

高精準度的 PDF 與圖片轉 Markdown API

免費或付費 3.9

Chunkr

開源且支援自架的文件擷取 API，將 PDF 轉為具語意結構的 Markdown 區塊。

免費或付費 4.4

Guardrails AI

為LLM應用打造安全的輸入輸出防護網

Giskard

開源的 LLM 測試與安全防護庫

Enkrypt AI

全生命週期LLM安全平台與合規防護

免費或付費 4.5

Locofy

新加坡出品：用 AI 把設計稿變成前端程式碼

Datature

無需寫程式就能訓練、部署電腦視覺模型的平台

Keploy

用真實流量自動生成 API 測試與 Mock 的開源測試平台

Metoro

Kubernetes 專用的 AI SRE 平台，eBPF 零侵入式可觀測性

Anchor Browser

為 agentic AI 打造的雲端瀏覽器自動化基礎建設,讓 agent 像真人一樣上網操作,內建反偵測與自動解 CAPTCHA、無限並行,WebVoyager 任務完成率達 89%。

Hyperbrowser

為 AI agent 從頭打造的雲端瀏覽器基礎建設,可同時開上千個隔離 session,還附一個看得懂白話指令的 HyperAgent 框架,讓 agent 直接讀懂任務去操作網頁。

Steel

開源的瀏覽器 API,把 Chromium 包成可大規模雲端管理的 REST/WebSocket 服務,專門當 AI agent 與爬蟲上網的底層,自架免授權費,雲端版也有免費額度。

Kodus

開源、模型自選的 AI 程式碼審查 agent,直接在 GitHub/GitLab/Bitbucket 的 PR 裡跑審查,會學你團隊的規則,自帶 API key、對 LLM 成本零加價。

Kernel

給 AI agent 用的雲端瀏覽器基礎建設,毫秒級冷啟動、內建反偵測與代理,讓 agent 像真人一樣上網填表、抓資料、操作網站,開發者免自己養瀏覽器叢集。

免費或付費 4.4

Omnara

把 Claude Code 等程式 AI agent 的執行過程同步到手機與網頁,讓你離開電腦也能審核、回覆、繼續派工,是給 AI 代理工程師的隨身指揮中心。

Promptfoo

開源的 LLM 評測與紅隊測試工具,用宣告式設定就能比較 GPT、Claude、Gemini 的表現,還能對 AI 應用做越獄、prompt 注入等弱點掃描,評測直接在本機跑。

Blaxel

為 AI agent 打造的「永續沙箱」平台,閒置時待命零運算費、25 毫秒內喚醒,能撐五萬個並行沙箱,還把 agent 與 MCP server 同地部署來壓低延遲。

Agenta

開源的 LLM 應用開發平台,把 prompt 管理、評測、可觀測性與協作收進一個介面,還能把 prompt 版本和 trace 綁在一起,讓工程師、PM 與領域專家在同一處對齊。

AgentOps

專為 AI agent 打造的可觀測性平台,支援 OpenAI、CrewAI、Autogen 等 400 多種框架與模型,主打時光回溯除錯,能把 agent 的每一步重播出來看哪裡出錯。

RAGFlow

開源的 RAG 引擎,強在「深度文件理解」——把 PDF、表格、圖片等多格式資料清洗成高品質語意片段,再用向量加 BM25 混合檢索與重排,給 LLM 一個靠譜的上下文層。

Kiro

AWS 推出的規格驅動開發工具,先把需求寫成明確規格與設計文件,再讓 AI agent 照著拆解任務、寫程式,把氛圍編程拉回可上線的工程紀律。

Truffle AI

被稱為「AI 代理界的 AWS」的後端平台，把 AI agent 包成可直接呼叫的 API，幫你扛掉部署、整合與基礎設施，開發者用簡單的 SDK 就能把代理塞進任何軟體裡，背後有 YC 撐腰。

Coder

開源的自架雲端開發環境平台,用 Terraform 模板把開發環境寫成基礎設施即程式碼,能跑在 AWS、GCP、Azure、Kubernetes 到裸機,還能替 AI 編碼代理提供受治理的工作空間。

Ona

Gitpod 改名而來,把雲端開發環境升級成軟體工程代理的指揮中心,Ona Agent 能平行或在背景自主跑任務,還帶上你環境的完整脈絡,並用 Guardrails 控管安全。

Daytona

專門用來跑 AI 生成程式碼的安全沙盒,90 毫秒內就能開出一個隔離環境,相容 Docker、跨多區域,還能保留檔案系統與記憶狀態,讓代理放心執行不可信的程式碼。

SiliconFlow

一個 API 串接 200 多個開源與商用大模型。矽基流動提供無伺服器推論、模型微調與專屬 GPU 部署,讓你在同一個平台上自由切換模型、按用量付費,省去自己養 GPU 的沉重負擔。

Trieve

開源、可自架的全能檢索 API。Trieve 把搜尋、RAG、推薦與分析整合成一套 API,讓你不用拼湊一堆服務,就能為產品加上又準又快的語意搜尋與檢索能力。