Ollama

站上舊資料把 Ollama 寫成「在本機跑開源模型的工具」，到了 2026 年只講對一半。ollama.com 現在的標題是「Run AI models locally and in the cloud」：同一套指令，模型名稱後面加上 :cloud（例如 gemma4:cloud），就改由 Ollama 自己的伺服器運算，不用下載、也不吃你的顯卡。官網公布每月安裝超過 900 萬次。

功能特色與適用場景：本機這端還是它的老本行。macOS 與 Windows 有桌面 App，Linux 一行 curl 安裝，ollama run 模型名 就會自動下載並開聊；背後的本機 API（預設 11434 埠）同時相容 OpenAI 與 Anthropic 的 SDK 格式，原本接 GPT 或 Claude 的程式改個 base URL 就能換成本地模型。今年新增的 ollama launch 指令可以直接把 Claude Code、OpenCode 這類程式代理接到 Ollama 的模型上；macOS App 側欄的 Apps 也能把模型接進 Claude Desktop 與 ChatGPT 桌面版的 Codex 模式。

雲端這端按 token 計費，模型清單包括 DeepSeek V4 系列、Kimi K3、GLM-5.3、gpt-oss、Gemma 4、Nemotron 3 等開放權重模型。官方說明用的是模型商釋出的原生權重，提示詞與回應不記錄也不拿去訓練，主機主要在美國，尖峰時可能分流到歐洲。

給台灣使用者的建議：本機跑模型先看硬體。官方文件列出支援計算能力 5.0 以上的 NVIDIA 顯卡、部分 AMD Radeon（Windows 只支援 RX 7000 系列以上）與 Apple Silicon。經驗上 16GB 記憶體的 Mac 或 8GB 顯存的 RTX 4060，跑 7B～9B 的 4-bit 量化模型很順；想跑 30B 以上，就要 24GB 顯存或 64GB 統一記憶體的 Mac。繁體中文表現看模型，Qwen、Gemma 系列中文不錯，但偶爾會混出簡體；也可以用 ollama run hf.co/帳號/模型 直接拉 Hugging Face 上的 GGUF 檔。雲端以美元信用卡付款，有個細節對台灣人特別划算：官網的離峰價是平日 UTC 12:00～18:00 以外與週末全天，換成台灣時間，尖峰是晚上 8 點到凌晨 2 點，白天上班時段跑批次反而吃得到大約半價。