Tinker

你在自己電腦上寫訓練迴圈、定義損失與獎勵,GPU 排程、故障復原與檢查點全交給 Tinker,用 LoRA 微調 Inkling、Qwen、GLM、DeepSeek 等開源模型

付費
一句話介紹:你在自己電腦上寫訓練迴圈、定義損失與獎勵,GPU 排程、故障復原與檢查點全交給 Tinker,用 LoRA 微調 Inkling、Qwen、GLM、DeepSeek 等開源模型

Tinker 是 Thinking Machines Lab 的模型後訓練(post-training)API。這間實驗室的團隊成員曾參與 ChatGPT、Character.ai、Mistral 與 PyTorch,Tinker 在 2025 年 10 月推出,同年 12 月取消候補名單、開放所有人註冊。11 月 5 日實驗室發表第二代自家模型 Inkling 2 Small,首發管道就是 Tinker,這週又被大量討論。

功能特色與適用場景:Tinker 的設計很「底層」。你的資料和訓練迴圈留在自己手上,透過 sample、forward_backward、optim_step、save_state 這幾個函式呼叫,GPU 配置、排程、節點故障換手都由 Tinker 處理。損失函式內建交叉熵、PPO、CISPO、GSPO、DRO 等,也能自訂,所以監督式微調和強化學習都能做。微調採 LoRA,官方研究稱設定得當時效果可追上全參數微調。訓練中的檢查點可以直接用相容 OpenAI 或 Anthropic 的 API 取樣。

可訓練的模型包括自家 Inkling 系列(Inkling 2 Small 為 5,940 億參數、170 億啟用的 MoE,發表時權重未公開,官方表示完成外部安全測試後以 Apache 2.0 釋出),以及 Qwen3.5/3.6、GLM-5.3、DeepSeek-V4.1-Flash、GPT-OSS-20B 等。官網案例中,Bridgewater 用 Tinker 訓練 Qwen3-235B 做金融資訊篩選,六項任務平均準確率 84.66%,高於 GPT-5.5 的 78.2%,推論成本約十四分之一;Exa 把 Qwen3-4B 訓練成搜尋代理,2WikiMultihopQA 準確率從 50.0% 拉到 83.9%。

和站上的 Together AI、Fireworks AI 這類「上傳資料、按鈕微調」的服務不同,Tinker 要你自己寫迴圈,彈性大很多,門檻也高;想要更省事、又不想把資料交給雲端,可以在自己機器上跑 Unsloth。

台灣使用者怎麼用:適合有 Python 與機器學習基礎的研究室、金融與製造業的資料團隊,把內部判斷標準訓練成小而便宜的專用模型。全英文介面、以美元計價;Qwen、GLM 這些底模本身中文能力不錯,繁中訓練資料要自己準備。

TheAI學院 編輯建議

編輯實測後的真心話

Tinker 的有趣之處在於它沒有幫你做決定:損失怎麼算、獎勵怎麼給都是你的事,它只把最痛苦的 GPU 基礎設施拿走。我沒有實測,從官網列出的 Bridgewater、Exa 案例看來,「拿自家專業知識訓練一個便宜的小模型去打贏大模型」這條路確實走得通,但前提是你手上要有好的資料和評估方法。

— theai 編輯團隊

主要功能

  • sample、forward_backward、optim_step、save_state 等函式,自己掌握訓練迴圈
  • 內建交叉熵、PPO、CISPO、GSPO、DRO 等損失函式,也可自訂
  • 以 LoRA 微調 Inkling、Qwen、GLM、DeepSeek、Nemotron 等開源模型
  • 訓練中的檢查點可用相容 OpenAI 與 Anthropic 的 API 直接取樣
  • 支援 Qwen3-VL 等模型的影像輸入
  • Tinker Playground 可直接試用 Inkling 2 Small
  • Tinker cookbook 提供預測、持續學習等訓練範例

如何使用 Tinker

  1. 到 thinkingmachines.ai/tinker 註冊帳號並取得 API 金鑰
  2. 安裝 Tinker SDK,參考 cookbook 挑一個接近需求的範例
  3. 準備訓練資料,選定底模並建立 LoRA 訓練客戶端
  4. 在自己的迴圈中呼叫 forward_backward 與 optim_step,定期 save_state
  5. 用相容 OpenAI 的 API 對檢查點取樣,評估效果後再決定部署方式

適用場景

  • 把分析師的篩選標準訓練成便宜的專用分類模型
  • 用強化學習訓練能查資料、做判斷的搜尋代理
  • 訓練預測模型,回答「某事件會不會發生」並給出校準過的機率
  • 大學實驗室做後訓練研究,不必自建 GPU 叢集
  • 把小模型訓練成特定程式語言(如 Verilog)的寫碼助手

Tinker 的優點與缺點

優點

  • 不用自己找 GPU、處理排程與節點故障,大模型也能開跑
  • 監督式微調與強化學習都能做,彈性遠高於一般微調按鈕
  • 官網公開多個客戶的量化成果,評估時有依據

缺點

  • 需要自己寫 Python 訓練迴圈,不適合沒有 ML 背景的人
  • 只做 LoRA 微調,不提供全參數訓練
  • 部分舊模型會陸續下架,長期專案要留意模型淘汰時程

價格方案

依模型與用量計費,訓練、取樣與檢查點儲存分開計算;各模型單價列在官方文件「Models & Pricing」頁。目前註冊即可使用,已無候補名單。價格以官網為準

Tinker 常見問題

Tinker 和一般的微調服務有什麼不同?

一般服務是上傳資料、選參數、按下訓練;Tinker 只提供訓練與取樣的基本函式,迴圈、損失函式與獎勵由你在自己電腦上寫,GPU 與故障處理由 Tinker 負責,所以能做強化學習這類客製流程。

現在還需要排候補嗎?

不用。官方在 2025 年 12 月宣布取消候補名單,所有人都可註冊;大學或組織要大規模使用可另外聯絡官方。

Inkling 2 Small 可以下載權重嗎?

11 月 5 日發表時是封閉權重,只能在 Tinker 上試用、微調與取樣。官方表示完成外部安全測試與紅隊演練後,會以 Apache 2.0 授權釋出完整權重,屆時 Tinker 上的檢查點也可下載。

訓練好的模型要怎麼拿來用?

可以直接透過相容 OpenAI 或 Anthropic 的 API 對檢查點取樣,接到現有程式;也能把權重存下來另外部署。

使用者評價

還沒有足夠評價,搶先分享你的使用心得!

寫下你的評價

評論將經審核後公開。

Tinker 的替代方案

查看相似的 AI 工具 →

相關 AI 工具

猜你也想看的AI 開發者工具

前往官網 ↗