Tensorfuse

Tensorfuse 的口號是「在你自己的 AWS 裡跑 Serverless 推論」。跟大多數 Serverless GPU 平台把模型放在它們的機房不同，Tensorfuse 是把一套自動擴展的 GPU 執行環境部署進你的雲端帳號，讓你享受 Serverless 的方便，但資料、模型權重與 GPU 都留在自己的 AWS 裡。這對已經跟 AWS 簽了用量承諾、或資料不能離開自家雲的公司特別有吸引力。

官網列出四大功能。Serverless Inference 依流量自動擴展部署，用自家最佳化的容器執行環境，讓好幾 GB 的容器在數秒內啟動；並內建多 LoRA 推論，可以在單張 GPU 上訓練並熱切換上千個 LoRA 轉接器，適合「一個基礎模型、很多客戶各自微調」的 SaaS 架構。Fine-tuning 讓你用雲端 GPU 拿私有資料微調開源模型，資料集與權重存在你自己的私有 S3 bucket，可以用 Axolotl、Unsloth、Hugging Face 等訓練函式庫或自己寫訓練迴圈；官網首頁就放了用 Axolotl 微調 Qwen3-8B 的教學。Job Queues 讓你以程式排入工作，設定最小與最大規模控制速度與成本，用 CLI 查狀態。Dev Containers 則把本機的 ML 程式碼直接接到雲端 GPU，不用開機器、SSH、複製程式、裝相依套件，本機改的程式即時同步到執行中的容器。

功能特色與適用場景：適合有 AWS 帳號、有 MLOps 需求但不想自己維運 Kubernetes GPU 叢集的中小團隊。台灣不少企業因為法遵要求資料留在自己的雲帳號（例如使用 AWS 東京或大阪區），Tensorfuse 這種「部署在你雲上」的模式比較好過資安審查。缺點是目前以 AWS 為主，GPU 配額仍受你帳號的限制，價格也沒有公開。