Lloyal

Lloyal 是澳洲墨爾本 LLoyal Labs 的開發套件，10 月 2 日登上 Product Hunt。它的想法是把模型直接「住」進應用程式裡：執行 npx lloyal-ai new，就會得到一個內建推論與多代理執行環境的 TypeScript App，交出去的是一個在飛機上也能用的下載檔，不需要 API 金鑰、不需要 Docker、不需要向量資料庫，也不用註冊任何服務。

技術上最有意思的是共享 KV 快取。多個代理不是各自載入上下文，而是從同一份快取分叉，新代理繼承模型已讀過的一切，所以十個代理同時跑，增加的是記憶體而不是十倍運算。Product Hunt 編輯介紹中提到團隊的開源研究工具 reasoning.run：在終端機提問後，規劃器拆解任務、代理群平行調查，再交回附引用的報告；公開的那次執行在 Runpod 租兩張 B200、以 2-bit 量化約 239 GB 的 GLM-5.2 跑了 82 分鐘，花費約 16 美元，同一套程式也能在 MacBook 上跑 4B 模型。

功能特色與適用場景：官網把擴充能力分三級：MCP（在獨立程序中處理參數）、Skills（帶有程序知識）、Abilities（能直接操作執行中的推論狀態，例如分叉出新代理或要求載入另一個模型）。它把架構比喻成 MVC 中「會思考的 Model」，你的 TypeScript harness 是 Controller，介面可以是 CLI、Electron／Tauri 桌面或網頁，行動版即將推出。對需要離線、資料不能出內網的台灣製造業或醫療場景，這種「模型內嵌」的做法值得研究；但它需要不少硬體與工程能力，不是給一般使用者的現成產品。