LM Studio 完整教學：把 AI 裝進自己電腦，斷網也能用的本機模型入門

一位在會計師事務所上班的朋友問我：客戶資料碰不得雲端 AI，那我是不是就跟 AI 絕緣了？我請他下載 LM Studio，二十分鐘後他傳來訊息：「筆電在飛航模式下回答了我的問題。」對很多行業來說，這件事的意義比模型多聰明還大——資料從頭到尾沒有離開那台電腦。

這是什麼

LM Studio 是一款免費的桌面應用程式，Mac、Windows、Linux 都有，讓你在自己的電腦下載並執行開源 AI 模型：Meta 的 Llama、阿里的 Qwen、Google 的 Gemma、Mistral 這些主流開放模型都在列。它把本來要敲指令、管環境的苦工包成了圖形介面，是目前公認新手最容易上手的本機 LLM 工具。授權方面，個人使用免費，官方後來也開放了工作用途免費使用，細節以官方授權頁為準。

能做什麼

三件核心的事：離線聊天——模型下載完成後就不需要網路，隱私敏感的內容放心問；文件問答——把 PDF 或文字檔拖進對話，讓模型根據內容回答；本機 API 伺服器——一鍵開啟 OpenAI 相容的端點，讓其他支援自訂 API 的工具把你的電腦當成 AI 後端，開發測試不用燒雲端額度。

怎麼用：四步上手

**第一步，安裝。**官網（lmstudio.ai）下載對應系統的版本，裝完打開。

**第二步，挑模型。**內建搜尋直接接 Hugging Face 模型庫。新手建議從 4B～8B 參數等級的指令微調模型開始，繁體中文表現以 Qwen 和 Gemma 系列口碑較穩。LM Studio 會根據你的硬體標示「跑得動 / 跑不動」，跟著提示走就好。

**第三步，看懂量化。**同一個模型會有 Q4、Q8 這些版本，數字越小檔案越小、速度越快、品質略降。記憶體 16GB 選 Q4 等級是安全牌，追品質再往上加。

**第四步，開聊並調整。**載入模型後就是熟悉的聊天介面，右側可以設定系統提示詞、temperature 和 context 長度。要接其他工具就切到 Developer 分頁啟動本機伺服器。

進階技巧

Apple Silicon 的 Mac 記得優先選 MLX 格式的模型，這是針對 M 系列晶片最佳化的推論引擎，速度比通用格式明顯好。第二招是「一台電腦、全家共用」：本機伺服器開起來後，同網路的其他裝置也能連，等於家裡有台私人 AI 主機。第三招是拿它配 Chatbox 或其他 BYOK 客戶端當前端，介面體驗更好、紀錄管理更方便。想比較本機模型和雲端模型的答案品質，Msty 的並排對話是好幫手；追求開源方案則看 Jan。

注意事項

先講硬體現實：8GB 記憶體只能勉強跑小模型，16GB 是舒服的起點，要跑 30B 以上等級請準備 32GB 以上或獨立顯卡。第二，本機小模型的能力跟雲端旗艦有真實差距，複雜推理、長文寫作別期待對等品質——本機的價值在隱私和零邊際成本，不在最強。第三，下載模型時認明來源和熱門度，冷門上傳者的檔案風險自負。最後提醒筆電族：長時間推論很吃電也很熱，插電使用。

TheAI學院 總結與評語

評語：LM Studio 把本機 AI 的門檻壓到「會裝軟體就會用」，是隱私敏感行業和 AI 自學者的第一站；只要對小模型的能力上限有正確期待，它幾乎沒有理由不裝一套。

給台灣讀者的具體建議：法律、會計、醫療這類碰個資的工作者，值得花一個下午把它建起來當「保密諮詢區」；一般使用者則建議雲端與本機並用——日常走雲端求品質，敏感問題切本機求安心。搭配站上的AI 任務指南找適合本機模型做的事，投資報酬率最高。