DeepMentor
台灣邊緣 AI 公司:讓多模態 LLM 在低於 1W 的晶片上離線運行,另有地端 LLM 訓練與辦公生成式 AI 方案
DeepMentor 是一家台灣的邊緣 AI 公司,官網的一句話介紹是「我們讓先進 AI,包括多模態 LLM,在低功耗邊緣裝置上完全離線運行」。團隊在邊緣運算 IC 設計與系統開發有十年以上的研究與實務經驗,2026 年 1 月曾在 CES 展出即時語音對語音的多模態邊緣 AI IP。
它的產品可以分成兩塊。邊緣 AI IP:CNN 用的 DeepLogCore、LLM 用的 DeepTransformCore,加上全端工具鏈。官網宣稱能讓多模態 LLM 在低於 1W 的邊緣 AI 加速器上離線執行,把晶片設計時間縮短到 3 個月以內、成本最多降低 75%;它的專利自動化 AI IC 設計技術能自動產生 AI 模型的電路圖並實作到各種 FPGA,相容 28~130nm 的成熟、低成本製程。企業端:「Office GenAI Solution – DeepExpert」與客製 LLM 訓練及地端導入服務,Mentor-100、Mentor-200 主打安全又平價的 LLM 訓練,Mentor-300、Mentor-400 則可支援超過 1,800 億參數的 LLM,並提供文件、客服、程式碼、影像、會議與微調六大自研功能模組。
功能特色與適用場景:官網也開設 AATP 訓練課程。說穿了,DeepMentor 做的是台灣很擅長、但一般使用者看不到的那一層:讓 AI 跑在晶片與地端,而不是雲端。適合的對象是想在消費電子、監控、車用產品上放進離線 AI 的硬體廠,以及因資安考量不能把資料送上雲的企業與機關;一般個人使用者沒有直接可用的產品。
TheAI學院 編輯建議
編輯實測後的真心話大家都在談雲端大模型,DeepMentor 選擇往另一頭鑽:把 LLM 塞進一瓦以下的晶片。這條路和台灣的半導體優勢很合拍,也是我覺得最值得關注的本土 AI 方向之一。
主要功能
- DeepLogCore(CNN)與 DeepTransformCore(LLM)邊緣 AI IP
- 多模態 LLM 在低於 1W 加速器上離線運行
- 專利自動化 AI IC 設計,相容 28~130nm 成熟製程
- Mentor-100~400 地端 LLM 訓練設備,最高支援 1,800 億參數以上
- DeepExpert 辦公生成式 AI:文件、客服、程式碼、影像、會議、微調模組
- AATP 訓練課程
如何使用 DeepMentor
- 聯絡 DeepMentor 導入邊緣 AI 方案。
- 把多模態 LLM 部署到低於 1W 的晶片上。
- 模型離線在裝置本地運行。
- 或採用地端 LLM 方案。
- 整合進你的產品。
- 依場景優化。
- 注意:DeepMentor 為台灣邊緣 AI 公司。
適用場景
- 消費電子廠在裝置上加入離線語音對話 AI
- 監控設備在端點即時辨識物件,日夜與惡劣天候皆可用
- 企業在內網部署 LLM 處理文件與客服問答
- 機關以地端設備微調專屬領域模型
- IC 設計團隊縮短 AI 晶片從設計到量產的時間
DeepMentor 的優點與缺點
優點
- 離線、低功耗的邊緣 LLM 是少數台灣團隊的專長
- 地端方案讓機敏資料不必上雲
- 可使用成熟製程,降低硬體廠導入成本
缺點
- 產品偏 B2B 與硬體,一般使用者無法直接使用
- 價格與授權條件全需洽詢
- 邊緣 LLM 效能數字為官方宣稱,需實際 PoC 驗證
價格方案
Mentor 系列地端 LLM 訓練設備與 IP 授權皆需洽詢
DeepMentor 常見問題
DeepMentor 有一般人可以用的 App 嗎?
目前沒有。官網產品以邊緣 AI IP、硬體方案與企業地端 LLM 為主,面向硬體廠與企業。
真的能讓 LLM 離線跑在小晶片上嗎?
官網宣稱可讓多模態 LLM 在低於 1W 的邊緣 AI 加速器上離線運行,實際效能建議透過 PoC 驗證。
Mentor 系列能訓練多大的模型?
官網說明 Mentor-300 與 Mentor-400 可支援超過 1,800 億參數的 LLM,Mentor-100、Mentor-200 則主打平價的模型訓練。
使用者評價
還沒有足夠評價,搶先分享你的使用心得!
寫下你的評價
DeepMentor 的替代方案
查看相似的 AI 工具 →相關 AI 工具
Valyu
給 AI 做知識工作的搜尋 API:一支 API 同時查網路、財報、論文、臨床試驗等專業資料,附 Deep Research
Kiln
開源的 AI 工作台:評測、提示自動最佳化、微調、合成資料與 RAG,桌面 App 加 MIT 授權 Python 函式庫
Runloop
AI 代理的沙箱加速器:micro-VM Devbox、快照與分支、評測與強化微調,可部署到自己的 VPC
DatologyAI
AI 訓練資料精煉廠:清理、策展、合成、配比四階段,把你的資料變成高品質預訓練與中段訓練資料
Adaline
讓代理自我改善的平台:從正式環境追蹤歸納行為、自動產生評測與合成測資,再把修正推回代理
Relace
給程式碼代理用的小模型與基礎設施:快速套用修改、程式庫檢索、上下文壓縮,加上代理專用的版本控制
猜你也想看的AI 製造與工業
更多台灣的 AI 工具
同樣來自台灣的 AI 工具,一起看看,支持台灣團隊的作品。