在 Mac mini 上執行本機 AI:小型企業的私密方案
簡短回答 可以,Mac mini 能在您的辦公室裡執行 AI 模型,不向外傳送任何資料。依記憶體來買:16GB 能跑小型模型,32GB 能跑中型模型,64GB(M5 Pro)留有餘裕。安裝 Ollama 或 LM Studio,下載一次模型,之後就能離線使用。請把它的輸出當成需要核對的草稿,別期待達到雲端模型的水準。
想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。
預約通話Mac mini 能為小型企業執行 AI 嗎?
能,用來起草、摘要和整理文字都沒問題。本機 AI 模型(也就是存放在您自己電腦上的大型語言模型,簡稱 LLM)回答問題時,不會把您輸入的內容傳送到任何人的伺服器。Ollama 自己的常見問題頁面寫道:
"Ollama runs locally. We don't see your prompts or data when you run locally." (Ollama docs: Local FAQ) 譯文:「Ollama 在本機執行。您在本機執行時,我們看不到您的提示詞或資料。」
決定 AI 好壞的是記憶體。模型運作時會整個載入 Mac 的記憶體(Apple 稱之為統一記憶體)。在預算內盡量買大,因為記憶體日後無法加裝。
| Mac mini(2026 年 11 月) | 記憶體 | 起售價 | 能輕鬆執行 |
|---|---|---|---|
| M6 | 16GB | US$899 / C$1,249 | 小型模型,例如 Gemma 4 E4B(6.6–9.5GB) |
| M6 升級款 | 24GB 或 32GB | 更高(在 Apple 官網商店自選規格) | 中型模型,例如在 32GB 上執行 Gemma 4 26B(16–19GB)或 31B(19–20GB) |
| M5 Pro | 24GB 至 64GB | US$1,699 / C$2,399 | 中型模型,並有餘裕處理長文件或同時執行兩個模型 |
價格取自 2026 年 11 月 16 日 Apple 美國與加拿大官網商店。記憶體範圍取自 Apple 規格頁面。模型大小取自 Ollama 模型庫。
經驗法則:模型檔案必須放得進記憶體,並替 macOS 和其他 App 留下幾 GB。一個 20GB 的模型放在 24GB 的 Mac 上,只剩約 4GB,相當吃緊。
為什麼在本機執行 AI,而不用雲端?
當資料不能離開您的辦公場所,或很多人都需要各買一個付費席位時,就在本機執行。隱私是最常見的理由,但要先看清楚您在跟什麼比較。
| 本機 Mac mini | 個人版 ChatGPT(Free、Go、Plus、Pro) | ChatGPT Business | |
|---|---|---|---|
| 您輸入的內容去向 | 留在 Mac 上 | OpenAI 的伺服器 | OpenAI 的伺服器 |
| 是否用於訓練模型 | 否 | 是,除非您選擇退出 | 否 |
| 費用 | 一次性硬體費用,加電費 | 免費或按月付費 | 按使用者、按月付費 |
| 回答品質 | 模型較小;每個回答都要核對 | 大型雲端模型 | 大型雲端模型 |
| 能否離線使用 | 能,下載模型之後 | 否 | 否 |
OpenAI 的價格頁面對 Free、Go、Plus 和 Pro 標示「Content is used to train our models」(內容會用於訓練我們的模型),並註明「Opt-out available」(可選擇退出)。它的 Business 頁面寫道:「Your data is never used for training our models.」(您的資料絕不會用於訓練我們的模型。)所以,如果您唯一擔心的是訓練問題,雲端商業方案可能就能解決。只有當規定是客戶檔案完全不能離開辦公室時,本機方案才更勝一籌。
如果您處理病患紀錄,本機方案也不等於萬無一失。把這類紀錄放進任何 AI 工具之前,請先閱讀 ChatGPT 符合 HIPAA 嗎?。
執行成本是多少?
很低。依 Apple 公布的耗電數據,M6 Mac mini(16GB、256GB)待機 4 瓦,最高 70 瓦;M5 Pro(64GB、8TB)待機 6 瓦,最高 145 瓦(Apple Support: Mac mini power consumption)。
真正的成本在別處:預先購買的記憶體、存放模型的儲存空間(Ollama 的 macOS 文件提醒,模型「can be tens to hundreds of GB」(可能有數十到數百 GB)),以及您設定和核對結果所花的時間。
需要什麼軟體?
一個免費 App 就夠了。您不需要 PyTorch 這類程式框架,那是給開發模型的人用的。
| App | 最適合 | 費用與條款 | 注意事項 |
|---|---|---|---|
| LM Studio | 想要像 ChatGPT 那樣聊天視窗的老闆 | 自 2025 年 7 月 8 日起「both at home and at work」(在家與工作中皆)免費;條款允許「personal and / or internal business purposes」(個人和/或企業內部用途) | 僅限內部使用;不能用於您向客戶銷售的服務 |
| Ollama | 把 AI 接上您網路中的其他工具 | 免費 App;需要 macOS Sonoma(14)或更新版本 | 也提供雲端模型,會把提示詞傳送到 Ollama 的伺服器 |
LM Studio 的離線指南寫道:「Nothing you enter into LM Studio when chatting with LLMs leaves your device.」(您在 LM Studio 中與 LLM 聊天時輸入的任何內容都不會離開您的裝置。)Ollama 的雲端模型是個陷阱:一旦選用,您的提示詞就會傳出去。Ollama 的常見問題說明了關閉方式:在 ~/.ollama/server.json 中設定 "disable_ollama_cloud": true,或設定 OLLAMA_NO_CLOUD=1,然後重新啟動。
如何在 Mac mini 上設定本機 AI?
大約一小時,用 LM Studio 不需要寫程式。
- 依記憶體來買。 如果要貼上長文件,買 32GB;16GB 只適合簡短任務。
- 安裝一個 App。 從 lmstudio.ai 安裝 LM Studio,或把 Ollama 拖進「應用程式」資料夾。
- 連網時下載模型。 Gemma 4 適合先試:Google 以開放權重釋出它,並表示允許「responsible commercial use」(負責任的商業使用)。它的授權連結指向 Apache 2.0。在 Ollama 中輸入
ollama run gemma4。 - 確認模型用的是圖形晶片。 在 Ollama 中,
ollama ps會顯示 Processor 欄位;在 Mac 上,您要看到的是「100% GPU」。 - 處理長檔案時調大上下文視窗。 上下文視窗是模型一次能讀取的文字量。Ollama 預設是 4,096 個 token(一個 token 是一個字詞或字詞的一部分)。用
OLLAMA_CONTEXT_LENGTH設定調大;視窗越大,佔用的記憶體越多。 - 用真實工作測試。 給它上個月您做過的十項任務,把它的草稿和您當時送出的內容比對。
- 需要的話就離線。 LM Studio 表示它「can operate entirely offline」(可以完全離線運作)。搜尋與下載模型以及更新 App 仍需連網。
整個團隊都能用嗎?
能,在辦公室網路內使用,但要小心。Ollama 預設只接受這台 Mac 本身的連線(位址 127.0.0.1,連接埠 11434)。要讓其他電腦連線,它的常見問題說明要修改 OLLAMA_HOST 設定。只在辦公室網路內開放。不要把這個連接埠開放到網際網路:任何發現它的人都能用您的 AI。
網站上的客戶聊天機器人也是同樣道理。用辦公室裡的電腦為大眾提供服務,就等於把辦公室網路暴露出去。代管工具通常更安全;請參閱 小型企業的 AI 接待員。
本機 AI 擅長什麼,不擅長什麼?
| 適合 | 不適合 |
|---|---|
| 摘要無法上傳的合約、會議紀錄或客戶電子郵件 | 模型訓練日期之後的事實(除非您另外加上搜尋功能,否則它無法上網搜尋) |
| 起草電子郵件、貼文和服務頁面文字的初稿 | 未經人工核對就發布的任何內容 |
| 把客戶意見依主題分類 | 必須全天候上線的公開聊天機器人 |
| 依您的品牌語氣改寫文字 | 大型雲端模型的準確度比隱私更重要的任務 |
要為每項行銷任務挑選合適的模型,請參閱 AI 行銷模型。內容送出前要檢查什麼,請參閱 AI 行銷中的人工監督。
範例
以下為示意案例,數字皆為虛構。
一家會計事務所(美元)
依事務所的規定,客戶的稅務信件不能上傳到雲端服務。一台 32GB 的 M6 Mac mini 在 LM Studio 中執行 Gemma 4 26B。員工貼上信件,取得一份淺白的摘要再加以核對。成本:一次性購買 Mac,加上每年不到 $10 的電費(以每天 8 小時、每度電 20 美分、平均耗電 15 瓦計算)。
溫哥華附近的一家裝修承包商(加幣)
老闆想用 AI 追蹤報價。客戶姓名並不敏感,且只有兩個人會用。ChatGPT Business 比一台 C$1,249 的 Mac 加上設定時間更省事。這種情況下本機 AI 不值得。
一家有五名員工的律師事務所
他們在一台 64GB 的 M5 Pro 上設定 Ollama,關閉雲端功能,只在辦公室網路內共用。草稿在送出前仍由律師審閱。
常見問題
本機 AI 需要特殊電腦嗎?
不需要。Ollama 也能在 Windows 和 Linux 上執行。在 Mac 上,圖形晶片和其他部分共用同一組記憶體,所以您買的記憶體大小決定了能執行多大的模型。
本機 AI 需要連網嗎?
只有下載 App 和模型時需要。之後,LM Studio 和 Ollama 的本機模型都能離線使用。
我能在 Mac mini 上訓練自己的 AI 嗎?
沒必要。對大多數老闆來說,把您的文件或範例貼到聊天中,模型就能掌握您的情況,無需任何訓練。
本機 AI 和 ChatGPT 一樣好嗎?
要看任務。最大的 Gemma 4 模型是 31B,在 Ollama 中下載約 19–20GB。正式依賴它之前,先用十項真實任務測試。
您的情況不同?
- 您處理病患紀錄:ChatGPT 符合 HIPAA 嗎?。
- 您想知道哪種 AI 適合哪項行銷工作:AI 行銷模型。
- 您想讓 AI 接電話或回覆聊天:小型企業的 AI 接待員。
- 您在收集客戶資料以搭配 AI 使用:AI 行銷中的第一方資料。
- 您寧願把行銷工作交給別人,而不是自己執行模型:SEO 與 GEO 代理。