產品 SEO 與 GEO 代理 付費廣告代理 網站代理 轉換代理
運作方式 方案 常見問題 部落格 預約通話

在 Mac mini 上執行本機 AI:小型企業的私密方案

更新於 · 閱讀約 7 分鐘

簡短回答 可以,Mac mini 能在您的辦公室裡執行 AI 模型,不向外傳送任何資料。依記憶體來買:16GB 能跑小型模型,32GB 能跑中型模型,64GB(M5 Pro)留有餘裕。安裝 Ollama 或 LM Studio,下載一次模型,之後就能離線使用。請把它的輸出當成需要核對的草稿,別期待達到雲端模型的水準。

想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。

預約通話

Mac mini 能為小型企業執行 AI 嗎?

能,用來起草、摘要和整理文字都沒問題。本機 AI 模型(也就是存放在您自己電腦上的大型語言模型,簡稱 LLM)回答問題時,不會把您輸入的內容傳送到任何人的伺服器。Ollama 自己的常見問題頁面寫道:

"Ollama runs locally. We don't see your prompts or data when you run locally." (Ollama docs: Local FAQ) 譯文:「Ollama 在本機執行。您在本機執行時,我們看不到您的提示詞或資料。」

決定 AI 好壞的是記憶體。模型運作時會整個載入 Mac 的記憶體(Apple 稱之為統一記憶體)。在預算內盡量買大,因為記憶體日後無法加裝。

Mac mini(2026 年 11 月)記憶體起售價能輕鬆執行
M616GBUS$899 / C$1,249小型模型,例如 Gemma 4 E4B(6.6–9.5GB)
M6 升級款24GB 或 32GB更高(在 Apple 官網商店自選規格)中型模型,例如在 32GB 上執行 Gemma 4 26B(16–19GB)或 31B(19–20GB)
M5 Pro24GB 至 64GBUS$1,699 / C$2,399中型模型,並有餘裕處理長文件或同時執行兩個模型

價格取自 2026 年 11 月 16 日 Apple 美國與加拿大官網商店。記憶體範圍取自 Apple 規格頁面。模型大小取自 Ollama 模型庫。

經驗法則:模型檔案必須放得進記憶體,並替 macOS 和其他 App 留下幾 GB。一個 20GB 的模型放在 24GB 的 Mac 上,只剩約 4GB,相當吃緊。

為什麼在本機執行 AI,而不用雲端?

當資料不能離開您的辦公場所,或很多人都需要各買一個付費席位時,就在本機執行。隱私是最常見的理由,但要先看清楚您在跟什麼比較。

本機 Mac mini個人版 ChatGPT(Free、Go、Plus、Pro)ChatGPT Business
您輸入的內容去向留在 Mac 上OpenAI 的伺服器OpenAI 的伺服器
是否用於訓練模型否是,除非您選擇退出否
費用一次性硬體費用,加電費免費或按月付費按使用者、按月付費
回答品質模型較小;每個回答都要核對大型雲端模型大型雲端模型
能否離線使用能,下載模型之後否否

OpenAI 的價格頁面對 Free、Go、Plus 和 Pro 標示「Content is used to train our models」(內容會用於訓練我們的模型),並註明「Opt-out available」(可選擇退出)。它的 Business 頁面寫道:「Your data is never used for training our models.」(您的資料絕不會用於訓練我們的模型。)所以,如果您唯一擔心的是訓練問題,雲端商業方案可能就能解決。只有當規定是客戶檔案完全不能離開辦公室時,本機方案才更勝一籌。

如果您處理病患紀錄,本機方案也不等於萬無一失。把這類紀錄放進任何 AI 工具之前,請先閱讀 ChatGPT 符合 HIPAA 嗎?。

執行成本是多少?

很低。依 Apple 公布的耗電數據,M6 Mac mini(16GB、256GB)待機 4 瓦,最高 70 瓦;M5 Pro(64GB、8TB)待機 6 瓦,最高 145 瓦(Apple Support: Mac mini power consumption)。

真正的成本在別處:預先購買的記憶體、存放模型的儲存空間(Ollama 的 macOS 文件提醒,模型「can be tens to hundreds of GB」(可能有數十到數百 GB)),以及您設定和核對結果所花的時間。

需要什麼軟體?

一個免費 App 就夠了。您不需要 PyTorch 這類程式框架,那是給開發模型的人用的。

App最適合費用與條款注意事項
LM Studio想要像 ChatGPT 那樣聊天視窗的老闆自 2025 年 7 月 8 日起「both at home and at work」(在家與工作中皆)免費;條款允許「personal and / or internal business purposes」(個人和/或企業內部用途)僅限內部使用;不能用於您向客戶銷售的服務
Ollama把 AI 接上您網路中的其他工具免費 App;需要 macOS Sonoma(14)或更新版本也提供雲端模型,會把提示詞傳送到 Ollama 的伺服器

LM Studio 的離線指南寫道:「Nothing you enter into LM Studio when chatting with LLMs leaves your device.」(您在 LM Studio 中與 LLM 聊天時輸入的任何內容都不會離開您的裝置。)Ollama 的雲端模型是個陷阱:一旦選用,您的提示詞就會傳出去。Ollama 的常見問題說明了關閉方式:在 ~/.ollama/server.json 中設定 "disable_ollama_cloud": true,或設定 OLLAMA_NO_CLOUD=1,然後重新啟動。

如何在 Mac mini 上設定本機 AI?

大約一小時,用 LM Studio 不需要寫程式。

  1. 依記憶體來買。 如果要貼上長文件,買 32GB;16GB 只適合簡短任務。
  2. 安裝一個 App。 從 lmstudio.ai 安裝 LM Studio,或把 Ollama 拖進「應用程式」資料夾。
  3. 連網時下載模型。 Gemma 4 適合先試:Google 以開放權重釋出它,並表示允許「responsible commercial use」(負責任的商業使用)。它的授權連結指向 Apache 2.0。在 Ollama 中輸入 ollama run gemma4。
  4. 確認模型用的是圖形晶片。 在 Ollama 中,ollama ps 會顯示 Processor 欄位;在 Mac 上,您要看到的是「100% GPU」。
  5. 處理長檔案時調大上下文視窗。 上下文視窗是模型一次能讀取的文字量。Ollama 預設是 4,096 個 token(一個 token 是一個字詞或字詞的一部分)。用 OLLAMA_CONTEXT_LENGTH 設定調大;視窗越大,佔用的記憶體越多。
  6. 用真實工作測試。 給它上個月您做過的十項任務,把它的草稿和您當時送出的內容比對。
  7. 需要的話就離線。 LM Studio 表示它「can operate entirely offline」(可以完全離線運作)。搜尋與下載模型以及更新 App 仍需連網。

整個團隊都能用嗎?

能,在辦公室網路內使用,但要小心。Ollama 預設只接受這台 Mac 本身的連線(位址 127.0.0.1,連接埠 11434)。要讓其他電腦連線,它的常見問題說明要修改 OLLAMA_HOST 設定。只在辦公室網路內開放。不要把這個連接埠開放到網際網路:任何發現它的人都能用您的 AI。

網站上的客戶聊天機器人也是同樣道理。用辦公室裡的電腦為大眾提供服務,就等於把辦公室網路暴露出去。代管工具通常更安全;請參閱 小型企業的 AI 接待員。

本機 AI 擅長什麼,不擅長什麼?

適合不適合
摘要無法上傳的合約、會議紀錄或客戶電子郵件模型訓練日期之後的事實(除非您另外加上搜尋功能,否則它無法上網搜尋)
起草電子郵件、貼文和服務頁面文字的初稿未經人工核對就發布的任何內容
把客戶意見依主題分類必須全天候上線的公開聊天機器人
依您的品牌語氣改寫文字大型雲端模型的準確度比隱私更重要的任務

要為每項行銷任務挑選合適的模型,請參閱 AI 行銷模型。內容送出前要檢查什麼,請參閱 AI 行銷中的人工監督。

範例

以下為示意案例,數字皆為虛構。

一家會計事務所(美元)

依事務所的規定,客戶的稅務信件不能上傳到雲端服務。一台 32GB 的 M6 Mac mini 在 LM Studio 中執行 Gemma 4 26B。員工貼上信件,取得一份淺白的摘要再加以核對。成本:一次性購買 Mac,加上每年不到 $10 的電費(以每天 8 小時、每度電 20 美分、平均耗電 15 瓦計算)。

溫哥華附近的一家裝修承包商(加幣)

老闆想用 AI 追蹤報價。客戶姓名並不敏感,且只有兩個人會用。ChatGPT Business 比一台 C$1,249 的 Mac 加上設定時間更省事。這種情況下本機 AI 不值得。

一家有五名員工的律師事務所

他們在一台 64GB 的 M5 Pro 上設定 Ollama,關閉雲端功能,只在辦公室網路內共用。草稿在送出前仍由律師審閱。

常見問題

本機 AI 需要特殊電腦嗎?

不需要。Ollama 也能在 Windows 和 Linux 上執行。在 Mac 上,圖形晶片和其他部分共用同一組記憶體,所以您買的記憶體大小決定了能執行多大的模型。

本機 AI 需要連網嗎?

只有下載 App 和模型時需要。之後,LM Studio 和 Ollama 的本機模型都能離線使用。

我能在 Mac mini 上訓練自己的 AI 嗎?

沒必要。對大多數老闆來說,把您的文件或範例貼到聊天中,模型就能掌握您的情況,無需任何訓練。

本機 AI 和 ChatGPT 一樣好嗎?

要看任務。最大的 Gemma 4 模型是 31B,在 Ollama 中下載約 19–20GB。正式依賴它之前,先用十項真實任務測試。

您的情況不同?

繼續閱讀

下一篇企業如何用 AI:依部門逐一落實AI 在小型企業各部門能省下多少時間、如何挑選您可能已經付費的工具,以及美國和加拿大關於聊天機器人和招募的規定。

問我們一個問題

一句話就夠了。我們會以電子郵件回覆。

出處

  1. Apple: Mac mini technical specifications
  2. Apple Store: Buy Mac mini (US)
  3. Apple Store: Buy Mac mini (Canada)
  4. Apple Support: Mac mini power consumption and thermal output
  5. Ollama docs: macOS
  6. Ollama docs: Local FAQ
  7. Ollama on GitHub (README)
  8. Ollama library: gemma4 tags
  9. Google: Gemma 4 models
  10. LM Studio docs: Offline operation
  11. LM Studio: Free for use at work (July 8, 2025)
  12. LM Studio: App terms (August 23, 2026)
  13. OpenAI: ChatGPT pricing
  14. OpenAI: ChatGPT Business