如何在 Mac 上本地安裝最新的大型語言模型 (LLM)

近年來，大型語言模型（LLM）因其能夠產生類人文本並輔助完成各種任務而日益普及。並非所有模型都是開源的，但幾乎所有主流科技公司都提供可供用戶下載運行的版本。

在 Mac 本地運行這些表單，無論從隱私或成本來看，都有許多好處。本文將探討如何使用Ollama（一款功能強大的開發者和新手使用者工具）安裝和運行 LLM，並介紹一些圖形使用者介面工具，以簡化那些不願使用 macOS 終端機的使用者的操作流程。

透過這種方式，您可以存取來自 [Google]、[Microsoft]、[Meta] 和其他 AI 公司（如 [Mistral] 和 [DeepSeek]）的最新 AI 驅動的文字範本。

理解LLM：參數的含義是什麼？

在深入探討安裝過程之前，我們先來明確一下像「7B」或「14B」這樣的數字在談到LLM模型時的意義。這些數字代表模型的參數規模（以十億為單位），本質上就是訓練過程中需要微調的「旋鈕和開關」。

更多的參數可以讓模型捕捉語言中更複雜的模式和關係，從而有可能提升效能。然而，需要注意的是，參數越多並不總是保證更好的結果；訓練資料的品質和模型可用的計算資源也起著至關重要的作用。

系統要求

您需要確保您的[Mac]至少符合以下配置要求：

macOS 10.15 或更高版本（建議使用 macOS 13 或更高版本）
至少需要 8GB 記憶體（建議 16GB 或更高）
10GB 可用儲存空間（最小型號的最低要求；參數較多的更高級型號大約需要 700GB）
[Intel] 多核心處理器或 [Apple Silicon] 處理器（首選 M2 或更高版本）

安裝奧拉瑪

Ollama是一款開源工具，可讓您直接在本機上執行 LLM。以下是入門指南：

下載 Ollama造訪網站：奧拉馬下載 macOS 版本。您也可以使用 [Homebrew] 透過執行以下命令進行安裝。 brew install ollama 在您的終端中。

安裝奧拉瑪如果您下載了安裝程序，請按兩下執行並依照安裝精靈進行操作。如果您使用的是 Homebrew，請跳至步驟 4。

安裝程式的下一步操作只需單擊該按鈕即可。 تثبيت系統會要求您輸入管理員密碼。

奔跑奧拉馬打開終端機窗口，並使用以下命令將 Ollama 作為服務啟動。 brew services start ollama這將使 Ollama 能夠在地址上提供服務。 http://localhost:11434/.
下載並運行模型使用命令 ollama pull <model-name> 若要下載模板，請使用以下命令。 ollama run <model-name> 運行它。例如，運行一個模型 DeepSeek-R1, 使用命令 ollama pull deepseek-r1 接下來是訂單 ollama run deepseek-r1.
要下載更大尺寸的模板，只需添加兩個豎點，後跟尺寸即可。例如，要下載一個模板 14B DeepSeek您將使用命令 ollama 運行 deepseek-r1:14b在 Ollama 網站上，您可以點擊任何表單，每個版本的所有不同命令都會顯示出來。

使用 ollama 啟動 llama 3.2 — *安裝 Metas llama 32 LLM*

您可以在這裡找到完整的Ollama 表單清單。您也可以使用上面描述的第二個命令；如果該表單尚未安裝，它會先下載表單，然後再執行它。

現在您看到了三個直角箭頭（>>>），就可以開始在表單中輸入指令了。

就是這樣！現在您可以與您的AI語言學習導師進行在地互動，無需擔心費用、過度使用或他人讀取您的文字。如果您想與AI語言學習導師討論一些敏感或個人主題，但又不希望大型科技公司窺探您的想法，這無疑是最佳選擇。

使用 Ollama 的圖形使用者介面工具

雖然 Ollama 對開發者來說功能強大且高效，但有些使用者可能更喜歡使用圖形使用者介面 (GUI) 與 LLM 進行互動。以下是一些可以為 Ollama 提供 GUI 前端的工具：

- - Ollama GUI這是一個面向 macOS 用戶的免費開源應用程序，使用 SwiftUI 建置。它擁有美觀的介面，對於那些希望在本地存取 LLM 表單而無需使用終端的用戶來說，是一個絕佳的選擇。
  - Ollama UI這是一個基於 HTML 的簡潔網頁使用者介面，可讓您直接在瀏覽器中定義表單並與之互動。它還包含一個 Chrome 擴充程序，方便您輕鬆存取。
  - 聊天框人工智慧這是最適合初學者的選擇，我會在下面解釋它的使用方法。請注意，您無需購買 Chatbox AI 服務（這是他們提供的訂閱服務），因此您可以存取所有 LLM 範本而無需自行安裝 Ollama。

要使用最佳的聊天機器人AI介面，請前往下載頁面並取得適用於您Mac的版本。

接下來，打開安裝程式並運行程式。在第一個畫面上，會彈出一個視窗詢問您如何使用聊天機器人AI。

您需要點擊“使用我自己的 API 金鑰/本機模型”按鈕。

接下來，選擇Ollama API作為 AI 模型提供者。

Chatbox AI 應該會自動偵測到 Ollama 正在運行，並將 API 主機設定為預設值，即回環 IP 位址和連接埠號碼11434。您無需更改任何設定。在表單中，您應該可以看到先前使用終端安裝的表單。就我而言，它是Ollama 3.2 的表單。

返回應用程式主螢幕，點選「聊天」或「新聊天」，確保右下角已選擇正確的範本。您可以隨時更改模板，但我建議您為每個使用的模板建立一個新的聊天，這樣可以輕鬆查看差異。

用於本地運行 LLM 模型的替代工具

如果您正在尋找 Ollama 的替代方案，或者從一開始就希望獲得更友善的使用者體驗，LM Studio是另一個絕佳的選擇。它提供了一個易於使用的介面，方便您探索和使用各種 AI 模型，並可輕鬆下載和運行它們。 LM Studio 支援 Linux、Mac 和 Windows 系統，並提供自訂模型參數和聊天記錄等功能。目前它是免費的，因此我推薦它而不是 Chatbox AI 的訂閱服務。

結論

對於任何希望更好地掌控人工智慧應用並優先考慮資料隱私的用戶來說，在 Mac 本地運行大型語言模型 (LLM) 都至關重要。透過 Ollama 等工具以及前文提到的圖形化前端，您可以輕鬆地將 LLM 整合到工作流程中，從而安全地釋放新的生產力和創造力潛力。

然而，在本地部署 LLM 需要對參數及其如何影響模型在特定機器上的性能有一定的了解。學習這方面知識的最佳方法是嘗試不同的模型，看看哪些模型能帶來最佳效果。一旦了解這個概念，您就能更好地決定使用哪些模型，以及如何優化它們的性能以滿足您的特定需求。

免費下載