將本地LLM模型與MCP工具結合使用的5種創新方法

如果您曾經透過 Ollama 或 LM Studio 運行過本地大型語言模型 (LLM),您一定了解它的吸引力——隱私保護、無需 API 費用以及對 AI 工具包的完全控制。但本地 LLM 本身僅限於終端機視窗。它可以產生腳本並解析您提供的任何數據,但在現實世界中卻無能為力。

MCP這個詞聽起來可能有點嚇人。但這恰恰是它的優勢所在。它是一個簡單、標準化的協議,使你的模型能夠與資料庫、檔案系統、網路資料探勘軟體,甚至智慧家庭設備進行通訊。你可以用它以許多有趣的方式完成各種本地模型任務。

像人一樣向資料庫提問。

無需查詢語言即可查詢 SQL、記錄和 API。

本機AI模型運行在VS Code上。

使用本地大型語言模型 (LLM) 和 MCP 工具最直接、最實用的應用場景之一,就是直接與資料庫通信,而不是發送晦澀難懂的查詢語句。只需一個簡單的 MCP 伺服器(支援 SQLite、PostgreSQL 或 MySQL),您的本機大型語言模型 (LLM) 就能變成一個自然語言資料庫介面。

您可以輸入類似「顯示過去 10 天內的所有項目」這樣的語句,這樣就無需您手動編寫 SQL,表單會自動編寫查詢並透過 MCP 工具執行,然後以易讀的格式顯示資料。

根據您最終使用的 MCP 伺服器,您還可以存取諸如 `execute_sql_query`、`list_tables` 和 `insert_data` 之類的工具,從而使大型語言模型 (LLM) 能夠探索您的模式、理解關係並建立精確的查詢。對於管理本機資料庫的開發人員和資料專業人員來說,這可以節省大量時間。而且由於所有操作都在您的電腦上運行,因此您無需將任何專有資料發送到任何人的雲端。

創建一個能夠進行實際研究的本地人工智慧

讓您的本地大型語言模型 (LLM) 為您讀取、比較和總結資源。

LM Studio 與 Deepseek R1 聊天。

您可以將本機 LLM 模型連接到 MCP 伺服器,該伺服器封裝了網路搜尋和資料擷取工具,例如: SearXNG MCP أو 火爬 MCP 它復刻了 ChatGPT 和 Perplexity 等工具的深度搜尋功能。當你提交搜尋查詢時,表單會執行多次搜索,分析並驗證結果,然後發送一份包含引用的完整報告。

您可以使用以下工具: 船員人工智慧 為了與 Ollama 進行多智能體協調,Ollama 在本地提供 DeepSeek-R1,以及 MCP 網路搜尋工具,例如 銜接 أو 勇敢的搜索 它負責處理互聯網搜尋操作。搜尋路徑分為搜尋代理、分析代理和寫入代理,每個代理根據需要呼叫不同的 MCP 工具。

它可能不如基於雲端的解決方案速度快,但它是免費的、私密的,並且允許… 您的本機LLM模型取代了困惑度 或使用 ChatGPT 進行深度搜尋。你甚至可以使用像 Firecrawl 這樣的 MCP 提取伺服器,將搜尋路由到專門的論壇或文件網站,以獲取傳統搜尋引擎通常會忽略的資源。

將雜亂的筆記變成智慧的個人維基

使用意義而不是關鍵字來搜尋想法、聯繫和概念。

你可以 使用 MCP 將本地模型連接到 Obsidian 為您的所有筆記和個人知識庫取得自然語言搜尋介面。 Obsidian MCP 伺服器可讓您的模型讀取、搜尋、寫入和管理整個儲存庫中的筆記。您可以讓它總結某個主題的筆記,尋找想法之間的聯繫,甚至基於現有資料建立新筆記。

真正的優勢在於,你的儲存庫檔案系統實際上就變成了 AI 的記憶體。由於目錄結構提供了組織上下文,而 MCP 工具則負責處理實際的檔案操作,因此無需向量資料庫。你甚至可以將其與 Git 結合使用進行版本控制——這樣,你就可以安全地讓 AI 修改你的筆記,因為你知道你總是可以撤銷這些修改。

無需網路連線即可為您的整個智慧家庭供電。

無需將資料傳送到雲端即可在本地控制設備。

Google Home 最受歡迎的智慧家庭照明工具。

將本地大型語言模型 (LLM) 作為智慧家庭的大腦是最具雄心壯志的應用場景之一,但這確實是可行的。 Home Assistant 已經實現了這一點。 官方 MCP 伺服器集成 它能顯示任何相容於 MCP 用戶端的設備、實體和自動化設定。連接本地 LLM 實例後,您就可以完全離線地用自然語言控制燈光、恆溫器和感測器。

您甚至可以使用像樹莓派這樣的小型專用 ARM 裝置來建立這些系統,前提是您使用的是可以在效能較低的硬體上運行的量子模型。由於所有操作都在您的本地網路上進行,因此您無需擔心將錄音發送給大型科技公司,也無需擔心任何依賴互聯網正常運行的例行程序。這使得高效的智慧家庭控制對於注重隱私的智慧家庭愛好者來說非常實用。

告訴你的電腦如何管理文件

使用簡單的語言對資料夾進行排序、重新命名和清理。

此電腦上的檔案總管頁面。

 

檔案管理是任何作業系統中最繁瑣的任務之一。您可以使用 MCP 檔案系統伺服器這是這個生態系統中最簡單的工具之一,它賦予本地大型語言模型 (LLM) 讀取、寫入、修改、移動和刪除受保護專案目錄中檔案的能力。您可以用簡單的英文描述您的需求,例如重命名資料夾中的所有 JPEG 文件或查找所有匯入 pandas 的 Python 文件,模型會將這些需求轉換為實際的文件操作。

這對於需要編寫快速腳本的批次操作尤其有效。其關鍵安全特性在於保護:MCP 伺服器將所有操作限制在特定目錄內,因此即使模型預測到破壞性操作,損害也會被控制在一定範圍內。

當與 Qwen 2.5 Coder 等強大的編碼模型結合使用時,它可以將你的終端變成一個高效的文件管理助手。這對於 Linux 用戶來說尤其有用,因為它允許你在常用的 mv、cp 和 find 命令之上添加一個自然語言層,而無需放棄控制權。

MCP 釋放了局部大型語言模型(局部 LLM)的真正威力。

這些應用程式之所以引人注目,不僅在於它們各自的用例,更在於 MC 允許你將它們綁在一起。同一個本地大型語言模型 (LLM) 可以透過單一的統一協議,查詢資料庫、搜尋網路、整理筆記和管理文件。

由社群建構的 MCP 伺服器生態系統正在迅速發展,因此,您想要連接的工具或服務很可能已經有人搭建了相應的伺服器。如果沒有,創建自己的 MCP 伺服器也是一個出乎意料的容易上手的周末專案。

轉到頂部按鈕