AI – Open WebUI

在 Macbook Pro 14吋 M1 MacOS 14.5 上安裝 Open WebUI 介面連接大語言模型,有兩種方式,都可以跑在我的 Mac 上:

  • 本機端:在本機安裝Ollama 3.1 不用連網就可以使用。( 免費 )
  • API 方式:連接 OpenAI 使用 ChatGPT 4o-mini ( 須付費 )

下圖是 Open WebUI 的使用者介面,類似於 ChatGPT。

Open WebUI 是一個開源 AI 使用者介面,可以連接不同的大語言模型。

我使用的 Open WebUI 安裝在 Docker 上,簡要說明如下:

  1. 在 Mac 上安裝 Docker for Mac 。
  2. 在 Mac 上安裝 Ollama 3.1 。
  3. 在 Mac 上安裝 Open WebUI,使用
    Installation for OpenAI API Usage Only 的 Docker 指令
    https://docs.openwebui.com/getting-started/
    請記得填入 OpenAI 的 API Key
  4. 開啟瀏覽器,連接 http://localhost:3000,即可登入 Open WebUI
  5. 在 Admin Panel 之 Setting 中的 Web Search 選擇 searxng,然後輸入 輸入 http://host.docker.internal:8080/search?q=<query>

之後就可以在對話框中輸入網址,請它幫你摘要。

安裝完成後的 Docker Container 畫面

安裝完成後的 Docker Images 畫面

安裝完成後的 Docker Volumes 畫面

Ollama 下載連結

https://ollama.com/download/mac

Open WebUI 安裝流程

https://docs.openwebui.com/getting-started

將以下指令輸入終端機指令列中,記得加上 OpenAI API key ( 取代 your_secret_key )

docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main