Ollama

Ollama 伺服器是什麼？

Ollama 伺服器是一款主打輕量化、便利性的開源 AI 模型運行平台，讓使用者無需複雜配置，即可在本地輕鬆部署各類大語言模型（LLMs）與 AI 模型。它就像一個 “AI 模型管家”，將繁瑣的模型下載、配置、運行流程簡化為幾條命令，即使是 AI 部署新手，也能快速上手。

Ollama 本機部署教學

下載安裝程式

你可以從 ollama.ai 官網下載安裝程式。

配置 ollama 的跨域支持

請配置以下的環境變數：

• 允許跨域存取：OLLAMA_ORIGINS=*

  macOS / Linux:

  echo 'export OLLAMA_ORIGINS=*' >> ~/.zshrc
  source ~/.zshrc

  Windows (PowerShell 管理員模式):

  [System.Environment]::SetEnvironmentVariable('OLLAMA_ORIGINS', '*', 'User')

  设置完成后，如果你之前启动了 Ollama 服务，请先关闭它，然后重新启动 ollama serve 命令。如果之前沒有啟動，則忽略。

• API服务监听地址：OLLAMA_HOST=127.0.0.1:11434 （这是默认地址，可以不用手动配置，不过你可以根据实际情况修改）

Ollama 常用指令

1 檢查Ollama版本並且啟動ollama伺服器

ollama version
ollama serve

用于检查当前安装的 Ollama 版本，以确认安装成功并查看版本详细信息，然后启动 Ollama 服务器

2 找到可用模型並安裝

你可以從 ollama.ai 找到可用模型並安裝。

ollama pull [模型名称]

例如安裝 gemma3:4b 模型：

ollama pull gemma3:4b

3 列出已下載的模型

ollama list

此命令会显示所有本地下载的模型，包括名称、大小和创建时间，以帮助用户管理本地模型资源。

4 啟動服務

ollama serve

5 插件中配置 Ollama 提供者

在插件的设置中，配置 Ollama 提供商，并选择一个模型。

如果你沒有修改預設位址，你可以留空 baseURL 或設定為 http://127.0.0.1:11434。

如果你修改了默认地址，你需要设置 baseURL 为你的地址。

{
  "baseURL": "http://127.0.0.1:XXXXX/api"
}

你可以點選「測試連結」按鈕，來測試是否連結成功。

注意事項

• 不要啟動 Ollama Chat 圖形客戶端，它會和 ollama serve 爭搶連接埠。
• 在插件的設定中，設定 Ollama 提供者時，baseURL 預設是 http://127.0.0.1:11434，如果你的 OLLAMA_HOST 是這個位址，可以不用手動設定。

常見問題

Windows: 連線 Ollama 時出現 403 錯誤

如果在 Windows 上連線 Ollama 時遇到 403 錯誤，可能是因為你使用了管理員權限執行 PowerShell（或終端機）。權限過高會導致外掛程式無法正常存取 Ollama 服務。

解決方法： 關閉管理員模式的 PowerShell，使用普通使用者權限重新開啟 PowerShell 並啟動 ollama serve。