跳至主要內容

Ollama Windows 安装

Jin大约 4 分钟

Ollama Windows 安装

1、下载

  • https://ollama.com/download

![image-20250221111237393](images/01-Ollama Windows 安装/image-20250221111237393.png)

2、安装

2.1、安装步骤

等待浏览器下载文件 OllamaSetup.exe,完成后双击该文件,出现如下弹窗,点击 Install 等待下载完成即可。

![image-20250221111423819](images/01-Ollama Windows 安装/image-20250221111423819.png)

点击 Install

![image-20250221111450352](images/01-Ollama Windows 安装/image-20250221111450352.png)

安装完成后,可以看到 Ollama 已经默认运行了。可以通过底部的导航栏找到 Ollama 标志,并右键后点击 Quit Ollama 退出Ollama或者查看 logs

![image-20250221111739179](images/01-Ollama Windows 安装/image-20250221111739179.png)

2.2、验证安装成功

ollama -h

![image-20250221113651817](images/01-Ollama Windows 安装/image-20250221113651817.png)

3、环境变量配置

Ollama可以像其他软件一样在电脑上完成一键安装,不同的是,建议按照实际需求配置下系统环境变量参数。以下是 Ollama 的环境变量配置说明。

3.1、参数列表

参数标识与配置
OLLAMA_MODELS表示模型文件的存放目录,默认目录为当前用户目录C:\Users%username%.ollama\models Windows 系统 建议不要放在C盘,可放在其他盘(如 E:\ollama\models
OLLAMA_HOST表示ollama 服务监听的网络地址,默认为127.0.0.1 如果想要允许其他电脑访问 Ollama(如局域网中的其他电脑),建议设置0.0.0.0
OLLAMA_PORT表示ollama 服务监听的默认端口,默认为11434 如果端口有冲突,可以修改设置成其他端口(如8080等)
OLLAMA_ORIGINS表示HTTP 客户端的请求来源,使用半角逗号分隔列表 如果本地使用不受限制,可以设置成星号 *
OLLAMA_KEEP_ALIVE表示大模型加载到内存中后的存活时间,默认为5m即 5 分钟 (如纯数字300 代表 300 秒,0 代表处理请求响应后立即卸载模型,任何负数则表示一直存活) 建议设置成 24h ,即模型在内存中保持 24 小时,提高访问速度
OLLAMA_NUM_PARALLEL表示请求处理的并发数量,默认为1 (即单并发串行处理请求) 建议按照实际需求进行调整
OLLAMA_MAX_QUEUE表示请求队列长度,默认值为512 建议按照实际需求进行调整,超过队列长度的请求会被抛弃
OLLAMA_DEBUG表示输出 Debug 日志,应用研发阶段可以设置成1 (即输出详细日志信息,便于排查问题)
OLLAMA_MAX_LOADED_MODELS表示最多同时加载到内存中模型的数量,默认为1 (即只能有 1 个模型在内存中)

3.2、设置 OLLAMA_MODELS 环境变量 (更改模型存储位置)

  1. 在 “环境变量” 窗口的 “系统变量(S)” 区域 (或者 “用户变量(U)” 区域,根据你的需求选择),点击 “新建(W)...” 按钮。
  2. 在 “变量名(N)” 输入框中,输入: OLLAMA_MODELS (注意大小写,建议全部大写)。
  3. 在 “变量值(V)” 输入框中,输入你想要设置的模型存储路径。例如,如果你想将模型存储到 E 盘的 ollama\models 文件夹下,你可以在 “变量值(V)” 中输入: D:\Ollama\Models(请根据你的实际情况修改盘符和文件夹路径)。
    • 注意: 请确保你输入的路径是 已经存在的文件夹 或者 你希望创建的文件夹的父目录存在。 Ollama 在首次运行时可能会自动创建 models 文件夹,但最好提前创建好 ollama 文件夹,确保路径的正确性。
    • 示例: 为了将模型存储到 E 盘的 ollama\models 文件夹,你可以在 “变量值(V)” 中输入: D:\Ollama\Models
OLLAMA_MODELS
D:\Ollama\Models

![image-20250221135158564](images/01-Ollama Windows 安装/image-20250221135158564.png)

3.3、设置 OLLAMA_HOST 环境变量 (修改监听地址)。

如果你需要让局域网内的其他设备也能访问你的 Ollama 服务,可以配置 OLLAMA_HOST 环境变量。

  1. 同样在 “环境变量” 窗口的 “系统变量(S)” 区域 (或者 “用户变量(U)” 区域),点击 “新建(W)...” 按钮。

  2. 在 “变量名(N)” 输入框中,输入: OLLAMA_HOST

  3. 在 “变量值(V)” 输入框中,输入

    0.0.0.0:11434 
    

    (或者你想要指定的端口号,默认端口是 11434)。

    • 0.0.0.0 表示监听所有网络接口,允许局域网访问。
    • 11434 是 Ollama 默认端口。
    • 示例: 0.0.0.0:11434
  4. 点击 “确定” 按钮,关闭 “新建系统变量” (或者 “新建用户变量”) 窗口。

4、验证环境变量是否生效

  1. 重新打开 命令提示符 (CMD) 或者 PowerShell。
  2. 验证 OLLAMA_MODELS: 输入以下命令并回车:
echo %OLLAMA_MODELS%

![image-20250221112923353](images/01-Ollama Windows 安装/image-20250221112923353.png)

5、运行 Ollama

5.1、启动

ollama serve

5.2、浏览器访问

  • http://127.0.0.1:11434

![image-20250221134523847](images/01-Ollama Windows 安装/image-20250221134523847.png)

5.3、重复启动

启动 Ollama 时会报错如下,因为 Windows 系统安装 Ollama 时会默认开机启动Ollama 服务默认是 http://127.0.0.1:11434open in new window

![image-20250221113305322](images/01-Ollama Windows 安装/image-20250221113305322.png)

6、取消开机自启

打开任务管理器,点击 启动应用,找到 ollama.exe ,右键点击 禁用 即可。

![image-20250221134345002](images/01-Ollama Windows 安装/image-20250221134345002.png)

贡献者: Jin