Skip to content

Ollama Windows 预览版

欢迎使用 Ollama 的 Windows 预览版。

不再需要 WSL!

Ollama 现在作为原生的 Windows 应用程序运行,包括对 NVIDIAAMD Radeon GPU 的支持。 安装 Ollama Windows 预览版后,Ollama 将在后台运行,您可以在 cmd、PowerShell 或您喜欢的终端应用中使用 ollama 命令行。 像往常一样,Ollama 的 api 将在 http://localhost:11434 上提供。

由于这是预览版,你可能会在这里或那里遇到一些小问题。如果你遇到问题,可以通过 Discord 联系我们,或者提交一个 issues 。日志通常有助于诊断问题(见下文的 故障排除)。

系统要求

  • Windows 10 或更新版本,家庭版或专业版
  • 如果您有 NVIDIA 显卡,请安装 NVIDIA 452.39 或更高版本的驱动程序
  • 如果您有 Radeon 显卡,请访问 AMD 官方网站下载 Radeon 驱动程序:https://www.amd.com/zh-hans/support

API 访问

这是一个快速示例,展示了从 powershell 访问 API 的情况。

powershell
(Invoke-WebRequest -method POST -Body '{"model":"llama3", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

故障排查

在预览期间,总是启用 OLLAMA_DEBUG,这会在应用中添加一个“查看日志”菜单项,并增加 GUI 应用和服务器的日志记录。

  • explorer %LOCALAPPDATA%\Ollama 包含日志和下载的更新。
    • app.log 包含来自 GUI 应用程序的日志记录
    • server.log 包含服务器日志
    • upgrade.log 包含升级的日志输出
  • explorer %LOCALAPPDATA%\Programs\Ollama 包含二进制文件(安装程序将其添加到你的用户路径中)
  • "explorer %HOMEPATH%.ollama" 包含模型和配置文件。
  • explorer %TEMP% 显示一个或多个名为 ollama* 的目录中的临时可执行文件 Ollama 在 Windows 中将文件存储在几个不同的位置。您可以通过按 <cmd>+R 并在其中输入以下内容来在资源管理器窗口中查看它们:

独立命令行界面

在 Windows 上安装 Ollama 的最简单方法是使用 OllamaSetup.exe 安装程序。它会在您的账户中安装而无需管理员权限。我们定期更新 Ollama 以支持最新型号,这个安装程序将帮助您保持最新状态。

如果你想将 Ollama 作为服务安装或集成,可以下载仅包含 Ollama CLI 和 Nvidia 和 AMD 的 GPU 库依赖项的单独的 ollama-windows-amd64.zip 压缩文件。 这使得可以在现有应用程序中嵌入 Ollama,或者通过 ollama serve 与工具如 NSSM 一起作为系统服务运行它。

热爱生活,热爱 Ollama