Ollama Windows 预览版
欢迎使用 Ollama 的 Windows 预览版。
不再需要 WSL!
Ollama 现在作为原生的 Windows 应用程序运行,包括对 NVIDIA 和 AMD Radeon GPU 的支持。 安装 Ollama Windows 预览版后,Ollama 将在后台运行,您可以在 cmd、PowerShell 或您喜欢的终端应用中使用 ollama 命令行。 像往常一样,Ollama 的 api 将在 http://localhost:11434 上提供。
由于这是预览版,你可能会在这里或那里遇到一些小问题。如果你遇到问题,可以通过 Discord 联系我们,或者提交一个 issues 。日志通常有助于诊断问题(见下文的 故障排除)。
系统要求
- Windows 10 或更新版本,家庭版或专业版
- 如果您有 NVIDIA 显卡,请安装 NVIDIA 452.39 或更高版本的驱动程序
- 如果您有 Radeon 显卡,请访问 AMD 官方网站下载 Radeon 驱动程序:https://www.amd.com/zh-hans/support
API 访问
这是一个快速示例,展示了从 powershell 访问 API 的情况。
powershell
(Invoke-WebRequest -method POST -Body '{"model":"llama3", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json故障排查
在预览期间,总是启用 OLLAMA_DEBUG,这会在应用中添加一个“查看日志”菜单项,并增加 GUI 应用和服务器的日志记录。
explorer %LOCALAPPDATA%\Ollama包含日志和下载的更新。- app.log 包含来自 GUI 应用程序的日志记录
- server.log 包含服务器日志
- upgrade.log 包含升级的日志输出
explorer %LOCALAPPDATA%\Programs\Ollama包含二进制文件(安装程序将其添加到你的用户路径中)- "explorer %HOMEPATH%.ollama" 包含模型和配置文件。
explorer %TEMP%显示一个或多个名为ollama*的目录中的临时可执行文件 Ollama 在 Windows 中将文件存储在几个不同的位置。您可以通过按<cmd>+R并在其中输入以下内容来在资源管理器窗口中查看它们:
独立命令行界面
在 Windows 上安装 Ollama 的最简单方法是使用 OllamaSetup.exe 安装程序。它会在您的账户中安装而无需管理员权限。我们定期更新 Ollama 以支持最新型号,这个安装程序将帮助您保持最新状态。
如果你想将 Ollama 作为服务安装或集成,可以下载仅包含 Ollama CLI 和 Nvidia 和 AMD 的 GPU 库依赖项的单独的 ollama-windows-amd64.zip 压缩文件。 这使得可以在现有应用程序中嵌入 Ollama,或者通过 ollama serve 与工具如 NSSM 一起作为系统服务运行它。
