1.docker下载:https://desktop.docker.com/win/main/amd64/Docker%20Desktop%20Installer.exe
2.控制面板:开启hyper-v、windows 虚拟机监控程序平台、虚拟机平台
3.ollama下载:https://ollama.com/download/OllamaSetup.exe
4.cmd下运行Windows系统开启Linux子系统,安装linux子系统:
wsl --update
如果docker运行提示docker engine stopped错误,检查:
检查CPU是否开启虚拟化;
输入net start com.docker.service以启动Docker Desktop Service服务
输入wsl –update,即可开始安装wsl或者更新版本
最后重启一下应该可以解决。
5.cmd下运行
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
6.拉取完运行:ollama serve
7.IP+8080访问
用户名: admin
密码: MaxKB@123..
8.进入后台后,选择添加ollama模型
模型名称:qwen
模型类型:大语言模型
基础模型:qwen
API域名:http://192.168.1.XXX:11434
API KEY:随便输入长点的数字或英文
添加,开始下载成功即可配置
备注:如果提示API域名无效,先试下127.0.0.1:11434能否正常访问,如果正常访问,设置环境变量
环境变量:系统变量→新建 OLLAMA_HOST 变量值0.0.0.0
9.退出docker和ollama,在重新打开即可。
10.nvidia-smi,检测cuda是否安装正确
11.备注:如果添加
模型名称:llama3
模型类型:大语言模型
基础模型:llama3
也可以安装
maxbk 不喜欢可以用
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
重启后,用docker命令启动容器
docker ps -a sudo docker start 容器id
原创文章,作者:开心电脑网,如若转载,请注明出处。