适用于Debian系统,CPU版大模型工具ollama运行,不需要独立显卡,(Ubuntu执行会出现错误),具体操作如下:
新建cpu_install.txt脚本文件:
nano cpu_install.txt
执行脚本命令:
sudo sh cpu_install.txt
以下为一键脚本cpu_install.txt内容:
sudo apt update sudo apt update -y #docker安装 # Add Docker's official GPG key: sudo apt-get update sudo apt-get install ca-certificates curl sudo install -m 0755 -d /etc/apt/keyrings sudo curl -fsSL https://download.docker.com/linux/debian/gpg -o /etc/apt/keyrings/docker.asc sudo chmod a+r /etc/apt/keyrings/docker.asc # Add the repository to Apt sources: echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://mirror.nju.edu.cn/docker-ce/linux/debian \ "$(. /etc/os-release && echo "$VERSION_CODENAME")" stable" | \ sudo tee /etc/apt/sources.list.d/docker.list > /dev/null sudo apt-get update sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin #cpu 版本 sudo docker run --network=bridge -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama #加载webui,方便网页调用 sudo docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
maxkb工具的基础信息
maxkb工具 访问:ip:8080 用户名: admin 密码: MaxKB@123..
原创文章,作者:开心电脑网,如若转载,请注明出处。