Ollama 完整使用指南:手把手教你本地部署 AI 大模型,接入 DeepSeek Harness

ollama 指令 查看本地模型 ollama list 下载大模型 ollama pull qwen3.8:27b ollama pull hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL 删除大模型 ollama rm qwen3.8:27b 查看大模型状态 ollama ps 视频链接 视频请参阅,视频链接 付费咨询,远程一对一指导,请联系:gao_mygoh 。

2026年8月20日 · 高勉

不用买Token!本地部署千问3.8,免费接入DeepSeek Harness|AI大模型本地运行教程

1、相关指令 显卡信息 nvidia-smi llama 版本确认 llama-cli --version hugging face 大模型下载 $env:HF_ENDPOINT="https://hf-mirror.com" hf download hf://unsloth/Qwen3.8-27B-GGUF/Qwen3.8-27B-UD-Q4_K_XL.gguf --local-dir ./ 大模型加载 llama-server -m ".\Qwen3.8-27B-UD-Q4_K_XL.gguf" -ngl 999 大模型体检 http://127.0.0.1:8080/health 接入deepseek harness配置 qwen qwen-local http://127.0.0.1:8080/v1 密钥随意输入 2、视频链接 请参照视频操作,视频链接。 付费咨询,远程一对一指导,请联系:gao_mygoh 。

2026年8月18日 · 高勉