相关指令


# 下载魔搭工具
pip install modelscope

# 下载大模型到当前文件夹
modelscope download --model unsloth/Qwen3.8-27B-GGUF Qwen3.8-27B-UD-Q2_K_XL.gguf --local_dir ./


# 下载 aria 下载工具
winget install aria2.aria2

# 检测安装是否成功
aria2c --version

# 下载大模型指令
aria2c -x 16 -s 16 -c -o "模型名称" "你的下载链接"

# 下载 hugging face 工具
pip install -U "huggingface_hub"

# 配置镜像
$env:HF_ENDPOINT="https://hf-mirror.com"

# huggingfac 下载大模型指令
hf download hf://unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF/Qwen3-Coder-30B-A3B-Instruct-UD-TQ1_0.gguf  --local-dir ./


# bionic 适配大模型
lms import ./Qwen3.8-27B-UD-IQ1_S.gguf --copy

# ollama 适配大模型
ollama create qwen -f .\Modelfile
# ollama Modelfile 文件内容
FROM ".\Qwen3.8-27B-UD-IQ1_S.gguf"

视频链接

视频演示请参阅,请前往youtube链接


付费咨询,远程一对一指导,请联系:gao_mygoh 。