ollama 安装查看官方的文档就可以了。
https://github.com/ollama/ollama
支持Windows,Mac,Linux。
运行安装 Hugging Face 上的各种模型。
ollama run hf.co/{username}/{repository}:{quantization}
比如:
ollama run hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF
ollama run hf.co/bartowski/Llama-3.2-3B-Instruct-GGUF:IQ3_M
上一篇:
docker 安装与设置 open-webui [多模型AI 助手]下一篇:
该来的还是来了,DeepSex 模型,角色扮演,不可描述。