本地模型与大文件下载

Ollama、LM Studio 拉取模型,以及大文件下载的建议。

Ollama

模型由 ollama serve 进程下载,需要让该进程使用代理。

  • macOS 应用:
bash
launchctl setenv HTTPS_PROXY http://127.0.0.1:7898
# 然后退出并重新打开 Ollama
  • Linux(systemd):
bash
sudo systemctl edit ollama
# 在打开的编辑器中加入:
# [Service]
# Environment="HTTPS_PROXY=http://127.0.0.1:7898"
sudo systemctl restart ollama
  • 手动运行:HTTPS_PROXY=http://127.0.0.1:7898 ollama serve

LM Studio

设置 → Proxy,填写 http://127.0.0.1:7898(以你的版本菜单为准);PAC 模式下通常自动生效。

大文件下载建议

  • 优先使用支持断点续传的工具:huggingface-cli download、aria2c、curl -C -。
  • 注意流量:一个 70B 模型的权重可能超过 100 GB,下载前看一眼剩余流量,必要时加购流量包。