1、配置环境变量

# -----------------------------------------------------------------------------
# 使用 PowerShell
# 打开 PowerShell（在 “开始” 菜单中搜索 “PowerShell” 并打开）。
# 要为当前用户设置环境变量，可以使用
# $env:OPENAI_API_KEY = "your_api_key"
# 命令。
# 同样，将"your_api_key"替换为实际的 API 密钥。不过，这种方式设置的环境变量只在当前 PowerShell 会话中有效。

# 要永久设置环境变量（对于当前用户），可以使用
# [Environment]::SetEnvironmentVariable("OPENAI_API_KEY","your_api_key","User")。
# 如果要设置系统级别的环境变量（需要管理员权限），可以将最后一个参数改为"Machine"，
# 例如
# [Environment]::SetEnvironmentVariable("OPENAI_API_KEY","your_api_key","Machine")。
# Set up OpenAI API key
# 记得使用以上方法后，需要关闭vscode后重启vscode，之后点击F5运行python脚本的时候才能生效
OPENAI_API_KEY = os.getenv('OPENAI_API_KEY')



[Environment]::SetEnvironmentVariable("OLLAMA_MODELS","E:\ollama","Machine")

============================================================

2、运行deepseek-r1

 https://ollama.com/library/deepseek-r1 

ollama run deepseek-r1

自动给我选的是一个7b的模型


 https://powersee.github.io/2024/08/ollama-models-path/ 

更改模型位置

想要改它的存放位置，我们需要进入环境变量。

打开 Windows 系统设置，来到【关于】，在右边找到【高级系统设置】，然后会出现一个【系统属性】窗口。

在上面的标签里选择【高级】，再点击下方的【环境变量】。

这时弹出一个【环境变量】窗口，点击【系统变量】下的新建，然后又弹出一个窗口。

变量名：OLLAMA_MODELS

变量值：D:\AI\Ollama

然后一个一个确定，就添加好环境变量了。

Ollama-env-model

那怎么知道环境变量有没有生效呢？直接重启电脑肯定可以。

不过也有快速的方法，我们打开 cmd，然后执行一个命令 set ，它就会输出所有的环境变量，找找看有没有我们刚才添加的 OLLAMA_MODELS 就行。

cmd-ollama-env

这时候再执行 run 或者 pull 命令来拉去模型，就会存放在 D 盘了。

那如果我之前已经下载过模型，存放在 C 盘里面了呢？怎么迁移到 D 盘？

很简单，将 C 盘的用户目录下的 .ollama 中的两个文件夹，移动到 D 盘我们新设置的存放路径就行。

迁移之后，可以使用 ollama list 来检查

C:\Users\x>ollama list

NAME            ID              SIZE    MODIFIED

qwen2:1.5b      f6daf2b25194    934 MB  11 hours ago

gemma2:latest   ff02c3702f32    5.4 GB  46 hours ago

qwen2:latest    e0d4e1163c58    4.4 GB  47 hours ago

qwen2:0.5b      6f48b936a09f    352 MB  2 days ago

llama3.1:latest 62757c860e01    4.7 GB  2 days ago

============================================================

3、配置代理

$env:http_proxy = "http://127.0.0.1:7890"
$env:https_proxy = "http://127.0.0.1:7890"

powershell下配置代理

============================================================


from openai import OpenAI
import os

OPENAI_API_KEY = os.getenv('OPENAI_API_KEY')

if not OPENAI_API_KEY:
    raise ValueError("OpenAI API key is not set. Please set the OPENAI_API_KEY environment variable.")


client = OpenAI(api_key=OPENAI_API_KEY,base_url="http://localhost:11434/v1")

stream = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "你好啊",
        }
    ],
    model="deepseek-r1:latest",
    stream=True,
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

测试代码，

看来确实是代理服务器的锅