· python 3.12 【点击下载】
· 在 macOS 上:安装 Xcode CLI 工具 –>xcode-select --install
· 在 Linux 上:这些参考实现需要 CUDA
· 在 Windows 上:如果您想在本地运行模型,请尝试使用 Ollama 等解决方案。
如果您尝试在消费类硬件上运行,你可以有2种安装方式:
1、在安装 Ollama上进行部署, 点击下载【官方版】后运行以下命令来使用 Ollama 。
# gpt-oss-20b
ollama pull gpt-oss:20b
ollama run gpt-oss:20b
# gpt-oss-120b
ollama pull gpt-oss:120b
ollama run gpt--oss:120b