过去很长一段时间里，很多人都认为，像 OpenAI Codex、Claude Code、Cursor Agent 这种 AI 编程工具，必须依赖云端运行。因为它们需要强大的模型推理能力，所以几乎都离不开 OpenAI API、Claude API 或者 Gemini API。也正因为如此，AI 编程虽然很强，但成本一直都不低。

尤其是大型项目。一次完整的代码分析、项目扫描、Agent 推理，往往就会消耗大量 Token。很多开发者可能只是测试几个小时，API 费用就已经开始快速上涨。

但现在，这件事情开始发生变化了。因为最新版的 Ollama，已经正式支持接入 Codex App。也就是说，你本地运行的大模型，现在已经可以直接变成 AI 自动编程 Agent。

而且最离谱的是：整个过程，甚至不需要联网。以前很多人对本地大模型的印象，其实还停留在“聊天机器人”阶段。比如本地运行一个 Qwen、DeepSeek、Gemma，然后进行简单对话、文本生成、代码补全等等。

但现在已经完全不同了。因为 AI Agent 和普通聊天机器人，本质上是两回事。聊天机器人只能回答问题，但 Agent 已经开始“执行任务”了。

比如：

自动分析项目结构。

自动扫描代码。

自动寻找 Bug。

自动修改文件。

自动创建项目。

甚至自动操作浏览器。

这意味着，本地 AI 已经开始真正具备“干活”的能力。

我这次测试的时候，最让我震惊的，并不是 AI 能聊天，而是它真的开始接管电脑了。比如我故意准备了一个已经崩掉的空战游戏项目。这个游戏原本已经报错，甚至无法正常运行。

正常情况下，如果是人工修复，我们可能需要：先查看控制台报错。再检查代码逻辑。然后逐步定位问题。最后再尝试修复。但这次，我直接把整个项目丢给了 AI Agent。

结果它会自动开始：

扫描项目文件。

分析代码结构。

定位错误逻辑。

自动修改代码。

修复 Bug。

最后重新运行整个游戏。

最离谱的是，修复完成之后，游戏居然真的恢复正常运行了。整个过程，几乎不需要人工干预。

而且这还不是最夸张的。真正让我觉得离谱的是：哪怕断网。它依然可以继续工作。因为它调用的是我本地 GPU 上的大模型。整个 AI 推理过程，全部都在本地完成。没有任何 OpenAI API，也没有任何 Token 消耗。以前很多 AI 工具，一旦断网，直接就废了。

但现在，本地 AI Agent 已经开始具备真正的离线能力。这一点，其实非常重要。因为这意味着，未来很多 AI 工作流，可能都会开始从“云端依赖”逐渐转向“本地运行”。

本地部署

1、安装 OpenAI Codex

下载方式：【点击前往】 或 【备用下载】

如果你下载的是macOS版，注意选择intel 、M 芯片

2、安装新版 Ollama

目前只有最新版Ollama 0.24 版本才完全适配Codex，所以如果你安装的是旧版ollama，一定要将其升级到最新版

下载方式：【点击前往】 或 【备用下载】

3、下载模型：

在4B~40B消费级显卡能跑的开源模型，首推 Qwen3.6 以及 谷歌的 Gemma 4 开源模型，因为无论是模型智力、代码编写、逻辑推理、中文理解等方面，这两款模型的综合评分都是数一数二的！

Qwen3.6 开源模型

安装命令：

ollama run qwen3.6

ollama run qwen3.6:27b

mac 电脑上请选择mlx结尾的适配版

ollama run qwen3.6:27b-mlx

ollama run qwen3.6:35b-mlx

Qwen 3.6 其它尺寸的模型 【获取链接】

Qwen 3.6 越狱版模型： 【点击下载】

Gemma 4 开源模型

安装命令：

ollama run gemma4

ollama run gemma4:26b

ollama run gemma4:31b

mac 电脑可选模型

ollama run gemma4:e2b-mlx

ollama run gemma4:e4b-mlx

ollama run gemma4:26b-mlx

Gemma 4 其它尺寸模型：【获取链接】

Gemma 4 越狱版模型：【点击下载】

4、对接命令：

ollama launch codex-app

注意：如果需要使用之前的模型，可以通过下方的命令进行恢复：

ollama launch codex-app --restore

【更强玩法】通过 llama.cpp 对接 Codex 加载越狱版模型

1、修改Codex的配置文件：

model = "Qwen3.6-27B-UD-Q5_K_XL.gguf"

model_reasoning_effort = "low"

profile = "llamacpp-codex"

model_provider = "llamacpp"

[profiles.llamacpp-codex]

model = "Qwen3.6-27B-UD-Q5_K_XL.gguf"

model_provider = "llamacpp"

model_reasoning_effort = "low"

[profiles.llamacpp-codex.windows]

sandbox = "elevated"

[model_providers.llamacpp]

name = "llama.cpp"

base_url = "http://127.0.0.1:8080/v1/"

wire_api = "responses"

[windows]

sandbox = "elevated"

llama-server.exe ^

-m "models\Qwen3.6-27B-UD-Q5_K_XL.gguf" ^

-ngl 999 ^

-c 16384 ^

-n 2048 ^

-fa on ^

--jinja ^

--host 127.0.0.1 ^

--port 8080

里面的模型改成你自己的