46. 并行运行多个本地编程代理会话

他们做了什么

Roark66 在每块 24GB 显存的 RTX 3090 显卡上运行编程代理，同时使用 Claude Code 和本地模型。他们最多同时开着 10 个代理会话，但同一时刻活跃的从不超过 5 个。由于推理掌握在自己手里，他们可以把完整的上下文缓存在内存中，还能把缓存保存到磁盘，这样会话闲置一段时间后，就不用重新完整读取一遍。

结果如何

在内存中缓存大约 15 个完整上下文，会让他们的本地缓存利用率达到 95% 甚至更高。他们说，自己每周大约 13 亿个输入 token 的用量，如果按 API 价格计算，要花上几千美元。

需要知道

云端缓存会在 5 分钟或 1 小时后过期，所以一个闲置的 50 万 token 上下文会被重新按完整输入计费；本地缓存可以避免这个问题，但你需要足够的内存来存放这些上下文。

你可以这样尝试

我想在位于 [路径] 的仓库中同时处理 [N] 个独立的任务。为每个任务创建单独的 git worktree 和分支，独立完成工作，运行测试，并总结改了什么。任务如下：[任务 1]、[任务 2]、[任务 3]。当每个分支都有一份通过测试、可供我评审的 diff 时就停止，不要合并任何内容。