AwesomeREA.org

2026 · 会议论文

使用 CTF-Dojo 训练语言模型智能体发现漏洞

Training Language Model Agents to Find Vulnerabilities with CTF-Dojo

Terry Yue Zhuo; Dingmin Wang; Hantian Ding; Varun Kumar; Zijian Wang

CTF-Dojo 是用于在夺旗赛任务上训练大语言模型智能体的可执行环境：它从 pwn.college 的 CTF Archive 中选取 658 道题目，来自 2011 年至 2025 年举办的 50 项竞赛，并以 Docker 容器化。其 CTF-Forge 流水线提示 DeepSeek-V3-0324 为每道题目编写 Dockerfile、docker-compose 文件和题目元数据；在三次独立运行中，650 道题目均能稳定构建并在预期端口上响应。Qwen3-Coder 与 DeepSeek-V3-0324 智能体在上限为 40 轮的 EnIGMA+ 框架中收集轨迹。收集过程中以匹配到的 CTFtime 题解作为提示，之后再从轨迹中删除；每次运行还会随机化端口、路径、干扰代码及其他运行时细节。作者以拒绝采样微调方式，用来自 274 道已解题目的 486 条成功夺旗轨迹训练 Qwen3 8B、14B 与 32B 模型，使其在 InterCode-CTF、NYU CTF Bench 与 Cybench 上的平均 Pass@1 最多提高 11.6 个百分点；32B 模型达到 31.9%。

研究范围与局限

这些环境涵盖夺旗赛的一般类别，并非只有逆向工程：658 道题目中，密码学 228 道、漏洞利用 163 道、逆向工程 123 道、杂项 85 道、取证 38 道、Web 21 道。在有成功轨迹的 274 道题目中，密码学是最大的类别（141 道），其次是逆向工程（52 道）。基准提升按基准（共 323 个任务，温度为 0、上限 40 轮）报告，而非按类别报告，因此不能衡量逆向工程准确率。去污染通过匹配竞赛名与题目名完成，移除了 3 道重叠题目；作者指出这无法排除任务之间更广泛的相似性。只有 150 道题目（23%）匹配到题解，所有轨迹都来自两个教师模型，研究也只考察监督微调；作者将 658 道题目的静态规模列为局限。上游归档中基于哈希的旗标检查程序可能有误，作者报告了四个此类错误。仓库代码采用 CC BY-NC 4.0 许可证，包含 CTF-Forge、元数据与题解匹配脚本以及题目索引，但不含题目文件；题目文件需另行从 pwn.college 的 CTF Archive 克隆，不受该仓库许可证覆盖。所审阅的目录中没有轨迹或训练好的权重，题解也需另行收集。夺得旗标并不表明恢复了程序结构。

与本合集的关联

补充在包含逆向工程题目的任务池上、以执行结果为依据训练开放权重夺旗赛智能体的研究；其轨迹在 EnIGMA+ 中收集和评测，该框架扩展了本节收录的 EnIGMA。

发表与复核详情

发表载体
ICML 2026
发表状态
会议论文
出版／提交日期
2026 年 9 月 29 日
日期依据
PMLR 说明第 306 卷于 2026 年 9 月 29 日出版，与论文页面 citation_publication_date 所载 2026/09/29 一致；本条目不采用 7 月 6–11 日的会议日期，也不采用 arXiv 日期。
arXiv 首次提交
2025 年 8 月 25 日
arXiv
2508.18370
已复核的 arXiv 版本
v2

PMLR 页面、其 BibTeX 与论文集 PDF 均列出顺序相同的五位作者、书名“Proceedings of the 43rd International Conference on Machine Learning”、第 306 卷、第 168265–168284 页，且没有 DOI。arXiv v1 发布于 2025-08-25，v2 为 2025-09-23，均无注释或期刊引用；v2 的标题与主要数字与 PMLR 版本一致，但其训练部分写作 7B，而其表格与 PMLR 正文均为 8B。OpenReview 论坛页因浏览器验证无法获取，因此发表场所依据 PMLR 论文集。在所审阅的 2026-01-10 提交中，LICENSE 文件为 CC BY-NC 4.0 文本，NOTICE 给出 SPDX 标识 CC-BY-NC-4.0，而 GitHub 显示为 NOASSERTION。README 与 NOTICE 将项目称为“Training Software Agents to Find Vulnerabilities with CTF-Dojo”，README 中第二条 BibTeX 则为另一篇 Cyber-Zero 预印本（arXiv 2508.00910）标注了“CTF-Dojo: Training Cybersecurity Agents without Runtime”的标题。ctf_archive.json 列出 658 道题目，其中密码学 229 道、漏洞利用 162 道，论文中则为 228 道与 163 道。构建环境需要通过 litellm 访问模型端点（默认 deepseek-v3-0324）、克隆 pwncollege/ctf-archive（所审阅提交的根目录没有许可证文件）、另行收集的题解 JSONL，以及 Cyber-Zero 仓库中用于收集轨迹的 EnIGMA+。本次未运行代码或实验。

来源复核于

本合集仅做来源复核，未重新运行论文实验。请通过原始论文或 BibTeX 引用原作者。

报告条目过时 建议修正翻译

一手来源

  1. https://proceedings.mlr.press/v306/zhuo26c.html
  2. https://proceedings.mlr.press/v306/
  3. https://raw.githubusercontent.com/mlresearch/v306/main/assets/zhuo26c/zhuo26c.pdf
  4. https://arxiv.org/abs/2508.18370
  5. https://arxiv.org/pdf/2508.18370v2
  6. README.md GitHub · amazon-science/CTF-Dojo · 修订 8ef064a
  7. LICENSE GitHub · amazon-science/CTF-Dojo · 修订 8ef064a
  8. NOTICE GitHub · amazon-science/CTF-Dojo · 修订 8ef064a
  9. ctf_archive.json GitHub · amazon-science/CTF-Dojo · 修订 8ef064a
  10. requirements.txt GitHub · amazon-science/CTF-Dojo · 修订 8ef064a
  11. https://github.com/pwncollege/ctf-archive/tree/d1c3b204ae0b55ecbbc09b0cab4842c79f50819a