paperbot · PL 论文追踪

全部论文 待读 收藏

P1 Investigating Test Overfitting on SWE-bench

探究 SWE-bench 上的测试过拟合
FSE Proceedings of the 34th ACM International Conference on the Foundations of Software Engineering2026匹配度 5/10 · 论文研究的是 LLM 驱动的缺陷修复系统(含自动生成测试、代码-测试联合迭代)在 SWE-bench 上的测试过拟合现象,属于“Agentic 程序”评测与可靠性话题,与用户关注的 Coding Agent 行为分析有交集;但它既不涉及静态分析技术,也不涉及浮点或贝叶斯程序分析,且更偏软件工程实证/基准评测而非 PL 形式化与工具落地。引用 5 inbox
Toufique Ahmed, Jatin Ganhotra, Avraham Shinnar, Martin Hirzel
crossref: 2026-09-12dblp: 2026-09-12arxiv: 2026-09-12

AI 速览

一句话:首次实证研究 SWE-bench 问题解决中因过度依赖测试而导致的测试过拟合现象。

在代码仓库 issue 解决中,测试是重要信号,但过度依赖测试会让生成代码仅在已观测测试上通过,却遗漏重要情形甚至破坏原有功能,此即测试过拟合。由于 issue 往往缺少可直接执行的测试,许多 issue 解决系统转而使用从 issue 自动生成的、可能不完美的测试,部分系统还联合迭代精化代码与测试,进一步加剧该风险。本文在 SWE-bench 上首次对这一问题开展实证研究,考察此类设定中的测试过拟合现象,为理解与缓解 issue 解决系统的评测失真提供依据。

问题
在 issue 解决中,系统过度依赖测试(尤其是自动生成且可能不完美的测试)会使代码仅拟合观测测试,却遗漏重要用例或破坏功能,即测试过拟合。
方法
本文开展首次实证研究,分析 SWE-bench 上 issue 解决系统中的测试过拟合,涵盖使用自动生成测试及联合迭代精化代码与测试的场景。
评估
评估方式为在 SWE-bench 上进行实证研究,关注自动生成测试与代码-测试联合精化设定下的过拟合表现。
原文摘要(Abstract)

Tests can be useful towards resolving issues on code repositories. However, relying too much on tests for issue resolution can lead to code that technically passes observed tests but actually misses important cases or even breaks functionality. This problem, called test overfitting, is exacerbated by the fact that issues usually lack readily executable tests. Instead, several issue resolution systems use tests auto-generated from issues, which may be imperfect. Some systems even iteratively refine code and tests jointly. This paper presents the first empirical study of test overfitting in this setting.

链接与引用

DOI 原文 · arXiv · PDF(开放获取) · DBLP

BibTeX
@inproceedings{AhmedGSH26,
  title = {Investigating Test Overfitting on SWE-bench},
  author = {Toufique Ahmed and Jatin Ganhotra and Avraham Shinnar and Martin Hirzel},
  booktitle = {FSE},
  year = {2026},
  doi = {10.1145/3803437.3805574}
}