paperbot · PL 论文追踪

全部论文 待读 收藏

P2 Automating a Complete Software Test Process Using LLMs: An Automotive Case Study

使用 LLM 自动化完整的软件测试流程:一个汽车行业案例研究
ICSE 2025 IEEE/ACM 47th International Conference on Software Engineering (ICSE)2025匹配度 4/10 · 该论文属于LLM用于软件测试自动化的工业案例,涉及LLM作为工具处理测试流程,与用户对工业落地和LLM辅助软件工程的兴趣有部分重合;但它不涉及静态分析、形式化验证、浮点程序分析或贝叶斯程序分析,也不是Agentic程序分析或LLM改进程序分析的核心方向,因此匹配度有限。引用 7 inbox
Shuai Wang, Yinan Yu, Robert Feldt, Dhasarathy Parthasarathy
crossref: 2026-09-12

AI 速览

一句话:提出通过切分测试流程让 LLM 专注子任务的车载 API 自动化测试系统,在 100 多个 API 上验证有效。

车载 API 测试用于验证车辆内部系统与外部应用之间的交互是否符合预期,但其本身高度复杂:需要协调 API 系统、通信协议乃至车辆仿真系统才能构造出有效的测试用例。在实际工业场景中,各类文档与系统规约之间还存在不一致、歧义和相互依赖等难题。本文提出了一套面向车载 API 自动化测试的系统。作者通过明确定义并切分测试流程,使大语言模型(LLM)只需聚焦于具体的子任务,从而保证整个测试工作流的稳定与可控。在 100 多个 API 上开展的实验表明,该系统能够有效实现车载 API 测试的自动化;结果还证实 LLM 可以高效处理那些原本需要人工判断的琐碎任务,因而适合在类似工业场景中实现完整自动化。

问题
车载 API 测试需要对齐 API 系统、通信协议与车辆仿真系统,而工业场景中的文档与规约往往不一致、有歧义且相互依赖,导致难以构造有效测试用例并实现自动化。
方法
设计一套车载 API 自动化测试系统,将完整的测试流程明确定义并切分为多个子任务,让 LLM 分别聚焦于具体任务,从而形成稳定可控的测试工作流。
评估
在超过 100 个车载 API 上开展实验,验证系统能否有效自动化 API 测试,并考察 LLM 处理需人工判断的琐碎任务的能力。
原文摘要(Abstract)

Vehicle API testing verifies whether the interactions between a vehicle's internal systems and external applications meet expectations, ensuring that users can access and control various vehicle functions and data. However, this task is inherently complex, requiring the alignment and coordination of API systems, communication protocols, and even vehicle simulation systems to develop valid test cases. In practical industrial scenarios, inconsistencies, ambiguities, and interde-pendencies across various documents and system specifications pose significant challenges. This paper presents a system designed for the automated testing of in-vehicle APIs. By clearly defining and segmenting the testing process, we enable Large Language Models (LLMs) to focus on specific tasks, ensuring a stable and controlled testing workflow. Experiments conducted on over 100 APIs demonstrate that our system effectively automates vehicle API testing. The results also confirm that LLMs can efficiently handle mundane tasks requiring human judgment, making them suitable for complete automation in similar industrial contexts.

链接与引用

DOI 原文 ·

BibTeX
@inproceedings{paperbot8782,
  title = {Automating a Complete Software Test Process Using LLMs: An Automotive Case Study},
  author = {Shuai Wang and Yinan Yu and Robert Feldt and Dhasarathy Parthasarathy},
  booktitle = {ICSE},
  year = {2025},
  doi = {10.1109/icse55347.2025.00211}
}