paperbot · PL 论文追踪

全部论文 待读 收藏

NL2VBench: A Benchmark for End-to-End Natural-Language to Verifiable Rust Generation

NL2VBench:面向端到端自然语言到可验证 Rust 生成的基准
ASE Proceedings of the 41st IEEE/ACM International Conference on Automated Software Engineering2026引用 1 inbox
Lianhe Hu, Cheng Wen, Dugang Liu, Zhiwu Xu, Zhuohua Li, Jie Su, Bin Yu, Shengchao Qin
crossref: 2026-10-09

AI 速览

一句话:提出 NL2VBench 基准,包含 762 个自然语言到 Verus 可验证 Rust 的生成任务及验证工具链。

NL2VBench 是一个用于评估大语言模型(LLM)从自然语言描述生成 Verus 可验证 Rust 程序的基准数据集。它包含 762 个经过整理的任务,分为 Simple、Loops、Complex 三类;每个任务提供自然语言描述、函数签名以及经 Verus 验证的参考实现。工件还包含 12 个 prompt 模板、实验脚本和验证脚本,以支持端到端评测。该工作旨在填补自然语言到可验证系统代码生成缺乏标准化基准的空白,并为 LLM 在程序合成与形式验证交叉方向提供可复现的评估基础设施。

问题
评估 LLM 从自然语言生成正确且可通过 Verus 验证的 Rust 程序缺乏标准化基准。
方法
构建 NL2VBench,覆盖 Simple、Loops、Complex 三类共 762 个任务,每项含自然语言描述、函数签名和经 Verus 验证的参考实现,并提供 prompt 模板、实验与验证脚本。
评估
使用配套验证脚本对 LLM 生成的 Verus Rust 程序做端到端验证检查,支持在统一任务集上比较生成与验证表现。
原文摘要(Abstract)

NL2VBench is a benchmark dataset for evaluating LLMs on generating Verus-verified Rust programs from natural language descriptions. It contains 762 curated tasks across 3 categories (Simple, Loops, Complex). Each task includes a natural-language description, function signature, and a reference verified Verus implementation. The artifact also includes 12 prompt templates, experiment scripts, and a verification script.

链接与引用

DOI 原文 · PDF(开放获取) ·

BibTeX
@inproceedings{paperbot12500,
  title = {NL2VBench: A Benchmark for End-to-End Natural-Language to Verifiable Rust Generation},
  author = {Lianhe Hu and Cheng Wen and Dugang Liu and Zhiwu Xu and Zhuohua Li and Jie Su and Bin Yu and Shengchao Qin},
  booktitle = {ASE},
  year = {2026},
  doi = {10.1145/3832783.3834619}
}