paperbot · PL 论文追踪

全部论文 待读 收藏

P2 Unveiling Memorization in Code Models

揭示代码模型中的记忆(Memorization)现象
ICSE Proceedings of the IEEE/ACM 46th International Conference on Software Engineering2024匹配度 3/10 · 论文研究代码模型的记忆现象,属于LLM与代码的安全隐私问题,与用户关注的静态分析/程序分析核心方向(PL→AI、AI→PL、浮点/贝叶斯程序分析)无直接关联;仅在理解代码模型行为层面有间接联系,但未涉及静态分析技术或程序分析应用。引用 40 inbox
Zhou Yang, Zhipeng Zhao, Chenyu Wang, Jieke Shi, Dongsun Kim, Donggyun Han, David Lo
crossref: 2026-09-12

AI 速览

一句话:揭示代码模型会逐字记忆并输出训练代码,带来漏洞、敏感信息与许可证等安全隐私风险。

大规模数据集、先进架构和强大算力催生了可自动化多种软件工程任务的代码模型。这些数据集通常包含来自开源与私有仓库的数十亿行代码。代码模型会记忆并逐字生成源代码,而其中可能包含漏洞、敏感信息或受严格许可证约束的代码,进而引发安全与隐私问题。本文围绕代码模型的记忆现象展开,旨在揭示该现象及其潜在风险;摘要未给出具体研究方法、实验设置或定量结果。

问题
代码模型在大规模代码语料上训练后会逐字记忆并输出源代码,可能泄露漏洞、敏感信息或受严格许可证约束的代码,造成安全与隐私风险。
方法
摘要概述了问题背景,但未披露具体研究方法或分析技术;从标题看,文章聚焦于揭示或刻画代码模型中的记忆现象。
评估
摘要未报告评估基准、实验设计或结果。
原文摘要(Abstract)

The availability of large-scale datasets, advanced architectures, and powerful computational resources have led to effective code models that automate diverse software engineering activities. The datasets usually consist of billions of lines of code from both open-source and private repositories. A code model memorizes and produces source code verbatim, which potentially contains vulnerabilities, sensitive information, or code with strict licenses, leading to potential security and privacy issues.

链接与引用

DOI 原文 · PDF(开放获取) ·

BibTeX
@inproceedings{paperbot11282,
  title = {Unveiling Memorization in Code Models},
  author = {Zhou Yang and Zhipeng Zhao and Chenyu Wang and Jieke Shi and Dongsun Kim and Donggyun Han and David Lo},
  booktitle = {ICSE},
  year = {2024},
  doi = {10.1145/3597503.3639074}
}