paperbot · PL 论文追踪

全部论文 待读 收藏

P2 Training on Clean Data but Getting Backdoored Models! A Poisoning Attack on Code Encoders

在干净数据上训练却得到后门模型!一种针对代码编码器的投毒攻击
ICSE Proceedings of the 2026 IEEE/ACM 48th International Conference on Software Engineering2026匹配度 2/10 · 该论文研究代码编码器(如 CodeBERT)的投毒后门攻击,属于机器学习与程序语言交叉的安全问题,但并不涉及用户画像核心的静态分析、Agentic 程序、LLM 辅助形式化验证、浮点程序分析或贝叶斯程序分析。与研究方向仅有较弱的 ML+代码表示关联,因此匹配度较低。引用 0 inbox
Yiran Xiao, Xiangyue Liu, Zhou Yang, Lili Bo, Xiaobing Sun
crossref: 2026-09-12

AI 速览

一句话:提出针对代码编码器的投毒攻击,使下游在干净数据上微调后仍得到带后门模型。

基于Transformer的代码编码器(如CodeBERT)能从大规模无标注源代码中学习通用表示,并支持下游任务微调。然而,这一范式存在严重安全风险:已有研究表明,攻击者可通过在微调数据集中注入精心构造的触发器(如死代码片段)向模型植入后门,使其在触发器出现时产生攻击者指定输出。本文标题进一步强调“在干净数据上训练却得到后门模型”的情形,将攻击面指向代码编码器本身:攻击者可能通过投毒代码编码器,使后续即使使用干净数据微调,仍得到带后门的下游模型。该工作属于代码模型供应链安全与后门投毒方向,关注触发器构造、后门植入及其对下游任务的影响。

问题
研究问题:代码编码器微调范式中,后门攻击通常通过污染下游微调数据实现;本文关注即使下游训练数据干净,仍可能因代码编码器被投毒而得到后门模型。
方法
方法:提出一种针对代码编码器的投毒攻击,通过向编码器植入触发器或后门行为,使其影响后续下游微调模型。
评估
评估:摘要未提供具体实验细节;攻击效果以触发器出现时模型产生攻击者指定输出为核心,并检验干净数据微调后是否仍保留后门。
原文摘要(Abstract)

Transformer-based code encoders like CodeBERT learn general knowledge from vast amounts of unlabeled source code. These encoders can convert input code into meaningful representations (i.e., code embeddings) and support a series of downstream tasks. Specifically, users can fine-tune a code encoder on certain datasets and obtain strong model performance on corresponding tasks. Recent studies have exposed critical security vulnerabilities in this widely-adopted paradigm: attackers can inject backdoors into models by poisoning the fine-tuning datasets with carefully crafted triggers (e.g., dead code snippets), causing the model to produce attacker-specified outputs when these triggers are present.

链接与引用

DOI 原文 · PDF(开放获取) ·

BibTeX
@inproceedings{paperbot11918,
  title = {Training on Clean Data but Getting Backdoored Models! A Poisoning Attack on Code Encoders},
  author = {Yiran Xiao and Xiangyue Liu and Zhou Yang and Lili Bo and Xiaobing Sun},
  booktitle = {ICSE},
  year = {2026},
  doi = {10.1145/3744916.3773236}
}