paperbot · PL 论文追踪

全部论文 待读 收藏

P2 Compressing Pre-trained Models of Code into 3 MB

将代码预训练模型压缩至 3 MB
ASE Proceedings of the 37th IEEE/ACM International Conference on Automated Software Engineering2022匹配度 2/10 · 该论文研究代码预训练模型的压缩与部署效率，属于PL与ML交叉中的模型工程问题，但并未涉及静态分析、Agentic程序、LLM改进静态分析/形式化验证、浮点程序分析或贝叶斯程序分析等用户核心方向。其目标更偏向让代码模型在个人设备上运行，与用户关注的问题驱动型理论/工程分析工作匹配度较低。引用 46 inbox
Jieke Shi, Zhou Yang, Bowen Xu, Hong Jin Kang, David Lo
机器学习与程序语言编程环境与开发者工具
crossref: 2026-09-12

AI 速览

一句话：将代码预训练模型压缩至约3 MB，以降低内存与运行开销并改善个人设备部署体验。

大型代码预训练模型在多种代码处理任务上取得显著效果，但其数百 MB 的内存占用和较慢的个人设备运行速度，阻碍了它们在软件开发者日常工作流中的广泛采用。本文针对模型部署困难和用户体验下降的问题，研究将代码预训练模型压缩到约 3 MB。标题所提示的关键结果是模型体积大幅缩小，从而有望降低内存开销并提升个人设备上的运行效率。摘要没有给出具体压缩技术、目标任务或精度损失等评估细节，因此其评估主要关注模型规模以及部署可用性。

问题
大型代码预训练模型内存占用达数百 MB 且在个人设备上运行缓慢，造成部署困难并降低用户体验。
方法
论文研究将代码预训练模型压缩到约 3 MB，以缓解上述部署与运行开销问题。
评估
摘要未详述评估细节；从标题与摘要可见，评估关注模型体积、内存/运行开销以及个人设备部署体验。
原文摘要（Abstract）

Although large pre-trained models of code have delivered significant advancements in various code processing tasks, there is an impediment to the wide and fluent adoption of these powerful models in software developers’ daily workflow: these large models consume hundreds of megabytes of memory and run slowly on personal devices, which causes problems in model deployment and greatly degrades the user experience.

链接与引用

DOI 原文 · PDF（开放获取） ·

BibTeX 
@inproceedings{paperbot7348,
  title = {Compressing Pre-trained Models of Code into 3 MB},
  author = {Jieke Shi and Zhou Yang and Bowen Xu and Hong Jin Kang and David Lo},
  booktitle = {ASE},
  year = {2022},
  doi = {10.1145/3551349.3556964}
}