不变性预训练：让代码克隆检测抵抗语义等价改写

当天发生了什么

2026-08-15 21:01（UTC），arXiv 收到论文《Invariant Pretraining for Robust Code Representations》的 v1，主分类 cs.LG，备注为将发表于 LMPL 2026。作者指出，基于编码器的代码表示模型因体积小、推理成本低，仍被广泛用于克隆检测和代码分类，但它们很脆弱：面对语义等价、只是语法形式不同的程序，学到的表示会明显退化。论文在四个编码器基线、两个下游任务和四个数据集上测量了这一差距，并提出一种只用代码的继续预训练方法 InvPT：对语料施加保持语义的变换，把同一函数的所有变体都作为正样本，结合掩码语言建模和多正样本对比学习，不需要配对的自然语言数据。摘要称，在变换后的测试集上，克隆检测鲁棒性最多提升 11 个百分点，代码分类最多提升 19 个百分点，标准准确率持平或提高。

对保护应用逻辑的人意味着什么

语义等价改写正是复制者掩盖抄袭最便宜的手段，如今让大模型重写一遍代码几乎没有成本。这篇论文从两个方向给出参考。对想发现自己代码被复制的一方，它说明很多现成的克隆检测模型在面对改写时会明显失效，选型时不能只看标准测试集上的分数。对依赖改名、重排等表层变换来「改头换面」的一方，它说明鲁棒性是可以通过训练补回来的，表层变换未必能长期掩盖相同逻辑。需要注意的是，研究对象是源代码层面的编码器模型，并非二进制分析；改进幅度来自作者的数据集和变换集合，在其他语言或更激进的改写下效果如何，摘要没有给出结论。

可以落地的检查

第一，评估任何克隆检测工具时，用自己的代码生成若干语义等价的改写版本作为测试集，测量召回率下降多少。第二，不把标识符改名、格式化和语句重排当作保护核心逻辑的手段，真正敏感的规则应放在服务端。第三，保留源代码的提交历史与发布日期，作为原创性证据，因为检测结果本身只能提示「相似」。第四，关注代码表示模型的鲁棒性研究，定期复核所用检测工具是否需要更新。同时记录所用工具版本和测试集，保证日后的对比仍有意义。

行动清单

• 用自家代码的等价改写版本测试克隆检测工具
• 不把改名和格式化当作保护核心逻辑的手段
• 保留提交历史与发布日期作为原创性证据
• 定期复核所用检测工具的鲁棒性