Robust Conformal Prediction with a Single Binary Certificate
作者: Soroush H. Zargarbashi, Aleksandar Bojchevski
发布时间: 2025-03-10
来源: arxiv
研究方向: 机器学习与不确定量化
主要内容
本文研究了基于随机平滑的鲁棒一致预测方法，旨在提高模型在噪声或对抗性扰动下的可靠性。该方法通过将平滑分数分布二值化，并使用阈值来保持覆盖保证，从而生成小型预测集。
主要贡献
1. 提出了一种名为BinCP的鲁棒一致预测方法，该方法通过二值化平滑分数分布，并使用阈值来保持覆盖保证，从而生成小型预测集。
2. 证明了通过计算单个二进制证书即可实现鲁棒性，与先前需要为每个校准或测试点计算证书的方法相比，该方法速度更快且生成的鲁棒集更小。
3. 通过消除需要有界得分函数的限制，使得该方法更灵活。
4. 与现有的基于随机平滑的鲁棒CP基线相比，该方法需要显著更少的蒙特卡洛样本即可生成小预测集。
研究方法
1. 二值化一致预测（BinCP）
2. 随机平滑
3. Clopper-Pearson置信区间
4. 线性规划
实验结果
实验结果表明，BinCP在图像分类和节点分类任务中均能生成有保证且小型化的预测集，并且计算效率高。与现有的SOTA方法CAS相比，BinCP在大多数情况下都表现出更小的预测集大小。
未来工作
未来的工作可以探索将BinCP应用于更复杂的模型和更现实的数据集，并研究如何将输入空间的鲁棒性与分布偏移的鲁棒性联系起来。