Explainable AI in Time-Sensitive Scenarios: Prefetched Offline Explanation Model
作者: Fabio Michele Russo, Carlo Metta, Anna Monreale, Salvatore Rinzivillo, Fabio Pinelli
发布时间: 2025-03-07
来源: arxiv
研究方向: 可解释人工智能(XAI)在时间敏感场景中的应用
主要内容
提出了一种名为POEM的预取离线解释模型，用于在时间敏感场景中对图像数据进行模型无关的解释。
主要贡献
1. 开发了一种新的模型无关解释算法，能够为图像数据提供快速、有效的解释。
2. 通过生成示例、反示例和显著性图，提供直观的解释。
3. 改进了现有方法的时间效率，同时提高了解释的详细程度和质量。
4. 通过构建解释库，实现了对解释的快速检索和复用。
研究方法
1. 使用对抗自编码器将图像映射到潜在空间。
2. 生成图像的近邻和合成实例。
3. 训练决策树来提取事实和反事实规则。
4. 构建解释库以存储预先计算的解释模型。
5. 在在线阶段，使用解释库来生成新的实例的解释。
实验结果
实验结果表明，POEM在速度和生成更丰富、更多样化的示例方面优于其前辈ABELE，同时提供了更有洞察力的显著性图和更有价值的反示例。
未来工作
计划将此方法扩展到其他类型的数据，例如时间序列和表格数据。还计划在真实世界数据上进行测试，例如医学图像，并实施用户研究以对POEM的解释进行定性评估。