MINT-Demo: Membership Inference Test Demonstrator

作者: Daniel DeAlcala, Aythami Morales, Julian Fierrez, Gonzalo Mancera, Ruben Tolosana, Ruben Vera-Rodriguez

发布时间: 2025-03-13

来源: arxiv

研究方向: 人工智能与数据隐私保护

主要内容

本文提出了一种名为MINT (Membership Inference Test) 的技术，用于检测数据是否被用于训练机器学习模型，以强调机器学习训练过程的透明度。研究者通过在五个公共数据库上进行的实验，证明了MINT的有效性，并开发了一个交互式网络平台来推广这一技术。

1. 提出了一种名为MINT的方法，用于检测数据是否被用于训练机器学习模型。

2. 在五个公共数据库上进行了实验，证明了MINT的有效性，最高准确率达到89%。

3. 开发了一个交互式网络平台，以推广MINT技术，促进人工智能训练的透明度。

1. 使用辅助可审计数据（例如，神经网络特定层的激活图）进行模型训练。

2. 开发了两类MINT模型架构：MLP（多层感知器）和CNN（卷积神经网络）。

3. 在多个公共数据库上进行了实验，包括InsightFace项目中的ResNet-100网络。

4. 使用模型输出和激活图作为辅助可审计数据。

在五个公共数据库上进行的实验中，MINT模型在Membership Inference Tests中达到了89%的准确率。实验结果表明，MINT能够有效地检测出数据是否被用于训练模型。

未来工作将研究其他学习架构对MINT的影响，并研究影响成员推理的一般因素和特定AI模型。此外，平台将扩展到其他模态，包括图像和文本。