Position: Graph Learning Will Lose Relevance Due To Poor Benchmarks
作者: Maya Bechler-Speicher, Ben Finkelshtein, Fabrizio Frasca, Luis Müller, Jan Tönshoff, Antoine Siraudin, Viktor Zaverkin, Michael M. Bronstein, Mathias Niepert, Bryan Perozzi, Mikhail Galkin, Christopher Morris
发布时间: 2025-02-24
来源: arxiv
研究方向: 图学习
主要内容
该论文探讨了当前图学习领域中存在的基准测试问题,并提出了改进建议,旨在推动图学习研究的进一步发展和应用。
主要贡献
1. 指出了当前图学习基准测试中的不足,如缺乏具有变革性的真实世界应用、过度关注特定数据模态以及碎片化的评估协议。
2. 提出了改进基准测试的建议,包括转向更有意义的基准、严格的评估协议和与领域专家的更紧密合作。
3. 对现有基准进行了评估,并调整了各种新的基线和参考模型,以在分子预测任务、大规模异构数据集以及预训练/微调设置中的跨域迁移研究中进行了研究。
4. 强调了构建大规模、高质量、结构多样的图数据集的重要性,以解决数据缺口,并通过排除已知测试集来确保数据净化。
研究方法
1. 对现有基准进行了深入分析,识别了存在的问题。
2. 提出了改进基准测试的建议,包括转向更有意义的基准、严格的评估协议和与领域专家的更紧密合作。
3. 对现有基准进行了评估,并调整了各种新的基线和参考模型。
4. 进行了实验,以验证提出的改进建议的有效性。
实验结果
实验结果表明,当前图学习基准测试中存在的问题确实存在,而提出的改进建议能够有效地提高图学习模型的性能和可解释性。
未来工作
未来工作应着重于构建大规模、高质量、结构多样的图数据集,并制定严格的评估协议,以推动图学习研究的进一步发展和应用。