2024年8月9日-11日,第十二届CCF大数据学术会议(CCF BigData 2024)在山东省青岛市举行,会议由CCF大数据专委主办,是国内大数据领域最具影响力、规模最大的学术会议之一。山东大学-南洋理工大学人工智能国际联合研究院(C-FAIR)硕士研究生邢钟毓为第一作者,崔立真、王峻、余国先教授指导的论文“解释纠偏框架:基于标准解释的归因分数生成方法”,经函评和现场汇报遴选获得了本次大数据学术会议唯一最佳学生论文奖(总投稿219篇)。本论文的第一作者和通讯作者单位均为山东大学。本论文相关工作由山东大学领衔,北京建筑大学合作共同完成。
获奖论文针对不同深度学习模型对数据解释的不一致性,进行了模型归因分数解释不确定性问题的理论研究。论文探讨了解释与模型不确定性因素间的联系,证明了SHAP方法对于相似模型的波动上限,减少了归因分数解释的随机性;并基于模型训练随机因素等属性对各类特征归因方法影响的综合分析,提出了一种基于标准解释的归因分数生成框架ASGM。在多种数据集上的实验均验证了ASGM框架能够生成受模型影响较小的规格不足集或罗生门效应集合的归因分数解释,生成解释的质量接近标准解释,且计算时间显著低于标准解释,还可以用于预测规格不足集解释间的不确定性。该工作为可解释人工智能领域中模型不确定性和可解释性的研究提供了新的研究思路。