GECO:实时质量反事实解释

作者: | Maximilian Schleich | Zixuan Geng | Yihong Zhang | Dan Suciu |

摘要:机器学习越来越多地应用于直接影响人们生活的高风险决策中,这导致对系统解释其决策的需求增加。解释通常采取反事实的形式,这包括向最终用户传达她/他需要改变的东西,以改善结果。计算反事实的解释是具有挑战性的,因为领域的丰富语义与实时响应的需求之间存在着内在的张力。本文提出了GECO,这是第一个能够实时计算可信和可行的反事实解释的系统。它的核心是,GECO依赖于一种遗传算法,该算法被定制,以便于搜索变化最少的反事实解释。为了达到实时性,我们引入了两种新的优化方法:候选反事实的Δ表示和分类器的部分评估。我们将GECO与文献中描述的其他四种系统进行了实证比较,结果表明GECO是唯一能够实现高质量解释和实时回答的系统。

论文地址

https://arxiv.org/abs/2101.01292v1

下载地址

https://arxiv.org/pdf/2101.01292v1.pdf

全部源码

https://github.com/mjschleich/GeCo.jl

决策制定

相关推荐

暂无评论

微信扫一扫,分享到朋友圈

GECO:实时质量反事实解释