在试图理解机器学习模型的作用时，真正有用的一件事是了解为什么某些实例会被预测。为此，Shapley Values和Lime非常有用。但是它们可以与无监督学习一起使用吗？
假设我们正在使用表格数据进行异常检测，并且我们运行一些算法，如隔离森林（或任何其他）。
在使用无监督学习时，使用 Shapley 或 Lime 尝试对结果进行局部解释在概念上是否正确？
Shapley/Lime 值可以用于无监督学习吗？
数据挖掘
机器学习
无监督学习
可解释的ai
2022-03-06 04:35:51
1个回答
我不这么认为，不是直接的。SHAP 试图解释每个特征对预测的影响，但这里没有标签。因此，最好问一下，您要解释什么？
在隔离森林的情况下，您可以找到穿过树木通往任何异常的捷径。那条路径会告诉你为什么树木将它分开，基于什么特征。它可能不是超级可解释的，但可以直接读取。