如何在 Python 中对 LSTM 神经网络进行模型不可知？

编程问答 2022-05-26

问题描述

我在我的数据集上使用了 LSTM 神经网络（Keras 包），并希望使用模型不可知方法来找出变量对我的预测的影响。 数据集是一个具有三个维度的数组。我有多个 ID，每个 ID 都有自己的序列，每个 ID 都有不同的时间步长。我的数据集的形状如下所示：(18610,151,18) (ID's,time-steps,variables) 一个时间步长中一个 ID 的变量输出如下所示（预测类别为 1）：> 

[2.00000000e+00 0.00000000e+00 2.10544316e-03 1.56082309e-03
 0.00000000e+00 1.01647775e-01 0.00000000e+00 4.28571559e-01
 6.95422174e-01 8.52459016e-01 1.20027614e-01 1.00000000e+00
 0.00000000e+00 0.00000000e+00 0.00000000e+00 0.00000000e+00
 0.00000000e+00 1.00000000e+00] 1

所有模型不可知方法（据我所知）都不适用于这些具有三个维度的数组数据集。有没有办法仍然找到变量的影响（使用 Lime、部分依赖图或 Shapley？）以便我可以解释模型？我更喜欢使用部分依赖图来查看全局解释。

有谁知道怎么做（使用示例代码）？在此先感谢您！

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）

keraskeraslimelstmlstmpython