lstm神经网络黑箱问题

求问各位，lstm做预测，怎么样知道每个特征的重要性，因为他是一个黑箱，不会用shap值，还有别的方法吗