神经网络可解释性方法

有没有能推荐一种可以理解神经网络每一层的重要性的可视化方法？也可以是一种可以理解每一层的作用的可视化方法？