一直以来，深度学习模型对于研究者来说是一种“黑盒”模型，我们一般很难分析模型的到底学习到了什么东西，只知道它能够应用于特定的领域。对比于自动驾驶领域来看，一个黑盒状态的模型，是很难让人放心去使用的，这是因为如果汽车出现事故后往往难以解释，且