发布论文“可解释性的基石”

2015 年,我们对神经网络如何理解图像的早期可视化尝试催生了迷幻图像。之后不久,我们将代码作为 DeepDream 项目开源,它已经演变成一场小规模的艺术运动,产生了各种各样的魔幻作品。不过,我们继续按照 DeepDream 背后的原始研究路线工作,尝试解决深度学习领域最令人兴奋的问题之一:神经网络是如何工作的?


去年,在在线期刊 Distill 上,我们展示了那些相同的技术如何显示网络内各个神经元的分工,而不是像 DeepDream 中那样仅仅局限于“网络感兴趣的”内容:

https://distill.pub/2017/feature-visualization


这让我们可以了解网络中的神经元如何用作各种东西(按钮、衣服补丁和建筑物)的检测器以及它们如何在网络层之间堆积,变得越来越复杂。


GoogLeNet 中神经元的可视化。神经元所处的层越高,思维越高级


尽管神经元可视化令人兴奋,但我们去年的工作仍缺少一些重要的东西:这些神经元与网络实际所做工作之间有什么事实上的联系?


转自:TensorFlow


完整内容请点击“阅读原文”