可视化工作分为两大类，一类是非参数化方法:这种方法不分析卷积核具体的参数，而是先选取图片库，然后将图片在已有模型中进行一次前向传播，对某个卷积核，我们使用对其响应最大的图片块来对之可视化;而另一类方法着重分析卷积核中的参数，使用参数重构出图像。

CAFFE 可视化开山之作

三篇关键的论文，对可视化做了很大的贡献：

《Visualizing and understanding convolutional neural networks》

《Understanding neural networks through deep visualization》

《Adaptive deconvolutional networks for mid and high level feature learning》

Yosinski根据以往的可视化成果(包括参数化和非参数化方法)开发了一个可用于可视化任意CNN模型的toolbox，通过简单的配置安装之后，我们就可以对CNN模型进行可视化了。

代码：https://github.com/yosinski/deep-visualization-toolbox

示例

Caffe 中间特征图如何可视化

输入图像：猫咪

那么经过一层卷积运算之后会变成什么样子呢？使用开源框架Keras来完成这个任务：

cat = cv2.imread('cat.png')

model = Sequential()

model.add(Convolution2D(3,3,3,input_shape = cat.shape))

cat_batch = np.expand_dims(cat,axis = 0)

conv_cat = model.predict(cat_batch)

def visualize_cat(cat_batch):

cat = np.squeeze(cat_batch,axis=0)

print cat.shape

visualize_cat(conv_cat)

卷积结果图

Caffe 权重如何可视化

纯代码实现：http://www.cnblogs.com/louyihang-loves-baiyan/p/5134671.html

Caffe 网络结构如何可视化

使用Netscope工具，这个工具主要是支持可视化神经网络结构，它可以用来可视化caffe结构里的prototxt结构。

源码地址：http://ethereon.github.io/netscope/quickstart.html