这篇文章的主要内容来自作者的自身经验和一些在线资源（如最出名的斯坦福大学的CS231n课程讲义），是关于如何调试卷积神经网络从而提升其性能的。
文章主要关注深度神经网络架构下的有监督学习方式。虽然这个指南基于Python3.6坏境使用tensorflow（TF）编程，但它仍然可以作为一种语言无关的指南来使用。
下文是排除故障并逐步提高性能的步骤，第一部分是进行故障排除之前的必备事项和良好实践。每个后续的章节标题都对应着一个问题，该部分专门用于解决这个问题。
以下是在编写深度学习算法时要遵循的最佳实践，关于这个主题的很好的资料来源于CS231n课程讲义以及Bengio的综述论文。
1.使用适当的日志记录和有意义的变量名称。在TF中能够通过名称来不同的变量，并在TF的可视化工具TensorBoard中显示出计算图。
最重要的是，每隔几个训练步骤都要确保记录了相关的值，例如：step_number, accuracy, loss, learning_rate。适用的话，加上更具体的度量标准（例如在图像分割任务中使用mean_intersection_over_union，即mean_iou）。之后，就可以根据训练步骤画出损失曲线。
2. 确保你的网络连接正确。使用TensorBoard或其他调试技术确保计算图中每个操作的输入和输出都准确无误，还要确保在将数据和标签送入网络之前对其进行适当的预处理和匹配。
3. 实施数据扩充（data augmentation）技术。虽然这一点并不是对所有情况都适用，但是如果处理图像的话，应用简单的数据扩充技术（例如镜像，旋转，随机裁剪和尺度变换，添加噪声，elastically deforming等），大部分时候会带来巨大的性能提升。而且TF具有大多数这些操作的内置函数，十分了。
4. 对所有层使用权重初始化和正则化。不要将权重初始化为相同的值，更糟的是将其初始化为0。这样做会带来对称性（symmetry）和潜在的梯度弥散问题，在大多数情况下会导致的结果。通常，如果在权重初始化时遇到问题，可以考虑将Batch Normalization层添加到网络中。
5. 确保正则项不会“压倒”损失函数中的其他项。关闭正则化，找出“损失”的数量级，然后适当地调整正则项大小。确保随着正则化强度的增加，损失也在增加。
6. 尝试过拟合一个小数据集。关闭正则化/随机失活/数据扩充，使用训练集的一小部分，让神经网络训练几个周期。确保可以实现零损失，如果没有，那么很可能什么地方出错了。
在某些情况下，将损失降到0尤其具有挑战性。例如，在图像语义分割中，如果你的损失涉及每个像素的softmax-ed logits和ground truth labels之间的交叉熵，那么可能线。不过，你应当寻求达到接近100％的准确率，通过获取softmax-ed logits的argmax并将其与ground truth labels进行比较来计算。
注：在机器学习中，“ground truth”一词指的是监督学习技术中训练集分类的准确性，简单地说就是正确标注的数据。
7. 在过拟合上述小数据集的同时，找到合适的学习率。下面的内容直接引自Bengio的论文：最优学习率通常接近于不会增加训练误差的最大学习率，一种可以指导式设置学习率的观测方法是，例如，以较大的学习率开始，如果训练误差发散，就用最大学习率除以3再试试，直到观察不到发散为止。
8. 执行梯度检验（gradient checks）。如果你在计算图中使用自定义操作——即不是内置的TF操作，则梯度检验尤其重要。下面的链接有一些实现梯度检验的技巧。
3. 确保变量真的在训练。为了检查这一点，你可以查看TensorBoard的直方图，或者编写一个脚本，在几个不同的训练实例中计算每个张量的范数（L1或 L∞），并打印出这些张量的名称。
4. 调整初始学习率并实施适当的学习率计划（learning rate schedule），这可能是最具影响力的“修复”。如果损失越来越严重，可能是初始学习率太大了。另一方面，如果损失几乎不变，可能是初始学习率太小了。无论如何，一旦确定了有效的初始学习率，就应该进行学习率衰减。像ADAM这样的优化器会在内部实现学习率衰减，但是，这些学习率的更新通常会很慢，在优化器之上实现自己的学习率计划会是个好主意。
5. 确保没有过拟合。有一些方法可以实现过拟合，也有一些方法可以避免它。绘制损失值与训练周期的曲线图，如果曲线看起来像抛物线，那么很可能过拟合了。
像说的那样，使用TensorBoard的直方图，或编写一个脚本，在几个不同的训练实例中计算每个张量的范数，并打印出这些张量的名称。如果变量未按预期进行训练：
2. 确保没发生梯度弥散。如果下游变量（接近输出的变量）训练正常但上游变量（接近输入的变量）几乎不变，则可能遇上了梯度弥散的问题。
3. 确保ReLus还在“放电”。如果大部分神经元“电压”被“钳制”为零，那么应该重新修正权重初始化策略，尝试使用不太激进的学习率计划，并尝试减少正则化（权重衰减）。
2. 考虑换一下激活函数。如果正在使用ReLus，请考虑使用leaky ReLu或MaxOut激活函数替换它们。你应该完全避免sigmoid激活函数，并远离tanh。
过拟合就是网络“记住”了训练数据的情况。如果网络在训练集和验证集上，准确率差别很大，可能它就过拟合了。
2. 实施随机失活（dropout）。随机失活指在训练期间每个步骤随机地忽略掉一些神经元，在前向期间这些神经元的贡献被移除并且在反向期间它们不被更新。
5. 实施基于验证集的早期停止（early stopping）。由于网络训练了太多个周期，因此可能会发生过拟合，早期停止有助于消除这个问题。
6. 如果其他一切都失败了，请使用较小的网络。这真的应该是你的最后手段，事实上这里的课程讲义对这种做法保持谨慎。
1. 考虑使用加权的损失函数（weighted loss function）。例如，在图像语义分割中，神经网络对输入图像中的每个像素进行分类。与其他类相比，某些类可能很少出现，在这种情况下，权衡少见的类可能会改进mean_iou度量。
4. 用小数步长卷积（strided convolutions）替换最大值汇合层和平均值汇合层。
属猪的属相婚配表