既然前向过程中神经突触不变，只传递信号不传递权重，反向过程能不能也如此？基于这样的思考，反馈对齐（Feedback Alignment，FA）应运而生[3]。FA的思路是，正向过程与反向过程分别是相互独立的权重体系，或者说可以理解为两条独立的神经突触的传递路径，正向传递输入信号，反向传递误差信号。如果用W代表前向过程的权重矩阵，那么BP反向计算时就是用W的转置来更新上一层权重，但FA则是用一个与W完全无关的随机矩阵B来更新上一层。如果用一个简单的浅层神经网络来描述，FA的网络设计可见图1。

乍一看，这个设计非常反直觉：因为它简单到对B的取值几乎没有什么严格的要求——不仅不要求跟W匹配，也不要求服从什么指定的概率分布，随机生成就行。当然，为了满足矩阵运算要求，B的尺寸需要和W的转置相同。在训练时，B一旦随机初始化后就固定不变，仅仅通过每次前向过程计算出的e=y*-y乘以B的方式来传递误差信息，迭代更新权重W0。

当网络层数增加时，FA可以有多种不同的更新权重W的方式，见图2，其中从左到右分别为a）传统BP，b）普通FA，将误差信号一层层从后往前传递，c）Direct FA[4]，将误差信号直接投射到前面的每一层中（即直接跟每一层对应的反馈矩阵Bi相乘）进行计算，d）Indirect FA，将误差信号投射回第一层，将其与相关输出向量进行运算后再按照前向传播的逻辑（乘以前向矩阵W）传递。

其中DFA尤其重要，因为它可以在得到前向过程的误差信号之后，直接并行计算反馈过程；如果每一层权重矩阵Wi的尺寸相同，反馈矩阵Bi甚至可以直接使用同一个矩阵B，进一步节省了参数量和存储空间。

被称为深度学习界的“Hello World”的MNIST手写数字识别数据集非常适合做这种简单模型的试金石，感兴趣的读者不妨按照如下设置亲自测试一下看看效果：相比于LeNet的“卷积+全连接层”的7层结构，我们简单粗暴地抛弃了卷积层，先将28x28的图片拉平，预处理成784维的列向量，然后用三层全连接层逐次降维到112、16、10（配合ReLU激活函数），最后用一个softmax函数输出每个数字对应的概率。与之呼应的，我们需要两个反馈矩阵（B1尺寸16x112，B2尺寸10x16），分别用[0,1]均匀分布进行随机初始化后固定，按照[4]中给出的公式对权重进行更新即可（这是唯一需要注意的地方，别习惯性地调用SGD或者Adam等优化器，FA不需要BP）。在试探性地选取了千分之一的学习率之后我们惊喜地发现，FA同样可以凭借如此简单的网络结构和反直觉的反馈矩阵将自己在测试集上的预测准确率推高到94%。参考代码如下：

说到这里，我们似乎仍未触及这个算法的灵魂：为什么叫“反馈对齐”，到底哪里“对齐”了？

算法细节

在衡量相似性（例如电商推荐系统中评价两个物品的相似度）时，常用的一个指标是余弦相似度，通过计算两个向量间夹角的余弦来判断。如果两者指向同一个方向（夹角为零）则相似度取最大值1，方向相反时取最小值-1，夹角为90°时相似度为0，数学上称为正交，或者可以理解为不相关。余弦相似性的计算方式是，向量A、B的点积除以A、B各自的模（向量长度）。所以，如果用向量余弦夹角的眼光来看待前向过程的权重W和后向反馈过程的权重B，会发生什么呢？

实验发现，一开始由于都是随机初始化，W和B的夹角接近 90°，类似正交，但神经网络很快就发现了该如何使用这些给定的B矩阵，并令W的更新也朝着B的方向靠近，夹角逐渐变小——W在主动地试图和B“对齐”！在这个过程中，FA的更新越来越接近BP，这种行为暗示了B实际扮演了类似于“W的转置”一样的角色。因为B是固定的，这种对齐效应明显由W的变化所引起。可见这种随机反馈权重B同样可以有效传输信号，检测特征信息，并且通过随机链接的方式在深度网络中传送误差。这种灵活性令FA模拟大脑行为更加可信，因为学习过程在误差被随机反馈权重无差别地广播传输到多层细胞的情况下仍然可以正常进行。FA令W像B在误差流形附近的局部伪逆矩阵。这个很重要，因为如果B是W的Moore-Penrose伪逆矩阵，神经网络本质就是在进行Gauss-Newton优化[3]。对数学证明和推导等更多细节感兴趣的读者可以参阅[3,4]。

回顾一下上节提到的相对另类的DFA：FA和BP因为依赖后面的网络层，所以一旦后续层饱和，前面层的更新就会变成或逼近0，但DFA仅仅依赖于误差e，只要e非零，DFA的更新项就可以非零。DFA和监督的逐层预训练的区别在于，如果所有层同时进行训练，驱动学习的是顶部（最后层）的误差，而非浅的预训练网络的误差。学习不应该是一个独立阶段，而应该是在前向传递之后的延伸。误差信号不是参与前向过程神经元的第二个信号，而是由其他神经元传播的独立信号。DFA对BP和FA提出了更多启发，即它们所提出的“反向过程必须访问每个神经元”的约束限制可以被移除。反馈路径和正向传播路径分离之后，学习过程仍然可以正常进行[4]。

对FA和DFA等进一步研究发现，训练过程往往分为两个阶段[5]：

对记忆阶段的研究则引出了“退化解”（degenerate solutions）的概念。我们知道对称函数常常具备一些不随数学转换而变化的优良特性，例如tanh函数，我们有tanh(z)= -tanh(-z)。那么考虑一个简单的两层神经网络，如果使用tanh作为激活函数，权重组合（忽略偏置bias）{W1，W2}和{-W1，-W2}将对任意输入信号都具备同样的测试误差。如果以最小化测试误差作为学习目的，神经网络在学习过程中可能会最终收敛到上述组合并认为是不同的解，但它们本质相同，互为“退化解”，且退化解出现的概率随着网络层数增加而增加。传统方法，例如随机梯度下降SGD，就常常会在学习过程中根据初始条件而随机收敛到其中一个退化解，但以FA和DFA为例的方法则会在众多退化解（本质上是局部最优解）中选择跟反馈向量的相似度最大的那个解，消除或减弱了随机搜索中的退化效应[5]。图3左图对优化路径做了个简单示意，而右图则表明了相比于BP算法（例如SGD）在训练时的发散，FA/DFA等可以收敛到同一个区域（由反馈矩阵所决定）。研究者认为DFA相比于BP在实践中更加适合训练过参数化（over-parameterized）的神经网络，因为这些网络普遍具有很多退化解，而DFA可以帮助我们避开这些重复的坑。