对胶囊网络中的路由机制的解析和思考
最新推荐文章于 2022-05-24 15:10:46 发布
afterbug
最新推荐文章于 2022-05-24 15:10:46 发布
阅读量713
收藏
3
点赞数
胶囊网络提供了一种更精确表达特征的方式，通过动态路由机制解决了传统神经网络的局限。动态路由中，胶囊间的连接权重通过迭代更新，确保了特征的正确传递和激活。这种路由过程类似聚类，使输出胶囊更准确地表示输入特征。
一、提出背景
胶囊网络被提出在《Dynamic Routing Between Capsules》论文中。
传统的神经网络的每一层有多个神经元，每个神经元是一个值，一个值相当于一个特征。这些值的大小表示了真实的含义，比如手写数字识别中，神经网络的输出层的每个神经元的值表示数字的概率。
有的时候，每个神经元是一个值是无法是不够的。比如下图中，倒数第二层的神经元的值表示对应器官存在的概率，最后一层表示是人脸的概率。然而，由倒数第二层的5个图是无法组成正常的人脸的，因为这些值没有表达出器官的方向、大小等特征。
为了更精确的表达特征，作者提出了一种胶囊网络。神经网络的每一层不再是多个神经元，而是多个胶囊，每个胶囊是多个神经元，因此每个胶囊存贮了多个特征。比如下图中，每个胶囊是个3维的向量，表示了三个特征，这三个特征可以为（可能性，大小，方向）。
下图是论文中给出的框架图。在神经网络的第二层（PrimaryCaps）和第三层（DigitCaps）是胶囊网络。如果到第二层采样传统的CNN，则每个channel是6*6的矩阵。Pri
最低0.47元/天 解锁文章
扫一扫
3108
暂无认证
到【灌水乐园】发言
ForwardSummer: 原文第14行想写的是： pos_right = test_s1.bisect_right bisect_left和bisect_right分别查找元素出现的左右的第一个位置
你对自己负责吗: 超级详细，非常感谢！！！！！！！
平-2018: SQL连接了java之后怎样的操作数据，并且做一些内容。 [code=java] [/code]
fields_zhang_ms: 很详细，谢谢博主分享。我这个新人小白感触很大，希望日后可以继续向你学习。