网站建设费交文化事业,免费开源代码网站,php怎么用来做网站,wordpress前端注册插件在《...#xff08;一#xff09;》中#xff0c;小夕从映射的角度讲解了矩阵及矩阵运算#xff0c;这也是机器学习中看待矩阵的非常重要的视角。另一方面说#xff0c;矩阵当然也是用于存储数据的数据结构#xff0c;这也是最好理解的形式。另外还可以看做是一个线性方程… 在《...一》中小夕从映射的角度讲解了矩阵及矩阵运算这也是机器学习中看待矩阵的非常重要的视角。 另一方面说矩阵当然也是用于存储数据的数据结构这也是最好理解的形式。另外还可以看做是一个线性方程组课本上讲烂了的开头甚至可以将其仅仅看做一般化的张量tensor中的一个普通切片slice或者说其中一层。所以矩阵代表什么含义要在不同的场景中灵活对待不要局限在一种视角哦。继续从映射的视角来看。小夕说不同的矩阵就代表着不同的映射就像上一篇文章讲的就可以表示“将输入的空间的第一个维度的坐标轴缩短为原来的一半将第二个维度的坐标轴拉伸为原来的两倍”。这就是这个矩阵的含义。 例如输入一个二维空间里的多个样本点 比如 此时的矩阵就是存储数据的视角啦。这里的矩阵就是每一行就是空间中的一个样本点所以这个矩阵就代表二维空间里的3个样本点。 所以将A中这个空间的三个样本丢给W这个映射就得到了三个样本在新的空间的镜像点跟高一时学的集合的映射是一个概念 看是不是新得到的三个样本的第一维都被压缩成了原来的一半而第二维被拉伸成了原来的两倍呢~ 而神经网络中每一层的输出经过权重矩阵映射到下一层的输入的过程就是上述这个过程哦没有理解的再看看这篇文章《神经网络激活函数》好啦。从映射的视角接着走。那么既然矩阵是描述映射的那么肯定会有更严谨更直观的形式去描述一个矩阵背后所暗示的映射规则。这个更直观的形式是什么呢 好然后我们将映射更加夸张一下我们来看映射。显然按照小夕之前的讲解这个映射就代表将第一维度压缩为原来的0.99倍几乎没有变化将第二维度拉伸为原来的100倍显然变化十分极其非常的大。这个映射的作用对象很明显 1、第一维度坐标轴。怎么描述这个作用对象呢回顾一下中学数学在二维空间中第一维度坐标轴不就是(x,0)嘛~既然是描述坐标轴我们不妨用一个单位为1的向量表示x轴即(1,0). 2、第二维度坐标轴。同样的道理在二维空间中第二维度坐标轴就是y轴表示为(0,1) 这个映射对每个作用对象的作用程度也很明显不一样 1、对第一维度坐标轴的作用程度就很小对它几乎没有改变改变成了原来的0.99倍所以我们直接用0.99来表示作用程度显然越接近1表示作用程度越小。 2、同样这个映射对第二维度的坐标轴作用程度非常大。所以用100来表示。 好啦~小夕用“作用对象”和“对某作用对象的作用程度”是不是就已经非常清晰的描述清楚了矩阵的映射规则呢~所以理论上说这两者应该完全等价才对~ 学过线代的你有没有灵光一现呢~没错小夕这里讲的“作用对象”就是大学课本讲成一坨的“特征向量”(eigenvector)小夕这里讲的“对某作用对象的作用程度”就是课本里的“特征值”(eigenvalue)因此一个矩阵或者说一个线性映射完全可以用它的全部特征向量及其对应的特征值去描述当然严谨的说是方阵先接着开车下一篇文章再解释细节而将矩阵分解为它的特征值与特征向量的过程被称为“特征分解”Eigendecomposition又称谱分解Spectral decomposition。特征分解是众多矩阵分解中的一种因此当然原矩阵A会被分解成几个目标矩阵啦~这里的目标矩阵当然就是两个一个由特征向量组成的还有一个是由特征值组成的。 你可以试一下将上面的两个特征向量叠在一起一列为一个特征向量 然后每个特征向量对应的特征值依次放到一个对角矩阵的各位置上 然后由公式即可以恢复出原映射W。注:是eVec的逆矩阵对于这个例子一眼就能算出来肯定是对的~对于的证明可以参考各种教材和博客就不展开啦。文章末尾有链接推荐有了对特征值和特征向量的这一层理解我们当然很容易继续联想到 当一个矩阵的特征值中包含0时就表示要将一个“坐标轴”直接毁灭将一个坐标轴映射回原点。这个“坐标轴”就是这个0特征值所对应的特征向量(所描述的方向) 同理负数特征值就表示将它所对应的特征向量所在的坐标轴反转。因此-1就表示将该坐标轴反转但是不拉伸也不压缩。(-1,0)表示反转且压缩(-∞,-1)表示反转且拉伸。 这就是映射的视角下矩阵的特征值与特征向量的含义。这也是升华对一些机器学习算法理解的必经之路。 在数据存储的视角下矩阵的特征值与特征向量的含义更容易理解了毕竟图像就是最直观的数据存储的矩阵嘛~这方面的理解强烈推荐wiki蒙娜丽莎的例子非常形象 https://zh.wikipedia.org/wiki/%E7%89%B9%E5%BE%81%E5%80%BC%E5%92%8C%E7%89%B9%E5%BE%81%E5%90%91%E9%87%8F 当然需要翻墙。都开始做机器学习了翻墙这么简单的事情就不用小夕教了吧。。。想进一步加深对特征值与特征向量的理解的同学尤其是想从数学形式上去理解的同学更要看一下上面的Wiki啦~而如何将矩阵分解出它的特征值与对应的特征向量呢API小王子/小公主可以在matlab中直接调用[eVecs,eVal] eig(A)得到矩阵A的特征向量和特征值。python中的numpy和scipy库中应该也有相应的API。如果有同学对特征值分解算法细节感兴趣小夕推荐从QR算法入手~如果觉得不过瘾可以继续尝试Hessenburg-QR算法还不过瘾就再加上shift操作~不过一般来说做机器学习的话没大有必要对这些算法花太多精力~ QR分解有个好玩的帖子讲的很详细虽然排版不忍直视http://blog.csdn.net/cinmyheart/article/details/44086369另外不知道大家对SVD的细节有没有兴趣呢因为网上讲SVD的帖子很多啦有很多讲的很好的小夕也不知道有没有必要再讲一下了QAQ丢个投票器吧。 再丢个小狐狸
