图说幂法求特征值和特征向量
图说幂法求特征值和特征向量康建
超级数学建模
今天
幂法是一种计算矩阵主特征值及对应特征向量的迭代方法。
原理很简单：矩阵乘任一向量（非特征向量），可将向量往主特征向量的方向“拉扯”。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7ZKsfOTmRyDZdh7rLo2IJbcPsIdbblxh7zdZ4HicgV76iaWIVkeeV3B6Q/640?wx_fmt=png
如图中坐标原点是两条粗蓝线的交点，红色的向量是’。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7CUdy3h4JAnfDLic2vLyjbqicV7soAr6XUPnNEoYaXRuaVDGReSIVSKJg/640?wx_fmt=png
矩阵A= 作用在空间上,使得空间伸缩旋转,相对于上图,本图中红色的向量也跟着转了,A*x=’ ,不过在新的变换后的坐标系下,仔细看值还是’ 。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7BwrErTSxygA0iaasaJTRhtlibzrpPE7OEcvt9q82ia6X6ppLkjnRnUVnQ/640?wx_fmt=png
再用A乘,即A*A*x=A2x，空间及红色的向量进一步扭转。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7Hs7PNSoYiaoxPd4bTQa6vHxMKvzyOCXFRPjvJOCiaKtNgiaKht8SCMldA/640?wx_fmt=png
再在原坐标系下看，多次变换后，即A的n次方后，红色的向量会趋近于主特征向量方向。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7UZVjhxibQnP1w2xae7BTJk2H3oIGibDrzNN8o5jzkxV15UeYfM0yYz1Q/640?wx_fmt=png
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7BebqqRicia3IjLWlRkribnKLqn534nIG27Mia2IpQvsumibWy2Xlgp3Y4lg/640?wx_fmt=png
A的特征向量是图中的绿线。上图的红色向量经过n次A乘后，就很接近长的绿色的特征向量了。
从代数上来讲，也很容易得出此结论，（因λ1>λ2，λ1的n次方>>λ2的n次方），此处略。
再用图示补充一下空间变换、特征值、特征向量的概念，如图（先不考虑红色的向量）
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc76UM4cibbqdBxqyR7zxjtBGvyOibkfEmDO4PZo2CLjXlnETZicQ4XS9Bsg/640?wx_fmt=png
单位圆上的向量（黑色点表示），
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7bHeFxgMsDQTmibYZ8u1ibt7jpicaAd9QibHscOvyVOuibNKXFPLO0bEMPkw/640?wx_fmt=png
经A变换后，或者说都被A乘后，就变成绿色的向量(点)。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7eZGpMicIrO0dqQXRTsCfxGo2rOXT8KPyHJ5PWVNk8KCnWXXKyLG1picQ/640?wx_fmt=png
图中绿色的线是A的特征向量[-1,2]’, ’。在特征向量的方向上的向量，如粗黑色的向量[-0.3162， -0.9487]’，经A乘后，如下图：
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7l7fNwU4ZacbaVl63FA0sZDT7XQCBlmne9gdmNQxM67lxZs7XFwia5ZQ/640?wx_fmt=png
粗黑色的向量，变成蓝色的向量，方向还在特征向量的方向是，只是长度乘了“特征值”2，（这里A的特征值是2和0.5）。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc72fbqIquIYzJ9tGavAFNGZiaxalpg0eu7aicgia8fjAbQn7PkFguK3ic8WQ/640?wx_fmt=png
注意，A使得圆变成了椭圆，就是对空间的“线性”变换的结果。图是二维的，正好有两个特征方向上的向量只伸缩，即Ax=λx
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc71GN9Hsdp0Tq3Dx7dyHKrT01cOZf3EeFbYxrXc8tSmgFsGXSdukIE7Q/640?wx_fmt=png
颜色一致的方向是特征向量方向。
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7VNUkBDZxvar7cdX8jhibazadCPhm35Y3qeOrlCf7fZH3BejfxyyxMJw/640?wx_fmt=png(2017.12.12绘此图)
看图发现没有？特征向量并没在椭圆的轴上，看下图中轴向上黄色的两个向量，那么椭圆轴上是什么？
问题来了，顺便我把这个矩阵A=有关的向量都画出来，（看着不晕吧！画的有点乱,但都和A有关系）
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc78n1aSNuoibtFAUo5Q2JMiczyOqiamOc79BgRaorczFL6Qn6ED8HQ3ic4Cg/640?wx_fmt=png
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc78qGe3ERIHvQ8ia8WRsKGw9ctNsJzcsGmoF3hdAWG3NLYvvibrcick0LpA/640?wx_fmt=png
因为是“图说”，只简单说明一下图,图上方网格是原来的空间，斜网格是A变换后的空间（为什么叫线性变换、线性代数，网络线还是直的，没弯曲）。
按图中标号，黑色1、2是A的列向量，组成新空间的基向量，也可以看作是由原来的两个单位基向量’、’变换得到。红色的3是前面讲的任一向量，经A乘后变为红色的向量4；如前所述，绿色的5、6是A的特征向量，蓝色的7是前面讲的特征向量方向上一向量（黑色被覆盖）伸长λ后的向量。黄色的8及9正在椭圆轴上，它们是矩阵A的左奇异向量u。也画出紫色的10及11，是A的右奇异向量v，矩阵的奇异值分解，和特征值特征向量一样都是很重要，应用很广泛的内容。
图中用到下列数据： A=特征向量C=[-1 ，1; 2 ，3],或C=[-0.4472， -0.3162; 0.8944， -0.9487]特征值D=奇异值s =[ 2.5184 ， 0; 0， 0.3971]奇异向量u =[-0.4298， -0.9029;-0.9029 ， 0.4298]v =[-0.8331 ， -0.5531;-0.5531 ， 0.8331]
下面再换点颜色绘图：
https://mmbiz.qpic.cn/mmbiz_png/pojyAtdhQhNm17PpDAmDW8sLyEtQiaBc7KTFarmkNia1ibbqib9VlOSe0nNCcunUzJd57SMe4bQLbMpFIYDFv4Pybw/640?wx_fmt=png
来源：康建科学网博客http://blog.sciencenet.cn/blog-797552-1033056.html
页:
[1]