做app网站的软件有哪些wordpress加链接地址
做app网站的软件有哪些,wordpress加链接地址,梅州网站建设求职简历,荔枝fm入口人工智能之数学基础 线性代数
第三章 特征值与特征向量 文章目录人工智能之数学基础 线性代数前言一、定义二、几何与物理意义1. 几何解释#xff08;线性变换视角#xff09;2. 物理意义举例三、数学推导#xff1a;如何求特征值与特征向量#xff1f;步骤总结#xff1…人工智能之数学基础 线性代数第三章 特征值与特征向量文章目录人工智能之数学基础 线性代数前言一、定义二、几何与物理意义1. 几何解释线性变换视角2. 物理意义举例三、数学推导如何求特征值与特征向量步骤总结四、重要性质五、Python 代码实现1. 基础计算numpy.linalg.eig2. 对称矩阵使用 eigh更高效稳定3. 可视化2D 线性变换与特征向量4. 应用示例主成分分析PCA核心六、数值计算注意事项七、总结后续资料关注前言特征值Eigenvalues和特征向量Eigenvectors是线性代数中最具洞察力的概念之一广泛应用于主成分分析PCA、稳定性分析、振动模态、图神经网络、PageRank算法等领域。本文将从定义、计算方法、几何/物理意义出发并提供完整的Python 代码实现。一、定义设 $ A \in \mathbb{R}^{n \times n} $是一个方阵。若存在一个非零向量$ \mathbf{v} \in \mathbb{R}^n $ 和一个标量 $ \lambda \in \mathbb{R} $或 $ \mathbb{C} $使得A v λ v A \mathbf{v} \lambda \mathbf{v}Avλv则称$\lambda $ 为矩阵 $ A $ 的一个特征值eigenvalue$ \mathbf{v} $ 为对应于 $ \lambda $ 的特征向量eigenvector注意特征向量不能是零向量但特征值可以为 0。二、几何与物理意义1. 几何解释线性变换视角矩阵 $A $ 表示一个线性变换如旋转、拉伸、剪切等。特征向量是那些在变换后方向不变或反向的向量特征值表示该方向上的伸缩比例$ |\lambda| 1 $拉伸$ |\lambda| 1 $压缩$\lambda 0 $反向$\lambda 1 $不变例如对角矩阵A [ 3 0 0 2 ] A \begin{bmatrix} 3 0 \\ 0 2 \end{bmatrix}A[3002]的特征向量是坐标轴方向特征值分别是 3 和 2 —— 沿 x 轴拉伸 3 倍y 轴拉伸 2 倍。2. 物理意义举例领域应用力学振动系统的固有频率特征值与振型特征向量量子力学哈密顿算符的本征态与能量图论图的拉普拉斯矩阵的特征值反映连通性谱聚类机器学习PCA 中协方差矩阵的特征向量 主成分方向三、数学推导如何求特征值与特征向量从定义出发A v λ v ⇒ ( A − λ I ) v 0 A \mathbf{v} \lambda \mathbf{v} \Rightarrow (A - \lambda I) \mathbf{v} \mathbf{0}Avλv⇒(A−λI)v0要使非零解 $ \mathbf{v} \ne \mathbf{0} $存在系数矩阵必须奇异不可逆即det ( A − λ I ) 0 \det(A - \lambda I) 0det(A−λI)0这个关于 $ \lambda $的多项式方程称为特征方程Characteristic Equation其根即为所有特征值。步骤总结计算特征多项式$ p(\lambda) \det(A - \lambda I) $解方程 $ p(\lambda) 0 $ 得到特征值 $ \lambda_1, \dots, \lambda_n $对每个 $\lambda_i $解齐次线性方程组 $ (A - \lambda_i I)\mathbf{v} \mathbf{0} $ 得到特征向量注$ n \times n $ 矩阵最多有 $ n $ 个线性无关的特征向量。四、重要性质性质说明迹Trace$ \text{tr}(A) \sum \lambda_i $行列式$ \det(A) \prod \lambda_i $可对角化若 $ A $ 有 $ n $ 个线性无关的特征向量则 $ A PDP^{-1} $其中 $ D $ 为对角矩阵对角元为特征值对称矩阵实对称矩阵的特征值为实数且存在标准正交特征向量基正定矩阵所有特征值 0五、Python 代码实现1. 基础计算numpy.linalg.eigimportnumpyasnp# 定义一个方阵Anp.array([[4,2],[1,3]],dtypefloat)# 计算特征值和特征向量eigenvalues,eigenvectorsnp.linalg.eig(A)print(矩阵 A:\n,A)print(\n特征值 λ:,eigenvalues)print(\n特征向量每列为一个特征向量:\n,eigenvectors)# 验证 Av λvforiinrange(len(eigenvalues)):veigenvectors[:,i]AvA v lambda_veigenvalues[i]*vprint(f\n验证第{i1}个特征对:)print(A v ,Av)print(λ v ,lambda_v)print(误差范数:,np.linalg.norm(Av-lambda_v))输出示例特征值 λ: [5. 2.] 特征向量: [[ 0.89442719 -0.70710678] [ 0.4472136 0.70710678]]2. 对称矩阵使用eigh更高效稳定对于实对称矩阵如协方差矩阵推荐使用np.linalg.eigh它保证返回实数特征值并按升序排列。# 协方差矩阵对称正定Cnp.array([[2,1],[1,2]],dtypefloat)eigvals,eigvecsnp.linalg.eigh(C)# h 表示 Hermitian对称print(特征值升序:,eigvals)print(标准正交特征向量:\n,eigvecs)print(验证正交性 Q^T Q I:\n,np.round(eigvecs.T eigvecs,10))3. 可视化2D 线性变换与特征向量importmatplotlib.pyplotaspltdefplot_eigenvectors(A):vals,vecsnp.linalg.eig(A)# 创建网格点xnp.linspace(-2,2,10)ynp.linspace(-2,2,10)X,Ynp.meshgrid(x,y)pointsnp.vstack([X.ravel(),Y.ravel()])# 应用变换transformedA points plt.figure(figsize(10,4))# 原始空间plt.subplot(1,2,1)plt.quiver(points[0],points[1],np.zeros_like(points[0]),np.zeros_like(points[1]),anglesxy,scale_unitsxy,scale1,colorlightgray)foriinrange(vecs.shape[1]):vvecs[:,i]plt.arrow(0,0,v[0],v[1],head_width0.1,colorred,linewidth2,labelfv{i1})plt.title(原始空间特征向量 in red)plt.axis(equal)plt.grid(True)# 变换后空间plt.subplot(1,2,2)plt.quiver(transformed[0],transformed[1],np.zeros_like(transformed[0]),np.zeros_like(transformed[1]),anglesxy,scale_unitsxy,scale1,colorlightgray)foriinrange(vecs.shape[1]):vvecs[:,i]AvA v plt.arrow(0,0,Av[0],Av[1],head_width0.1,colorblue,linewidth2,labelfA v{i1})plt.title(变换后空间Av in blue)plt.axis(equal)plt.grid(True)plt.tight_layout()plt.show()# 示例矩阵Anp.array([[3,1],[0,2]])plot_eigenvectors(A)红色特征向量在变换后蓝色仍在同一直线上仅长度变化4. 应用示例主成分分析PCA核心PCA 的本质是对数据协方差矩阵求特征向量最大特征值对应的特征向量即第一主成分。# 生成模拟数据np.random.seed(0)Xnp.random.randn(100,2) np.array([[3,1],[1,1]])# 椭圆分布# 中心化X_centeredX-X.mean(axis0)# 计算协方差矩阵Cnp.cov(X_centered,rowvarFalse)# 求特征值/向量eigvals,eigvecsnp.linalg.eigh(C)# 按特征值降序排序idxnp.argsort(eigvals)[::-1]eigvalseigvals[idx]eigvecseigvecs[:,idx]print(协方差矩阵特征值:,eigvals)print(第一主成分方向:,eigvecs[:,0])# 可视化plt.scatter(X_centered[:,0],X_centered[:,1],alpha0.6)origin[0,0]plt.quiver(*origin,*eigvecs[:,0]*np.sqrt(eigvals[0]),colorr,scale3,labelPC1)plt.quiver(*origin,*eigvecs[:,1]*np.sqrt(eigvals[1]),colorg,scale3,labelPC2)plt.legend()plt.title(PCA: 主成分特征向量)plt.axis(equal)plt.grid(True)plt.show()六、数值计算注意事项问题建议非对称矩阵使用eig但特征值可能是复数病态矩阵特征值对扰动敏感可用 SVD 替代大型稀疏矩阵使用scipy.sparse.linalg.eigs只求部分特征对重复特征值可能无法得到完整特征向量基缺陷矩阵fromscipy.sparse.linalgimporteigs# 大型稀疏矩阵示例fromscipy.sparseimportrandom A_sparserandom(1000,1000,density0.01)# 求最大的 5 个特征值/向量vals,vecseigs(A_sparse,k5,whichLM)# LM Largest Magnitudeprint(最大5个特征值:,vals)七、总结概念核心思想特征值/向量线性变换中“不变方向”及其伸缩因子计算解 $ \det(A - \lambda I) 0 $再解齐次方程对称矩阵特征值为实数特征向量正交 → 可用于 PCA、谱聚类应用降维、稳定性分析、振动模态、PageRank、量子力学等记住特征分解揭示了矩阵的“内在结构”。当你看到一个线性系统问自己“它的特征方向是什么”——答案往往指向最本质的行为。后续python过渡项目部分代码已经上传至gitee后续会逐步更新。资料关注公众号咚咚王giteehttps://gitee.com/wy18585051844/ai_learning《Python编程从入门到实践》《利用Python进行数据分析》《算法导论中文第三版》《概率论与数理统计第四版 (盛骤) 》《程序员的数学》《线性代数应该这样学第3版》《微积分和数学分析引论》《西瓜书周志华-机器学习》《TensorFlow机器学习实战指南》《Sklearn与TensorFlow机器学习实用指南》《模式识别第四版》《深度学习 deep learning》伊恩·古德费洛著 花书《Python深度学习第二版(中文版)【纯文本】 (登封大数据 (Francois Choliet)) (Z-Library)》《深入浅出神经网络与深度学习(迈克尔·尼尔森MichaelNielsen》《自然语言处理综论 第2版》《Natural-Language-Processing-with-PyTorch》《计算机视觉-算法与应用(中文版)》《Learning OpenCV 4》《AIGC智能创作时代》杜雨张孜铭《AIGC原理与实践零基础学大语言模型、扩散模型和多模态模型》《从零构建大语言模型中文版》《实战AI大模型》《AI 3.0》