ica直接成分分析法

独立成分分析(ICA)学习笔记 独立成分分析(ICA)学习笔记,独立成分分析ICA是近年来从盲源分离技术发展而来的一种数据驱动的信号处理方法。本篇经验将从其起源、定义、应用条件、应用等方面对其作详细的... 独立成分分析的图书目录 第1章 引论 1.1 多元数据的线性表示 1.2 盲源分离 1.3 独立成分分析 1.4 ICA的历史第一部分 数学预备知识第2章 随机向量和独立性 2.1 概率分布和概率密度 2.2 期望和矩 2.3 不相关性和独立性 2.4 条件密度和贝叶斯法则 2.5 多元高斯密度 2.6 变换的密度 2.7 高阶统计量 2.8 随机过程* 2.9 小结与文献引述习题计算机练习第3章 梯度和最优化方法 3.1 向量和矩阵梯度 3.2 无约束优化和学习规则 3.3 约束优化的学习规则 3.4 小结与文献引述习题计算机练习第4章 估计理论 4.1 基本概念 4.2 估计器的性质 4.3 矩方法 4.4 最小二乘估计 4.5 极大似然法 4.6 贝叶斯估计* 4.7 小结与文献引述习题计算机练习第5章 信息论 5.1 熵 5.2 互信息 5.3 极大熵 5.4 负熵 5.5 通过累积量逼近熵 5.6 用非多项式函数近似熵 5.7 小结与文献引述习题计算机练习本章附录:有关证明第6章 主成分分析和白化 6.1 主成分 6.2 在线学习的PCA 6.3 因子分析 6.4 白化 6.5 正交化 6.6 小结与文献引述习题第二部分 独立成分分析基本模型第7章 什么是独立成分分析 7.1 动机 7.2 独立成分分析的定义 7.3 ICA的实例 7.4 ICA比白化更加强大 7.5 高斯变量为何不能适用 7.6 小结与文献引述 ... 在做主成分分析（pca）时，选取的主特征是原来数据的哪些特征呢？ 最后再补充一个我觉得很不错的教程https://www. cs.princeton.edu/picass o/mats/PCA-Tutorial-Intuition_jp.pdf 编辑于 2016-11-12 ? 55 ? ? 6 条评论 ? ? ... ICA有哪些应用 ica的应用： ICA 的主要应用是特征提取、盲源信号分离]、生理学数据分析]、语音信号处理、图像处理及人脸识别等.在这部分,我们综述一下ICA 的主要应用范例. 1 在脑磁图(MEG)中分离非自然信号脑磁图是一种非扩散性的方法.通过它,活动或者脑皮层的神经元有很好的时间分辨率和中等的空间分辨率.作为研究和临床的工具使用M EG 信号时,研究人员面临着在有非自然信号的情况下提取神经元基本特征的问题.干扰信号的幅度可能比脑信号的幅度要高,非自然信号在形状上像病态信号.在文献[36]中,作者介绍了一种新的方法(ICA)来分离脑活动和非自然信号.这种方法是基于假设:脑活动和非自然信号(像眼的运动或眨眼或传感器失灵)是解剖学和生理学上的不同过程,这种不同反映在那些过程产生的磁信号间的统计独立性上.在这之前,人们用脑电图(EEG)信号进行过试验[37],相关的方法见文献[43]. 试验结果表明,ICA 能很好地从M EG 信号里分离出眼运动及眨眼时的信号,还能分离出心脏运动、肌肉运动及其它非自然信号.Fast ICA 算法是一个很合适的算法,因为非自然信号的去除是一个交互式的方法,研究者可以很方便地选择他所想要的独立成分的数目.除了减少非自然信号外,ICA 还能分解激活区[38],使... 怎样看独立成分分析ICA结果? K-L 变换，也就是PCA，得到的是MSE下的最优结构，但有时对于分类效果并不是很好。所以我们引入了ICA。如果是PCA是使二阶积累量为0的话，那么ICA就是前四阶积累量都是0.那ICA是什么意思呢？类别信息的源头是一组独立的分量，但是类别信息表现出来的是一组互相相关的分量，当然这组分量的个数应该大于独立分量的个数。我们的任务就是去除这种互相关；使分量由相关的一组，变为无关的一组，也就是独立成分。那具体该怎么做呢？我们一下有这么三个方法: (一)累积量法 k1(z)=E[zi];k2(z)=E[zizj];k3(z)=E[zizizk];k4(z)=E[zizjzkzl]-E[zizj]E[zkzl]-E[zizk]E[zlzj]-E[zizl]E[zkzj];对于一般的随即变量，PDF（概率密度函数）都是对称分布的。所以k1和k3为0. 那么，要使k2为0，我们旧的使用主成分分析就好，也就是PCA。所以第一步就是先做PCA，求的PCA的线性变换矩阵。y=Ax 第二步，我们要做的是进行k4的最小化，根据数学可知，k4的最小化，也就是求一个正交矩阵，使下面的式子最大。(交叉积累量最小也就是自积累量最大。max Obj(B)=SUM(k4(yi)2) 之后结合上述信息，我们有：x=(BA)y.ICA变换矩阵 W=BA。（2）最大熵法你可能会问，我们要降低特征的维数，这是压缩，为什么... 英语翻译 抱歉 我早上给出的翻译有误,下面是修正过的.The first is to use the derivatives of principal component analysis(PCA)[14 怎样看独立成分分析ICA结果? K-L 变换，也就是PCA，得到的是MSE下的最优结构，但有时对于分类效果并不是很好。所以我们引入了ICA。如果是PCA是使二阶积累量为0的话，那么ICA就是前四阶积累量都是0.... 基于MNF\/ICA 多源遥感变化信息检测的方法 鉴于上述方法存在的问题，本研究采用了独立成分分析(Independent Component Analysis，ICA)方法，它是近年 出 现 的 一 种 信 号 处 理 方 法(Hyvarinen et al.，2001)，不仅能够消除数据中的二阶相关性，而且能够消除数据间的高阶相关性。与 PCA 变换相比，ICA 变换能够把一系列混合的、随机的信号转换成相互独立的分量，使得能够区分出遥感影像中地物的细微特征变化，有利于多时相遥感变化信息的提取。ICA 变换已经广泛地应用于遥感图像数据变换与分析中，例如对高光谱、超光谱图像进行数据压缩与波段选择以及图像光谱分类等(Chang et al.，2002;Jenssen et al.，2003)。ICA 变换可以看成是 PCA 变换的一个扩展，能够将数据信息变换到相互独立的方向，各分量之间不仅正交而且相互独立，其实质就是:假设其各成分之间是统计独立的或者尽可能独立，用一些基函数来表示一系列随机变量(张则飞，2006)。其基本思想如下: 图 4－9 差异主成分法结果给定m个可观察变量x1，x2，…，xm，假设它们是n个未知独立成分s1，s2，…，sn的线性组合，该独立成分相互满足统计独立的假设且都具有零均值。用向量X=(x1，x2，…，xm)T表示可观察变量xi，用S=(s1，s2，…，sn)T表示成分变量... 如何理解语音分离中的置换问题（permutaiton problem）？ 最近入门语音分离，看很多论文都提到了置换问题（permutaiton problem），不是特别理解。可以认为是分离… 因子分析法和独立成分分析法的区别？ 因子分析法：其主要目的是探索隐藏在大量观测数据背后的某种结构，寻找一组变量变化的共同因子。独立成分…

#ica#pca