1. 特征提取 v.s 特征选择
特征提取和特征选择是dimensionalityreduction(降维)的两种方法,针对于the curse of dimensionality(维灾难),都可以达到降维的目的。但是这两个有所不同。
特征提取(feature extraction):creatting a subset of new features by combinations of the exsiting features.也就是说,特征抽取后的新特征是原来特征的一个映射。
特征选择(feature selection):choosing a subset of all the features(the ones more informative)。也就是说,特征选择后的特征是原来特征的一个子集。
2. pca v.s lda
主成分分析(principle components analysis ,pca)和线性评判分析(linear discriminant analysis,lda)是特征提取的两种主要经典方法。
对于特征提取,有两种类别:
(1)signal representation(信号表示): the goal of the feature extraction mapping is to represent the samples accurately in a low-dimensional space. 也就是说,特征抽取后的特征要能够精确地表示样本信息,使得信息丢失很小。对应的方法是pca.
(2)signal classification(信号分类): the goal of the feature extraction mapping is toenhance the class-discriminatory information in a low-dimensional space. 也就是说,特征抽取后的特征,要使得分类后的准确率很高,不能比原来特征进行分类的准确率低。对与线性来说,对应的方法是lda . 非线性这里暂时不考虑。
可见, pca和lda两种方法的目标不一样,因此导致他们的方法也不一样。pca得到的投影空间是协方差矩阵的特征向量,而lda则是通过求得一个变换w,使得变换之后的新均值之差最大、方差最大(也就是最大化类间距离和最小化类内距离),变换w就是特征的投影方向。
长光辰芯发布8K APS-C画幅背照式堆栈CMOS图像传感器新品,CMOS图像传感器价格竞争加剧
MOSFET驱动器介绍及功耗计算
厚膜功能电路产品详细介绍
Tracealyzer利用CortexM的ITM实现流跟踪
fireflyAIO-3399J主板U-Boot使用介绍
机器学习之特征提取 VS 特征选择
SiC MOSFET电动汽车牵引逆变器设计
华为WatchGT2正式发布 售价229欧元起
2017年的物联网安全还将面临哪些挑战?
关于STM32G0将会在今年爆发吗?
物联网技术如何变得更安全
NTC热敏电阻选用要点及布置分析
Python怎样存储变量性能最优
LIBS煤质实时检测技术在电力行业的推广及应用
不再有那些挥之不去的烦扰, 益莱储ICDIA 2023分享测试设备租赁与资产优化管理方案
电化学传感器防水透气膜的特点是什么,它有哪些应用
学大数据好还是人工智能好?
在能量收集过程中功率变化的应对方案介绍
单相电抗器的作用及原理
“重感知·轻地图”重新定义自动驾驶