返回

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据

发布时间:2023-09-03 06:05:27 329

本文建立偏最小二乘法(PLS)回归(PLSR)模型,以及预测性能评估。为了建立一个可靠的模型,我们还实现了一些常用的离群点检测和变量选择方法,可以去除潜在的离群点和只使用所选变量的子集来 "清洗 "你的数据 。

步骤

  • 建立PLS回归模型
  • PLS的K-折交叉验证
  • PLS的蒙特卡洛交叉验证(MCCV)。
  • PLS的双重交叉验证(DCV)
  • 使用蒙特卡洛抽样方法进行离群点检测
  • 使用CARS方法进行变量选择。
  • 使用移动窗口PLS(MWPLS)进行变量选择。
  • 使用蒙特卡洛无信息变量消除法(MCUVE)进行变量选择
  • 进行变量选择

建立PLS回归模型

这个例子说明了如何使用基准近红外数据建立PLS模型。

plot(X');               % 显示光谱数据。
xlabel('波长指数');
ylabel('强度');

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_交叉验证

参数设定

A=6;                    % 潜在变量(LV)的数量。
method='center'; % 用于建立PLS模型的X的内部预处理方法
PLS(X,y,A,method); % 建立模型的命令

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_02

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_交叉验证_03

pls.m函数返回一个包含成分列表的对象PLS。结果解释。

regcoef_original:连接X和y的回归系数。
X_scores:X的得分。
VIP:预测中的变量重要性,评估变量重要性的一个标准。
变量的重要性。
RMSEF:拟合的均方根误差。
y_fit:y的拟合值。
R2:Y的解释变异的百分比。

PLS的K折交叉验证

说明如何对PLS模型进行K折交叉验证

clear;
A=6; % LV的数量
K=5; % 交叉验证的次数

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_交叉验证_04

plot(CV.RMSECV)               % 绘制每个潜在变量(LVs)数量下的RMSECV值
xlabel('潜在变量(LVs)数量') % 添加x标签
ylabel('RMSECV') % 添加y标签

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_r语言_05

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_交叉验证_06

返回的值CV是带有成分列表的结构数据。结果解释。

RMSECV:交叉验证的均方根误差。越小越好
Q2:与R2含义相同,但由交叉验证计算得出。
optLV:达到最小RMSECV(最高Q2)的LV数量。

蒙特卡洛交叉验证(MCCV)的PLS

说明如何对PLS建模进行MCCV。与K-fold CV一样,MCCV是另一种交叉验证的方法。


% 参数设置
A=6;
method='center';
N=500; % Monte Carlo抽样的数量
% 运行mccv.
plot(MCCV.RMSECV); % 绘制每个潜在变量(LVs)数量下的RMSECV值
xlabel('潜在变量(LVs)数量');

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_07

MCCV

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_r语言_08

MCCV是一个结构性数据。结果解释。

Ypred:预测值
Ytrue:真实值
RMSECV:交叉验证的均方根误差,越小越好。
Q2:与R2含义相同,但由交叉验证计算得出。

PLS的双重交叉验证(DCV)

说明如何对PLS建模进行DCV。与K-fold CV一样,DCV是交叉验证的一种方式。

% 参数设置

N=50; % Monte Carlo抽样的数量
dcv(X,y,A,k,method,N);
DCV

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_09

使用蒙特卡洛抽样方法的离群点检测

说明离群点检测方法的使用情况

A=6;
method='center';
F=mc(X,y,A,method,N,ratio);

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_交叉验证_10

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_11

结果解释。

predError:每个抽样中的样本预测误差
MEAN:每个样本的平均预测误差
STD:每个样本的预测误差的标准偏差

plot(F) % 诊断图

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_r语言_12

注:MEAN值高或SD值高的样本更可能是离群值,应考虑在建模前将其剔除。

使用CARS方法进行变量选择。

A=6;
fold=5;
car(X,y,A,fold);

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_13

结果解释。

optLV:最佳模型的LV数量
vsel:选定的变量(X中的列)。

plotcars(CARS); % 诊断图

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_14

注:在这幅图中,顶部和中间的面板显示了选择变量的数量和RMSECV如何随着迭代而变化。底部面板描述了每个变量的回归系数(每条线对应一个变量)如何随着迭代而变化。星形垂直线表示具有最低RMSECV的最佳模型。

使用移动窗口PLS(MWPLS)进行变量选择

load corn_m51;                      % 示例数据
width=15; % 窗口大小
mw(X,y,width);
plot(WP,RMSEF);
xlabel('窗口位置');

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_15

注:从该图中建议将RMSEF值较低的区域纳入PLS模型中。

使用蒙特卡洛无信息变量消除法(MCUVE)进行变量选择

N=500;
method='center';

UVE

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_r语言_16

plot(abs(UVE.RI))

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_交叉验证_17

结果解释。RI:UVE的可靠性指数,是对变量重要性的测量,越高越好。

进行变量选择

A=6;
N=10000;
method='center';
FROG=rd_pls(X,y,A,method,N);


N: 10000
Q: 2
model: [10000x700 double]
minutes: 0.6683
method: 'center'
Vrank: [1x700 double]
Vtop10: [505 405 506 400 408 233 235 249 248 515]
probability: [1x700 double]
nVar: [1x10000 double]
RMSEP: [1x10000 double]

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_18

xlabel('变量序号');
ylabel('选择概率');

Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_r语言_19

结果解释:

模型结果是一个矩阵,储存了每一个相互关系中的选择变量。
概率:每个变量被包含在最终模型中的概率。越大越好。这是一个衡量变量重要性的有用指标。


Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择|附代码数据_数据_20

本文摘选 《 Matlab中的偏最小二乘法(PLS)回归模型,离群点检测和变量选择 》

特别声明:以上内容(图片及文字)均为互联网收集或者用户上传发布,本站仅提供信息存储服务!如有侵权或有涉及法律问题请联系我们。
举报
评论区(0)
按点赞数排序
用户头像
精选文章
thumb 中国研究员首次曝光美国国安局顶级后门—“方程式组织”
thumb 俄乌线上战争,网络攻击弥漫着数字硝烟
thumb 从网络安全角度了解俄罗斯入侵乌克兰的相关事件时间线