R语言--不均衡问题处理

Python016

R语言--不均衡问题处理,第1张

样本不均衡问题是指在机器学习分类任务中,不同类型的样本占比差距悬殊。

比如训练数据有100个样本,其中只有5个正样本,其余均为负样本,这样正样本:负样本=5%:95%,训练数据中负样本过多,会导致模型无法充分学习到正样本的信息,这时候模型的正确率往往较高,但特异性却很低,即模型识别正样本的能力很差。这样的模型是无法投入实际项目中的,我们需要解决不均衡问题带来的影响。

解决样本不均衡,采用的方法是重采样。根据采样的方法,分为欠采样、过采样和组合采样。

在R语言中, ROSE 包用于处理样本不均衡问题。

安装包

加载示范数据,查看列联表。可以看到训练数据 hacide.train 出现了样本不均衡,正样本1只有20个,负样本0有980个。

欠采样会缩小训练数据。训练数据虽然正负样本均衡了,但由于原始的正样本很少,导致处理后总样本数减少很多。这个方法适用于训练数据很大,且正样本也较大的情况,可以用欠采样来减少训练数据规模,提高训练速度。

过采样会增大训练数据。该方法适用于训练数据中正样本数量较少的情况。

组合采样会同时增加正样本和减少负样本。参数 N 表示处理后样本总数,一般设置为训练数据样本数。

不均衡样本对模型的训练结果会产生较大偏差,以实际分类问题为例,对比一下处理与不处理均衡样本的结果。

从预测的结果来看,均衡处理与不均衡处理的模型准确率都很高,都超过了98%,貌似模型都很好。但均衡处理后模型的特异性达到了73.68%,未采用均衡处理的模型只有36.84%,显然 均衡处理能提高模型的特异性

处理样本不均衡问题是做分类问题不可或缺的的一步,针对训练数据的情况,可以采用不同的均衡处理方法。均衡处理的目的是尽可能多的且高效的利用训练数据里的信息,不至于后续训练出的模型学习的不够充分,出现较大偏差。均衡处理对于既要求准确率高,又要求特异性高的模型来说尤为重要。

1、使用R语言(RStudio)运行read.csv()读取数据,发现代码运行出错,如图所示。

2、输入View(x)却发现数据的左上角第一个数字出错有乱码,这才导致 NA not permitted in predictors 。

3、可以使用matlab迂回的办法解决,首先在matlab中新建一个空矩阵,将数据复制到(读取到)此矩阵中,如图所示。

4、然后,使用csvwrite('实验数据2.csv',A)将此数据再次输出(注意路径),如图所示。

5、接着再次读入R语言中,如图所示,展开数据,数据报错问题就解决了。

很久很久没更新了,最近遇到了如题所示的问题

然后安静的让他跑着,回去睡觉了。但是。 一个核跑了一夜也没跑完

然后查了一下有parallel包,

加速显而易见,但是也不是成比例的,任务分发以及各核心之间转换也需要时间

fine, 焦虑。做实验去