本文分析利用IBM离职员工数据进行分析。在对离职率的影响因素进行观察的基础至上，建立模型并预测哪些员工更易离职。
一般而言，数据分析分为三个步骤：数据收集与清洗、探索性分析和建模预测。本文的数据集是IBM用于研究员工预测的 模拟数据 ，数据十分完整，无需清洗。因此，本文主要分为三个部分：
通过对IBM离职员工数据实践，本文希望发掘出影响员工流失的因素，并对利用R语言进行数据分析过程进行复习，深化对数据分析工作意义的理解。
IBM离职员工数据集共有35个变量，1470个观测个案。部分需要重点关注的变量如下：
上述变量可以分为三个部分：
载入分析包和数据集
通过描述性统计可以初步观测到：
分析结果：
基于对数据的探索性分析，员工离职有多方面因素的影响，主要有：
1.工作与生活的不平衡——加班、离家远和出差等；
2.工作投入如果不能获得相匹配的回报，员工更倾向离职；
3.优先股认购等福利是员工较为关注的回报形式；
4.年龄、任职过的公司数量的因素也会影响员工离职率；
删除需要的变量：EmployeeCount, EmployeeNumber, Over18, StandardHours
变量重新编码：JobRole, EducationFiled
分析结果表明：
随机森林所得的AUC值为0.5612，小于决策树模型。
GBM模型得到的AUC值为0.5915
对于对于随机森林和GBM的方法，AUC值小于单一决策树模型的AUC值的情况较少见，这显然说明单一的树拟合得更好或者更稳定的情况。（一般需要得到AUC值大于0.75的模型）
当结果分类变量之间的比列是1：10或者更高的时候，通常需要考虑优化模型。本例中，离职变量的比列是1：5左右，但仍然可能是合理的，因为在决策树中看到的主要问题是预测那些实际离开的人（敏感度）。
加权旨在降低少数群体中的错误，这里是离职群体。
向上采样（up-sampling）指从多数类中随机删除实例。
向下采样（down-sampling）指从少数类中复制实例。
分析结果表明：
加权调整的模型表现最好，相比较于单纯的随机森林和GBM模型，AUC值从0.5612上升至0.7803，灵敏度也达到了0.7276。据此，后续将采用加权调整后的模型进行预测。
已经训练出一个表现较好的模型。将其应用于实践时，需要注意以下几个方面：
可以观察到影响员工流失的前5个因素是：
因此，在实践中就需要注意：
本例中对工作投入高、收入低的员工进行预测。
本例分析仍有需要足够完善的地方，还可以往更多更有意义的地方探索：
2016-08-23 05:17 砍柴问樵夫
数据缺失有多种原因，而大部分统计方法都假定处理的是完整矩阵、向量和数据框。
缺失数据的分类：
完全随机缺失 ：若某变量的缺失数据与其他任何观测或未观测变量都不相关，则数据为完全随机缺失（MCAR）。
随机缺失： 若某变量上的缺失数据与其他观测变量相关，与它自己的未观测值不相关，则数据为随机缺失（MAR）。
非随机缺失： 若缺失数据不属于MCAR或MAR，则数据为非随机缺失（NMAR） 。
处理缺失数据的方法有很多，但哪种最适合你，需要在实践中检验。
下面一副图形展示处理缺失数据的方法：
处理数据缺失的一般步骤：
1、识别缺失数据
2、检测导致数据缺失的原因
3、删除包含缺失值的实例或用合理的数值代替（插补）缺失值。
1、识别缺失数据：
R语言中， NA 代表缺失值， NaN 代表不可能值， Inf 和 -Inf 代表正无穷和负无穷。
在这里，推荐使用 is.na ， is.nan ， is.finite ， is.infinite 4个函数去处理。
x<-c(2,NA,0/0,5/0)
#判断缺失值
is.na(x)
#判断不可能值
is.nan(x)
#判断无穷值
is.infinite(x)
#判断正常值
is.finite(x)
推荐一个函数： complete.case() 可用来识别矩阵或数据框中没有缺失值的行！
展示出数据中缺失的行 （数据集sleep来自包VIM）
sleep[!complete.cases(sleep),]
判断数据集中有多少缺失
针对复杂的数据集，怎么更好的探索数据缺失情况呢？
mice包 中的 md.pattern() 函数可以生成一个以矩阵或数据框形式展示缺失值模式的表格。
备注：0表示变量的列中没有缺失，1则表示有缺失值。
第一行给出了没有缺失值的数目（共多少行）。
第一列表示各缺失值的模式。
最后一行给出了每个变量的缺失值数目。
最后一列给出了变量的数目（这些变量存在缺失值）。
在这个数据集中，总共有38个数据缺失。
图形化展示缺失数据：
aggr(sleep,prop=F,numbers=T)
matrixplot(sleep)
浅色表示值小，深色表示值大，默认缺失值为红色。
marginmatrix(sleep)
上述变量太多，我们可以选出部分变量展示：
x <- sleep[, 1:5]
x[,c(1,2,4)] <- log10(x[,c(1,2,4)])
marginmatrix(x)
为了更清晰，可以进行成对展示：
marginplot(sleep[c("Gest","Dream")])
在这里(左下角)可以看到，Dream和Gest分别缺失12和4个数据。
左边的红色箱线图展示的是在Gest值缺失的情况下Dream的分布，而蓝色箱线图展示的Gest值不缺失的情况下Dream的分布。同样的，Gest箱线图在底部。
2、缺失值数据的处理
行删除法： 数据集中含有缺失值的行都会被删除，一般假定缺失数据是完全随机产生的，并且缺失值只是很少一部分，对结果不会造成大的影响。
即：要有足够的样本量，并且删除缺失值后不会有大的偏差！
行删除的函数有 na.omit() 和 complete.case()
newdata<-na.omit(sleep)
sum(is.na(newdata))
newdata<-sleep[complete.cases(sleep),]
sum(is.na(newdata))
均值/中位数等填充： 这种方法简单粗暴，如果填充值对结果影响不怎么大，这种方法倒是可以接受，并且有可能会产生令人满意的结果。
方法1：
newdata<-sleep
mean(newdata$Dream,na.rm = T)
newdata[is.na(newdata$Dream),"Dream"]<-1.972
方法2：
Hmisc包更加简单，可以插补均值、中位数等，你也可以插补指定值。
library(Hmisc)
impute(newdata$Dream,mean)
impute(newdata$Dream,median)
impute(newdata$Dream,2)
mice包插补缺失数据： 链式方程多元插值，首先利用mice函数建模再用complete函数生成完整数据。
下图展示mice包的操作过程：
mice()：从一个含缺失值的数据框开始，返回一个包含多个完整数据集对象（默认可以模拟参数5个完整的数据集）
with()：可依次对每个完整数据集应用统计建模
pool()：将with()生成的单独结果整合到一起
library(mice)
newdata<-sleep
data<-mice(newdata,m = 5,method='pmm',maxit=100,seed=1)
在这里，m是默认值5，指插补数据集的数量
插补方法是pmm：预测均值匹配，可以用methods(mice)查看其他方法
maxit指迭代次数，seed指设定种子数（和set.seed同义）
概述插补后的数据：
summary(data)
在这上面可以看到数据集中变量的观测值缺失情况，每个变量的插补方法， VisitSequence 从左至右展示了插补的变量， 预测变量矩阵 （PredictorMatrix）展示了进行插补过程的含有缺失数据的变量，它们利用了数据集中其他变量的信息。（在矩阵中，行代表插补变量，列代表为插补提供信息的变量，1
和0分别表示使用和未使用。）
查看整体插补的数据：
data$imp
查看具体变量的插补数据：
data$imp$Dream
最后，最重要的是生成一个完整的数据集
completedata<-complete(data)
判断还有没有缺失值，如果没有，结果返回FLASE
anyNA(completedata)
针对以上插补结果，我们可以查看原始数据和插补后的数据的分布情况
library(lattice)
xyplot(data,Dream~NonD+Sleep+Span+Gest,pch=21)
图上，插补值是洋红点呈现出的形状，观测值是蓝色点。
densityplot(data)
图上，洋红线是每个插补数据集的数据密度曲线，蓝色是观测值数据的密度曲线。
stripplot(data, pch = 21)
上图中，0代表原始数据，1-5代表5次插补的数据，洋红色的点代表插补值。
下面我们分析对数据拟合一个线性模型：
完整数据：
library(mice)
newdata<-sleep
data<-mice(newdata,m = 5,method='pmm',maxit=100,seed=1)
model<-with(data,lm(Dream~Span+Gest))
pooled<-pool(model)
summary(pooled)
fim指的是各个变量缺失信息的比例，lambda指的是每个变量对缺失数据的贡献大小
缺失数据（在运行中，自动会行删除）：
lm.fit <- lm(Dream~Span+Gest, data = sleep，na.action=na.omit)
summary(lm.fit)
完整数据集和缺失数据集进行线性回归后，参数估计和P值基本一直。 缺失值是完全随机产生的 。如果缺失比重比较大的话，就不适合使用行删除法，建议使用多重插补法。
kNN插值法： knnImputation函数使用k近邻方法来填充缺失值。对于需要插值的记录，基于欧氏距离计算k个和它最近的观测。接着将这k个近邻的数据利用距离逆加权算出填充值，最后用该值替代缺失值。
library(DMwR)
newdata<-sleep
knnOutput <- knnImputation(newdata)
anyNA(knnOutput)
head(knnOutput)
当我们在数据集中缺少值时，重要的是考虑为什么它们会丢失以及它们对分析的影响。有时忽略丢失的数据会降低功耗，但更重要的是，有时它会使答案有偏差，并有可能误导错误的结论。因此，重要的是要考虑丢失的数据机制是什么，以便对其进行处理。 Rubin（1976）区分了三种类型的误报机制：
