时间序列（time series）是随机变量Y 1 、Y 2 、……Y t 的一个序列，它是由等距的时间点序列索引的。
一个时间序列的均值函数就是该时间序列在某个时间索引t上的期望值。一般情况下，某个时间序列在某个时间索引t 1 的均值并不等于该时间序列在另一个不同的时间索引t 2 的均值。
自协方差函数及自相关函数是衡量构成时间序列的随机变量在不同时间点上相互线性依赖性的两个重要函数。自相关函数通常缩略为ACF函数。ACF函数是对称的，但是无单位，其绝对值被数值1约束，即当两个时间序列索引之间的自相关度是1或-1,就代表两者之间存在完全线性依赖或相关，而当相关度是0时，就代表完全线性无关。
平稳性：实质描述的是一个时间序列的概率表现不会随着时间的流逝而改变。常用的平稳性的性质有严格平稳和弱平稳两个版本。tseries包的adf.test()函数可以检验时间序列的平稳性，返回的p值小于0.05则表示是平稳的。
白噪声是一个平稳过程，因为它的均值和方差都是常数。
随机漫步的均值是常数（不带漂移的随机漫步），但它的方差是随着时间的变化而不同的，因此它是不平稳的。
自回归模型（Autoregressive models， AR）来源于要让一个简单模型根据过去有限窗口时间里的最近值来解释某个时间序列当前值的想法。
自回归条件异方差模型：ARIMA模型的关键前提条件是，虽然序列本身是非平稳的，但是我们可以运用某个变换来获得一个平稳的序列。像这样为非平稳时间序列构建模型的方法之一是作出一个假设，假设该模型非平稳的原因是该模型的方差会以一种可预见的方式随时间变化，这样就可以把方差随时间的变化建模为一个自回归过程，这种模型被称为自回归条件异方差模型（ARCH）。加入了移动平均方差成分的ARCH模型称为广义自回归条件异方差模型（GARCH）。
任务：预测强烈地震
数据集：2000-2008年期间在希腊发生的强度大于里氏4.0级地震的时间序列。
不存在缺失值。
将经度和纬度之外的变量转换为数值型。
从图上可以看出，数据在30次左右波动，并且不存在总体向上的趋势。
通过尝试多个不同的组合来找到最优的阶数参数p,d,q，确定最优的准则是使用参数建模，能使模型的AIC值最小。
定义一个函数，它会针对某个阶数参数拟合出一个ARIMA模型，并返回模型的AIC值。如果某组参数导致模型无法收敛，就会产生错误，并且无法返回AIC，这时需要人为设置其AIC为无限大（InF）。
调用函数，选取最合适的模型。
然后找出最优的阶数参数：
得到最合适的模型为ARIMA（1, 1, 1）。再次使用最优参数训练模型。
使用forecast包预测未来值。
带颜色的条带是预测的置信区间，蓝色线表示均值，结果表示在后续的10个月里，地震的数量会有小幅增加。
检查自相关函数：
ACF绘图：虚线显示了一个95%的置信区间，特定延迟对应的ACF函数值如果处于该区间内，就不会被认为具有统计显著性（大于0）。这个ACF轮廓表明，针对本数据集，简单的AR（1）过程可能是一种合适的拟合方式。
PACF为偏自相关函数，是将时间延迟K的PACF定义为在消除了小于K的延迟中存在的任何相关性影响的情况下所产生的相关性。
预测任务：利用建筑物的各种特性，例如表面积和屋顶面积，预测建筑物的能源效率，其中效率以供暖负荷和制冷负荷来表示。
数据集不存在缺失值。
orientation和glazareadist分别表示建筑朝向和玻璃面积分布情况，应该为因子型变量。
为了让神经网络能够处理这些因子变量，需要先将它们转换为虚拟变量。
在训练神经网络时，为防止饱和现象（因为当优化过程的误差函数的梯度绝对值变得非常小时，非线性神经元激活函数有非常大或非常小的输入，会导致优化过程认为已经达到收敛而终止），需要先对数据进行比例缩放，这样做同时有助于收敛。
将数据维度比例缩放到单位区间[-1, 1]。
输出变量只选一个，heatload。（暂不清楚caret包能否同时训练两个因变量的模型，以及如何设置参数）
输出变量有两个，heatload 和 coolload。10个隐藏层，激活函数选择logistic，误差函数选择sse，它对应的是误差平方和。linear.output = TRUE表示输出层的神经元不应用logistic激活函数，因为这是一个回归任务，需要得到线性的输出，否则输出就会被约束到[0, 1]之间。
预测值与实际值之间的相关性相当高。
预测值与实际值之间的相关性非常高，说明模型的性能接近完美。
本文分析利用IBM离职员工数据进行分析。在对离职率的影响因素进行观察的基础至上，建立模型并预测哪些员工更易离职。
一般而言，数据分析分为三个步骤：数据收集与清洗、探索性分析和建模预测。本文的数据集是IBM用于研究员工预测的 模拟数据 ，数据十分完整，无需清洗。因此，本文主要分为三个部分：
通过对IBM离职员工数据实践，本文希望发掘出影响员工流失的因素，并对利用R语言进行数据分析过程进行复习，深化对数据分析工作意义的理解。
IBM离职员工数据集共有35个变量，1470个观测个案。部分需要重点关注的变量如下：
上述变量可以分为三个部分：
载入分析包和数据集
通过描述性统计可以初步观测到：
分析结果：
基于对数据的探索性分析，员工离职有多方面因素的影响，主要有：
1.工作与生活的不平衡——加班、离家远和出差等；
2.工作投入如果不能获得相匹配的回报，员工更倾向离职；
3.优先股认购等福利是员工较为关注的回报形式；
4.年龄、任职过的公司数量的因素也会影响员工离职率；
删除需要的变量：EmployeeCount, EmployeeNumber, Over18, StandardHours
变量重新编码：JobRole, EducationFiled
分析结果表明：
随机森林所得的AUC值为0.5612，小于决策树模型。
GBM模型得到的AUC值为0.5915
对于对于随机森林和GBM的方法，AUC值小于单一决策树模型的AUC值的情况较少见，这显然说明单一的树拟合得更好或者更稳定的情况。（一般需要得到AUC值大于0.75的模型）
当结果分类变量之间的比列是1：10或者更高的时候，通常需要考虑优化模型。本例中，离职变量的比列是1：5左右，但仍然可能是合理的，因为在决策树中看到的主要问题是预测那些实际离开的人（敏感度）。
加权旨在降低少数群体中的错误，这里是离职群体。
向上采样（up-sampling）指从多数类中随机删除实例。
向下采样（down-sampling）指从少数类中复制实例。
分析结果表明：
加权调整的模型表现最好，相比较于单纯的随机森林和GBM模型，AUC值从0.5612上升至0.7803，灵敏度也达到了0.7276。据此，后续将采用加权调整后的模型进行预测。
已经训练出一个表现较好的模型。将其应用于实践时，需要注意以下几个方面：
可以观察到影响员工流失的前5个因素是：
因此，在实践中就需要注意：
本例中对工作投入高、收入低的员工进行预测。
本例分析仍有需要足够完善的地方，还可以往更多更有意义的地方探索：
