数据集通常是由数据构成的一个矩形数组,行表示观测,列表示变量。
R中有许多用于存储数据的结构,包括标量、向量、数组、数据框和列表。
在R中,对象(object)是指可以赋值给变量的任何事物,包括常量、数据结构、函数、甚至是图形。因子(factor)是名义型变量或有序型变量,在R中被特殊地存储和处理。
R中的数据结构:
1.1向量
向量是用于存储数值型、字符型或逻辑型数据的一维数组。创建向量使用函数c(),如下例所示:
数值型向量:a<-c(1,2,5,3,6,-2,4)
字符型向量:b<-c("one","two","three")
逻辑型向量:c<-c(TRUE,TRUE,TRUE,FALSE,TRUE)
注:单个向量中的数据必须拥有相同的类型或模式。
标量是只含一个元素的向量,例如f<-3、g<-"US"和h<-TRUE。它们用于保存常量。
访问向量中的元素,可在方括号中给定元素所处位置的数值,如:a[c(2,4)]用于访问向量a中的第二个和第四个元素。
1.2矩阵
矩阵是一个二维数组,只是每个元素都拥有相同的模式(数值型、字符型或逻辑型),可以通过matrix创建矩阵
一般使用格式为:
mymatrix<-matrix(vector,nrow=number_of_rows,ncol=number_of_columns,byrow=logical_value,dimnames=list(
char_vector_rownames,char_vector_colnames)) ,其中vector包含了矩阵的元素,nrow和ncol用以指定
行和列的维数,dimnames包含了可选的以字符型向量表示的行名和列名。选项byrow则表明矩阵应当按行
填充(byrow=TRUE)还是按列填充(byrow=FALSE),默认情况下按列填充。代码演示如下:
[plain] view plain copy
>cells<-c(1,23,56,485)
>rnames<-c("R1","R2")
>cnames<-c("c1","c2")
[plain] view plain copy
<pre name="code" class="html">>mymatrix<-matrix(cells ,nrow=2,ncol=2,byrow=TRUE,dimnames=list(rnames,cnames))
>mymatrix
c1 c2
R1 1 23
R2 56 485
1.3数组
数组与矩阵类似,但是维数可以大于2。数组可通过array函数创建,形式如下:
myarray<-array(vector,dimensions,dimnames),其中vector包含了数组中的数据,dimensions是一个数值型向量,给出了各个维度下标的最大值,而dimnames是可选的、各维度名称标签的列表。代码如下:
[html] view plain copy
>dim<-c("A1","A2")
>dim1<-c("A1","A2")
>dim2<-c("B1","B2","B3")
>dim3<-c("C1","C2","C3","C4")
>z<-array(1:24,c(2,3,4),dimnames=list(dim1,dim2,dim3))
>z
, , C1
B1 B2 B3
A1 1 3 5
A2 2 4 6
, , C2
B1 B2 B3
A1 7 9 11
A2 8 10 12
, , C3
B1 B2 B3
A1 13 15 17
A2 14 16 18
, , C4
B1 B2 B3
A1 19 21 23
A2 20 22 24
1.4数据框
数据框中不同的列可以包含不同模式(数值型、字符型等)的数据,是R中最常处理的数据结构。数据框可以通过函数data.frame()创建:mydata<-data.frame(col1,col2,col3,...),其中的列向量col1,col2,col3,...可为任何类型(如字符型、数值型或逻辑型)。每一列的名称可由函数names指定。代码如下:
[html] view plain copy
>age<-c(25,34,28,53)
>patientID<-c(1,2,3,4)
>diabetes<-c("Type1","Type2","Type1","Type1")
>status<-c("Poor","Improved","Excellent","Poor")
>patientdata<-data.frame(patientID,age,diabetes,status)
>patientdata
patientID age diabetesstatus
1 1 25Type1 Poor
2 2 34Type2 Improved
3 3 28Type1 Excellent
4 4 53Type1 Poor
>patientdata$age
[1] 25 34 28 53
<pre name="code" class="html">>table(patientdata$diabetes,patientdata$status)
Excellent Improved Poor
Type1 102
Type2 010
$被用来选取一个给定数据框中的某个特定变量,上面table(patientdata$diabetes,patientdata$status)生成了 diabetes和status的列联表。
函数attach()可将数据框添加到R的搜索路径中。
函数detach()将数据框从搜素路径中移除。
相对于attach。多数的R书籍更推荐使用函数with()。
1.5因子
变量可归结为名义型、有序型或连续型变量。类别(名义型)变量和有序类别(有序型)变量在R中称为因子。因子在R中非常重要,因为它决定了数据的分析方式以及如何进行视觉呈现。
函数factor()以一个整数向量的形式存储类别值,整数的取值范围是[1...k](其中k是名义变量中唯一值得个数),同时一个由字符串(原始值)组成的内部向量将映射到这些整数上。
名义型eg:假设有向量:diabetes<-c("Type1","Type2","Type1","Type1")
语句diabetes<-factor(diabetes)将此向量存储为(1,2,1,1).
有序型eg: 对于给定变量status<-c("Poor","Improved","Excellent","Poor")
语句status<-factor(status,ordered=TRUE)会将向量编码为(3,2,1,3)。
1.6列表(list)
列表是R的数据类型中最为复杂的一种。列表就是一些对象的(或成分,component)的有序集合。列表允许你整合若干(可能无关)的对象到单个对象名下。例如,某个列表中可能是若干向量、矩阵、数据框,甚至是其他列表的组合。可以使用函数list()创建列表:
mylist<-list(object1,object2,...)
注:列表成为了R中的重要数据结构。
1.列表允许以一种简单的方式组织和重新调用不相干的信息;
2.许多R函数的运行结果都是以列表的形式返回的。
R语言和Hadoop让我们体会到了,两种技术在各自领域的强大。很多开发人员在计算机的角度,都会提出下面2个问题。问题1: Hadoop的家族如此之强大,为什么还要结合R语言?问题2: Mahout同样可以做数据挖掘和机器学习,和R语言的区别是什么?下面我尝试着做一个解答:问题1: Hadoop的家族如此之强大,为什么还要结合R语言?
a. Hadoop家族的强大之处,在于对大数据的处理,让原来的不可能(TB,PB数据量计算),成为了可能。
b. R语言的强大之处,在于统计分析,在没有Hadoop之前,我们对于大数据的处理,要取样本,假设检验,做回归,长久以来R语言都是统计学家专属的工具。
c. 从a和b两点,我们可以看出,hadoop重点是全量数据分析,而R语言重点是样本数据分析。 两种技术放在一起,刚好是最长补短!
d. 模拟场景:对1PB的新闻网站访问日志做分析,预测未来流量变化
d1:用R语言,通过分析少量数据,对业务目标建回归建模,并定义指标d2:用Hadoop从海量日志数据中,提取指标数据d3:用R语言模型,对指标数据进行测试和调优d4:用Hadoop分步式算法,重写R语言的模型,部署上线这个场景中,R和Hadoop分别都起着非常重要的作用。以计算机开发人员的思路,所有有事情都用Hadoop去做,没有数据建模和证明,”预测的结果”一定是有问题的。以统计人员的思路,所有的事情都用R去做,以抽样方式,得到的“预测的结果”也一定是有问题的。所以让二者结合,是产界业的必然的导向,也是产界业和学术界的交集,同时也为交叉学科的人才提供了无限广阔的想象空间。问题2: Mahout同样可以做数据挖掘和机器学习,和R语言的区别是什么?
a. Mahout是基于Hadoop的数据挖掘和机器学习的算法框架,Mahout的重点同样是解决大数据的计算的问题。
b. Mahout目前已支持的算法包括,协同过滤,推荐算法,聚类算法,分类算法,LDA, 朴素bayes,随机森林。上面的算法中,大部分都是距离的算法,可以通过矩阵分解后,充分利用MapReduce的并行计算框架,高效地完成计算任务。
c. Mahout的空白点,还有很多的数据挖掘算法,很难实现MapReduce并行化。Mahout的现有模型,都是通用模型,直接用到的项目中,计算结果只会比随机结果好一点点。Mahout二次开发,要求有深厚的JAVA和Hadoop的技术基础,最好兼有 “线性代数”,“概率统计”,“算法导论” 等的基础知识。所以想玩转Mahout真的不是一件容易的事情。
d. R语言同样提供了Mahout支持的约大多数算法(除专有算法),并且还支持大量的Mahout不支持的算法,算法的增长速度比mahout快N倍。并且开发简单,参数配置灵活,对小型数据集运算速度非常快。
虽然,Mahout同样可以做数据挖掘和机器学习,但是和R语言的擅长领域并不重合。集百家之长,在适合的领域选择合适的技术,才能真正地“保质保量”做软件。
如何让Hadoop结合R语言?
从上一节我们看到,Hadoop和R语言是可以互补的,但所介绍的场景都是Hadoop和R语言的分别处理各自的数据。一旦市场有需求,自然会有商家填补这个空白。
1). RHadoop
RHadoop是一款Hadoop和R语言的结合的产品,由RevolutionAnalytics公司开发,并将代码开源到github社区上面。RHadoop包含三个R包 (rmr,rhdfs,rhbase),分别是对应Hadoop系统架构中的,MapReduce, HDFS, HBase 三个部分。
2). RHiveRHive是一款通过R语言直接访问Hive的工具包,是由NexR一个韩国公司研发的。
3). 重写Mahout用R语言重写Mahout的实现也是一种结合的思路,我也做过相关的尝试。
4).Hadoop调用R
上面说的都是R如何调用Hadoop,当然我们也可以反相操作,打通JAVA和R的连接通道,让Hadoop调用R的函数。但是,这部分还没有商家做出成形的产品。
5. R和Hadoop在实际中的案例
R和Hadoop的结合,技术门槛还是有点高的。对于一个人来说,不仅要掌握Linux, Java, Hadoop, R的技术,还要具备 软件开发,算法,概率统计,线性代数,数据可视化,行业背景 的一些基本素质。在公司部署这套环境,同样需要多个部门,多种人才的的配合。Hadoop运维,Hadoop算法研发,R语言建模,R语言MapReduce化,软件开发,测试等等。所以,这样的案例并不太多。