当下热度最高的编程语言Python究竟是怎样诞生的?

Python019

当下热度最高的编程语言Python究竟是怎样诞生的?,第1张

Python诞生与发展

Python作为当下大火的一门编程语言,深受众多程序员的喜爱,而追溯其发展始末还得从上世纪说起。Python是Guido Van Rossum (荷兰人吉多·范罗苏姆)于1989年开发推出。而开发这一编程语言背后还有个不为人知的小故事。1989年圣诞节期间,在阿姆斯特丹的吉多深感无聊与苦闷,作为一名资深的编程爱好者他决定开发一个新的脚本解释程序,作为编程界惯用的ABC语言的一种继承。

之所以选中Python作为该编程语言的名字,是源自于英国20世纪70年代首播的电视喜剧(Monty Python's Flying Circus),其中Guido 喜欢的一个表演团体—— Monty Python(巨蟒剧团)便以Python命名。

Python实际上是ABC语言的一种延伸发展,Guido在ABC语言的基础上纠正创新,在其基础上进行开放式设计,同时对编程过程进行简化,使得Python在原ABC语言的基础上更加简洁,易读。可扩展性相较于之前大幅提升。现今Python已经成为了时下最受欢迎的程序设计语言之一,很多知名大学采用Python来教授设计课程。Python第一个版本推出是在1991年,至今一直在不断更新与完善。

Python因其奉行极简主义,易于读写受众多人青睐。更令人称道的是Python作为一种开源软件不用花一分钱就能够实现编辑,同时Python兼容多平台,学习强度相对于其他编程语言而言是普遍公认的简单,在实际生活的各个领域均得到了广泛的应用。

这里我们用 FAO(Food and Agriculture Organization) 组织提供的数据集,练习一下如何利用python进行探索性数据分析。

我们先导入需要用到的包

接下来,加载数据集

看一下数据量,

看一下数据的信息,

我们先来看一下variable,variable_full这两列的信息,

看一下统计了多少国家,

看一下有多少个时间周期,

看一下时间周期有哪些,

我们看一下某一列某个指标的缺失值的个数,比如variable是total_area时缺失值的个数,

我们通过几个维度来进行数据的分析:

我们按照上面的处理继续,现在我们想统计一下对于一个时间周期来说,不同国家在这个周期内的变化情况,

我们也可以按照国家分类,查看某个国家在不同时期的变化,

我们还可以根据属性,查看不同国家在不同周期内的变化情况,

我们还可以给定国家和指标,查看这个国家在这个指标上的变化情况,

我们还有region(区域)没有查看,我们来看一下:

通过上图可以看出,区域太多,不便于观察,我们可以将一些区域进行合并。减少区域数量有助于模型评估,可以创建一个字典来查找新的,更简单的区域(亚洲,北美洲,南美洲,大洋洲)

我们来看一下数据变化,

紧接着上面的数据处理,我们重新导入一下包,这次有一些新包,

我们看一下水资源的情况,

通过上图可以看出只有一小部分国家报告了可利用的水资源总量,这些国家中只有极少数国家拥有最近一段时间的数据,我们将删除变量,因为这么少的数据点会导致很多问题。

接下来我们看一下全国降雨指数,

全国降雨在2002年以后不再报到,所以我们也删除这个数据,

我们单独拿出一个洲来进行分析,举例南美洲,我们来看一下数据的完整性,

我们也可以指定不同的指标,

接下来,我们使用 pandas_profiling 来对单变量以及多变量之间的关系进行统计一下,

这里我们要计算的是,比如

我们按照 rural_pop 从小到大进行排序,发现的确有几个国家的农村人口是负数,

人口数目是不可能小于0,所以这说明数据有问题,存在脏数据,如果做分析预测时,要注意将这些脏数据处理一下。

接下来我们看一下偏度,我们规定,

正态分布的偏度应为零,负偏度表示左偏,正偏表示右偏。

偏度计算完后,我们计算一下峰度, 峰度也是一个正态分布,峰度不能为负,只能是正数 ,越大说明越陡峭,

接下来我们看一下,如果数据分布非常不均匀该怎么办呢,

上图是2013-2017年国家总人数的分布,通过上图我们发现,人口量少于200000(不考虑单位)的国家非常多,人口大于1200000的国家非常少,如果我们需要建模的话,这种数据我们是不能要的。这个时候我们应该怎么办呢?

通常,遇到这种情况,使用 log变换 将其变为正常。 对数变换 是数据变换的一种常用方式,数据变换的目的在于使数据的呈现方式接近我们所希望的前提假设,从而更好的进行统计推断。

接下来,我们用log转换一下,并看一下它的偏度和峰值,

可以看出偏度下降了很多,减少了倾斜。

可以发现峰度也下降了,接下来我们看一下经过log转换后的数据分布,

虽然数据还有一些偏度,但是明显好了很多,呈现的分布也比较标准。

首先我们先来看一下美国的人口总数随时间的变化,

接下来,我们查看北美洲每个国家人口总数随着时间的变化,

这个时候我们发现,一些国家由于人口数量本身就少,所以整个图像显示的不明显,我们可以改变一下参照指标,那我们通过什么标准化?我们可以选择一个国家的最小、平均、中位数、最大值...或任何其他位置。那我们选择最小值,这样我们就能看到每个国家的起始人口上的增长。

我们也可以用热度图来展示,用颜色的深浅来比较大小关系,

接下来我们分析一下水资源的分布情况,

我们可以进行一下log转换,

我们用热度图画一下,

连续值可以画成散点图,方便观看,

我们来看一下随着季节变化,人均GDP的变化情况,

相关程度:

相关度量两个变量之间的线性关系的强度,我们可以用相关性来识别变量。

现在我们单独拿出来一个指标分析是什么因素与人均GDP的变化有关系,正相关就是积极影响,负相关就是消极影响。

当我们在画图的时候也可以考虑一下利用bined设置一下区间,比如说连续值我们可以分成几个区间进行分析,这里我们以人均GDP的数量来进行分析,我们可以将人均GDP的数据映射到不同的区间,比如人均GDP比较低,比较落后的国家,以及人均GDP比较高,比较发达的国家,这个也是我们经常需要的操作,

做一下log变换,这里是25个bin

我们指定一下分割的标准,

我们还可以看一下人均GDP较低,落后国家的内部数据,下面我们看一下内部数据分布情况,用boxplot进行画图,

对于这部分的分布,我们还可以统计看一下其他指标,如下图所示,我们还可以看一下洪水的统计信息,

伴随着大数据时代的到来,Python的热度居高不下,已成为职场人士必备的技能,它不仅可以从事网络爬虫、人工智能、Web开发、游戏开发等工作,还是数据分析的首选语言。那么问题来了,利用Python数据分析可以做什么呢?简单来讲,可以做的事情有很多,具体如下。

第一、检查数据表

Python中使用shape函数来查看数据表的维度,也就是行数和列数。你可以使用info函数查看数据表的整体信息,使用dtypes函数来返回数据格式。Lsnull是Python中检查空置的函数,你可以对整个数据进行检查,也可以单独对某一列进行空置检查,返回的结果是逻辑值,包括空置返回True,不包含则返回False。使用unique函数查看唯一值,使用Values函数用来查看数据表中的数值。

第二,数据表清洗

Python中处理空值的方法比较灵活,可以使用Dropna函数用来删除数据表中包括空值的数据,也可以使用fillna函数对空值进行填充。Python中dtype是查看数据格式的函数,与之对应的是asstype函数,用来更改数据格式,Rename是更改名称的函数,drop_duplicate函数函数重复值,replace函数实现数据转换。

第三,数据预处理

数据预处理是对清洗完的数据进行整理以便后期统计和分析工作,主要包括数据表的合并、排序、数值分列、数据分组以及标记等工作。在Python中可以使用merge函数对两个数据表进行合并,合并的方式为inner,此外还有left、right和outer方式。使用ort_values函数和sort_index函数完成排序,使用where函数完成数据分组,使用split函数实现分列。

第四,数据提取

主要是使用三个函数:loc、iloc和ix,其中loc函数按标准值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。除了按标签和位置提取数据意外,还可以按照具体的条件进行提取。

第五,数据筛选汇总

Python中使用loc函数配合筛选条件来完成筛选功能,配合sum和count函数还能实现Excel中sumif和countif函数的功能。Python中使用的主要函数是groupby和pivot_table。