β

2016 年度小结(技术方面)

王子亭的博客 9 阅读

今年年初我花了三个月的业余时间用 Laravel 开发了一个项目,在此之前,除了去年换工作准备面试时,我并没有正经地用过什么 PHP 框架。在我看来,Laravel 其实并没有太多的独创性,而只是把其他社区中那些被实践证明非常有价值的东西带到了 PHP 社区,例如自动测试、包管理、依赖注入等等。

回到 PHP 本身,PHP7 无论在语言特性还是性能上都无可挑剔,我觉得限制它的使用的更多的是在异步模型上 —— 或者说它缺少一个好的异步模型。也许有人觉得 Node.js 的事件队列十分难以捉摸,但由于 Node.js 是我在生产环境使用得最多的语言,我十分熟悉 Node.js 的异步模型,对其他「普通」的语言的异步模型却比较难以接受。今年我在 Openresty 中写了一些 Lua 代码,对 Lua 的协程也有了一些简单的了解,同时我也了解到在 Python 中被使用最多的异步模型同样也是基于协程。

协程最大的好处是不会对代码有侵入性 —— 你写代码的时候依然是照常地写同步代码,只需在执行的时候引入协程(对于 Web 服务就是在每收到一个请求的时候启动一个协程)就可以享受轻量级进程的好处,用更低的 CPU 和内存开销来支持更高的并发。相比之下 Node.js 的异步代码则是显式的,需要时刻考虑异步的问题,也很容易出现疏忽和错误。而且异步的函数是有传染性的,如果你调用了一个异步函数,那么后面的代码都要用异步的方式写,虽然我们有 Promise 等异步抽象,但这其实就是侵入性的体现 —— 你必须选择一个异步抽象,这个异步抽象会混入你所有的代码。

那是不是说 Python 的协程就比 Node.js 的事件队列要好呢?其实我觉得大部分的情况下是这样的,但从理论上来说,Node.js 还是会有更好的性能,因为协程虽然比线程要轻量级,但依然是一种封装 —— 需要在协程之间调度,需要保存和恢复执行上下文,而 Node.js 的异步是没有任何的封装的 —— Node.js 里你没有办法去管理异步任务(domain 模块也早就被 deprecated 了),因为异步任务并不是运行在像协程的这样一个容器里的,因此省掉这一层抽象会带来更好的性能。

Laravel 是一个一站式的开发框架,我之前并没有用过这类的框架,在 Node.js 中也不是很流行这样的框架,好处自然就是组件之间有着很好的兼容性和一致的设计,质量也有保证;劣势则是选择的余地比较少(实际上服务容器的概念就是为了弥补一站式框架不便于更换组件的问题),因为这些组件是框架整体的一部分,所以对一些比较小众的需求缺乏支持,这些组件也较少考虑脱离 Laravel 独立地使用。


今年我还花了很多时间去了解和使用 InfluxDB 这样的时序数据库,在 Web 后端的开发过程中,有很多日志、监控、统计类的数据都是时序数据 —— 这些数据量会很大、每一条都和一个时间关联、查询时通常也按照时间范围进行查询、查询时我们通常会将一段时间的数据进行分组和聚合。InfluxDB 为了支持基于 Tag 的筛选和分组,采用了按列存储的方式 —— 每个 Tag 的值的组合都被称作一个序列,被独立地存储以备检索。

因为这些数据都和时间关联,同时数据库也提供了比较好的对分组和聚合的支持,所以可以很轻松地使用 Chronograf 或 Grafana 之类的可视化工具画出图表,对这些指标进行监控。实际上去年我做了一个和时序数据库非常相关的项目,即 leanengine-sniper ,今年我又花了一些时间把这个算是自部署的系统包装成了一个云服务( LeanEngine APM ),实际上这就是一个针对特定场景的、简易的时序数据库和基于时序数据的可视化工具。


做一个象棋 AI 是我一直以来的一个想法,于是今年接着 AlphaGo 的热度,我用 TypeScript、React 和 Web Worker 等技术在浏览器中实现了一个非常弱的国际象棋 AI —— Wizard Chess 。其实只能说是把关键的组件都实现了出来,但实际上 AI 走的每一步棋都很弱。显然这是一个对性能非常敏感的项目,根据我去年的经验要尽可能避免对数据的修改,但在我调研了 Immutable.js 之后我并没有选用它,因为我觉得可能我不需要它提供的那么复杂的数据结构,而是自己在编码时注意不要修改参数、函数总是返回新的对象即可。

在 Wizard Chess 中我也试用了 TypeScript,它给 JavaScript 实现了编译期的类型检查,这会非常有助于在编译期发现和类型有关的错误,但并不能做到真正的静态类型语言的那种程度,尤其 JavaScript 中存在大量取值为 null 或 undefined 的情况,同时需要为所使用的库找到定义文件也是一大痛点。

到目前大家已经普遍认为 TypeScript 比 CoffeeScript 有着更好的前景,CoffeeScript 这个项目也显得有些疏于维护了,这令我非常痛心。虽然 ES2015 已经补齐了 JavaScript 语言本身的一些短板,但我觉得 CoffeeScript 还是有它独特的价值的,比如用缩进区分代码块、更少的括号,以及通过问号进行空值判断。


为项目撰写 HTTP API 文档一直是一个很纠结的事情,为了他人阅读和理解容易,应该详细地列出所有参数的细节,但这样又会导致文档有大量重复的内容,维护将会十分困难。用来生成 HTTP API 文档的方案有很多,我最后选择了 RAML —— 这是一个基于 YAML 的用来定义 HTTP API 的语言,它提供了非常多的特性(type、resourceType、trait)来对定义进行复用,你可以根据你的代码的架构去组织这些定义(例如如果几个接口都挂载了同样的中间件,便可以使用一个 trait 来定义这个中间件的行为),最后通过一个编译环节生成可以阅读的 API 文档。

后来我还了解了一下 GraphQL,并实现了一个 在 LeanCloud 上使用 GraphQL 的 Demo,GraphQL 解决了 RESTful API 缺乏范式、类型不够严格、对关系数据支持弱、难以发现等问题。但目前对 GraphQL 的应用仍非常有限,我想大概是为了支持 GraphQL 需要服务器端进行很大的改动,同时引入这样一层复杂的抽象,也会带来很大的性能开销,可能 GraphQL 更适合的场景会是 BaaS 和开放 API 吧。


如果说我在番茄土豆学到的是如何开新坑、如何以开放的心态去接受新的技术的话,在 LeanCloud 这一年多则是去长时间地维护一个复杂的系统,在保证兼容性和可用性的前提下,渐进式地对系统进行改进,引入新的技术。之前在番茄土豆的时候,也是因为自己的水平提高得比较快,经常想要进行一次彻底的重构 —— 其实应该称之为重写才对。但往往没有好的结果,因为这种大的重写会花费很多的时间,会导致新版本和原有代码差别越来越大,甚至更换了新的语言或数据库,很难保证和原有代码有着一样的行为。同时因为数据操作的不兼容,在上线时也必须一下子全量上线,结果就是导致最后的上线时间一拖再拖。

今年上半年云引擎也有过一次很大的 改版 ,允许用户对实例进行更多的管理以及大量的内部重构,其中我得到的经验就是要进行渐进式的重构 —— 将大的修改划分为若干个小任务,逐步地将这些小修改上线进行测试,而不是一次性上线一个大的修改。让新旧代码混跑一段时间,保证新旧代码对数据的操作是互相兼容的,虽然在开发上需要实现很多过渡代码,在过渡完成后还需要清理这部分代码,但这种出现问题可以随时回滚的能力会让你对上线新的修改非常有信心,反而能够加速整体的重构进程。

今年在 LeanCloud 我也开了几个新坑,的确新的项目在发布或上线之前的进化速度是非常快的,一旦有好的想法就可以立刻实施而不必顾及兼容问题,甚至也可以跳过很多的测试和 Code Review。有句话是说「不要过早的进行优化」,但我有些怀疑这个观点,在正式发布或上线之前很可能是最好的优化时机,至少要考虑到后续的优化并预留出修改的空间。一旦项目上线,那么每个修改都要有充分的理由、都要去顾及兼容性并进行全面的测试,这时再进行优化会是非常低效的,我也的确遇到一些项目是因为最开始的设计失误导致后期几乎没办法去优化。


随着 Docker 生态的发展,「微服务」是个比较火热的话题,但大都还是一些方法论,没看到太多具体的实践经验。目前我对微服务的理解主要是两方面,一是对项目进行拆分,减少单个开发者需要接触的代码量;另一方面是对服务进行隔离,缩小故障的影响范围,更好地进行水平拓展。今年我也基于这两个出发点进行了一些实践 —— 项目的不同服务使用同一个代码库,互相共享很大一部分代码,包括自动测试也是在一起运行的。但每个服务有着不同的入口点,会被单独地部署和运行。

大概这是一种不够彻底的微服务吧,我知道当然可以将共同的代码发布为单独的包,来实现更加彻底的拆分。但把一个组件独立为一个包其实是一个很严肃的事情,可能需要它有单独的仓库、文档、版本号,当 API 发生变化时还要考虑兼容。对于一个还没有那么复杂的项目来说,这个开销可能会很大程度上影响迭代速度,所以我还是选择使用同一代码库,这样进行修改时会更加灵活,通过自动测试来保证修改不会引入问题。

如果已有服务化的基础设施,这种服务的拆分其实还是很容易的,但如果从头搭建一套微服务的基础设施则还是需要一些工作的。例如为了管理不同服务的配置,标准化部署过程,你需要一个 CI;为了提供不同服务所需要的环境、在运行时进行隔离,你需要有一个容器引擎;为了管理和调度容器、充分利用资源,你还需要一个集群管理器;为了能够平滑地进行部署,你还需要服务发现和负载均衡;为了收集和检索日志,你还需要一套日志收集和分析器;更别提还有的统计、监控和报警需求了。对于这些基础设施我也有自己的一些实践和看法,我还是比较期待新的一年里能在业余时间按照我自己的选择去搭建一个这样的微服务平台,大概也算是给 RootPanel 划上一个句号。


很时候服务不可用都是因为数据库的问题导致的,不同于无状态的负载均衡或应用容器,数据库存储了所有的状态,这意味着你不能简单地重新创建一个数据库实例,而必须要顾及到其中的数据。为了保证数据库的可用性,最简单的办法就是运行多个数据库实例,互相之间同步数据,在故障时切换到另外一个实例。但这样又会引入新的问题,如果发生网络分区怎么办?于是我开始深入地了解 CAP 提出的分布式系统的限制,了解 Paxos 这样的算法如何在分布式的系统中达成共识,也了解了各种数据库提供了怎样的分布式能力和怎样的高可用解决方案,这样在以后为项目选择数据库的时候应该会更加有针对性。

在这个过程中我也读到了「SRE: Google 运维解密」新出版的中文版,书中介绍了作为世界上最大的互联网公司,Google 是如何在规模迅速增长的情况下继续保证服务的可用性的。书中介绍了很多原则和方法,读完这本书让我觉得热血沸腾,相比于写代码实现确定的需求,也许去应对未知的故障会更有趣?但在此之前可能还有很多知识需要学习,首先在一番纠结后,选择了 Ansible 作为配置管理工具,开始尝试将我的服务器上的所有服务都通过定义文件进行描述,这项工作持续了将近三个月的时间,到现在还未全部完成。用一组定义文件去代替对服务器的直接操作,这样的好处是非常明显的 —— 这些文件可以进入版本控制让所有修改有据可查,可以随时应用在新的服务器上,也可以随时在已有的服务器上进行验证和重放,通过 Ansible 这类工具所提供的特性,也可以对这些配置进行高层次的抽象,来管理更复杂的配置和大量的服务器。

我们不光要使用不可变的数据结构来控制可变状态,像服务器这样的基础设施也可以让它们变成「不可变」的。其实 Docker 的容器就是一个很好的例子,所有的容器都是从 Dockerfile 生成出来的,当你需要修改容器中的运行环境的时候,你不是直接在容器内进行修改,而是去修改 Dockerfile —— 因为它是容器的模板。我们也可以总是通过定义文件来描述基础设施,每次修改后都重新验证服务器与定义文件中的描述一致,这样我们便不必关心服务器上的状态了。也不会出现服务器多人维护,配置混乱难以迁移的情况了,它永远看上去和新的一样。


此外今年我还公开或半公开地做了五次技术分享,准备每个分享都花了我起码半个月的时间,其中的四次已经被我整理成了文字版本:

今年年初我花了三个月的业余时间用 Laravel 开发了一个项目,在此之前,除了去年换工作准备面试时,我并没有正经地用过什么 PHP 框架。在我看来,Laravel 其实并没有太多的独创性,而只是把其他社区中那些被实践证明非常有价值的东西带到了 PHP 社区,例如自动测试、

作者:王子亭的博客
原文地址:2016 年度小结(技术方面), 感谢原作者分享。

发表评论