解析豆瓣的网站建设技术架构

豆瓣整个基础架构可以粗略的分为在线和离线两大块。在线的部分和大部分网站类似：前面用LVS做HA，用Nginx做反向代理，形成负载均衡的一层；应用层主要是做运算，将运算结果返回给前面的用户，DAE平台是这两年建起来的，现在大部分豆瓣的应用基本都跑在DAE上面了；应用后面的基础服务也跟其他网站差不多，MySQL、memcached、redis、beanstalkd，不一样的是NoSQL的选择——BeansDB，这是我们在几年前开源的KV数据库，也是国内比较早开源的KV数据库。

豆瓣的技术架构与主要组件

豆瓣作为一个早期就选择以Python为主要编程语言的公司，网站所使用到的技术很多都与Python相关，包括主要框架quixote、自行实现的DPark等等。在其它技术的选择上，并没有太大不同：nginx、MySQL、memcached、BeansDB、redis……都是知名开源项目。在这些开源项目之上，豆瓣根据自己产品的特性，针对性地做了配置与部署设置。

除了使用开源项目，豆瓣也根据自身需要自主研发或实现了一些产品，比较有特色的如DAE、DPark等等。

DAE全名Douban Application Engine，顾名思义它是一个类似于GAE、SAE的内部PaaS系统。使用这样的PaaS有很多好处，比如第三方库数量丰富并且支持多个版本并存、资源配置灵活等等，能够为工程师省去很多不必要的工作。

BeansDB是DAE中非常重要的一个组件，设计思想源于亚马逊的Dynamo，但是简化了Dynamo的一些复杂之处。BeansDB主要应用于小型文本和中型的图片、音频，它们的共同特点在于写次数特别少，这也正是BeansDB所擅长的领域。
DPark类似于Spark，是豆瓣用Python实现Map-Reduce类似框架。虽然Python的性能低于基于JVM的Clojure，但这样做避免了程序员程序员进入不熟悉的领域，而且豆瓣使用开源项目的原则是：如果无法完全掌握，宁可不用。“此外将Spark移植到Python上也很简单，基本上是一对一的翻译。

BeansDB项目可以说是一个简化版的AWS DynamoDB，该项目在2008年启动，2009年开源，第"2015127101646178.png (667×479)" src="/UploadFiles/2021-04-16/2015127101646178.png?2015117101653">

BeansDB中间的Proxy是用Go语言写的，也是一个开源的组件。整体来说BeansDB的设计结构比较简单，相比Redis那种有多种value 类型的方式，BeansDB的Value比较简单一些。

在豆瓣内部建立了两个不同的BeansDB集群，一个是doubandb，一个是doubanfs，分别针对不同的场景。doubandb主要存储小型文本数据，如影评、用户个人介绍、帖子内容等，这样的好处是可以大大降低我们对MySQL的性能依赖，算是给MySQL减负；doubanfs主要存放图片和音频等中型数据。

DAE可以说是基于很多以前积累的、旧的组件做起来的。我们做的这种对内的PaaS，相比对外的PaaS而言做了很多简化，尤其是安全方面如应用间隔离、权限管理方面，我们都不用像公有云那样花大量精力去做，所以工作量其实还好。DAE现在在计划开源，当然它现在只支持Python应用。以后我们也许会让DAE支持Go语言。

上面是在线的部分，对高可用性和低时延有较大要求。离线部分则包括数据挖掘、数据分析等，技术组件分别是海量分布式文件系统MooseFS，这个文件系统的结构类似HDFS，用C语言编写，其好处在于FUSE模块实现的比较好，用文件系统就可以直接进行操作，而不需要专门的命令，可以支持的数据量也很大。另外就是自己开发的分布式计算平台DPark。

DPark顾名思义是Spark的Python实现，不过现在已经跟Spark越来越不一样了。和 Hadoop 相比，Spark可以使用内存做为缓存加速分布式计算，DPark继承了这个优点，这对于大规模数据的迭代计算非常有用。在豆瓣的应用场景下，因为我们的离线计算很多是推荐算法计算，这种计算涉及大量的迭代算法，如果每次计算的结果都入磁盘再在下一轮计算加载，那性能是很差的，所以DPark能够大幅提升性能。另外，因为DPark的编写使用了函数式语言的特点，所以可以写的非常简洁：