Linux 分布式系统基础设施？

一个大型、稳健、成熟的分布式系统的背后，往往会涉及众多的支撑系统，我们将这些支撑系统称为分布式系统的基础设施。除了前面所介绍的分布式协作及配置管理系统ZooKeeper,我们进行系统架构设计所依赖的基础设施，还包括分布式缓存系统、持久化存储、分布式消息系统、搜索引擎，以及CDN系统、负载均衡系统、运维自动化系统等，还有后面章节所要介绍的实时计算系统、离线计算系统、分布式文件系统、日志收集系统、监控系统、数据仓库等。

在网站设计、网站制作过程中，需要针对客户的行业特点、产品特性、目标受众和市场情况进行定位分析，以确定网站的风格、色彩、版式、交互等方面的设计方向。创新互联公司还需要根据客户的需求进行功能模块的开发和设计，包括内容管理、前台展示、用户权限管理、数据统计和安全保护等功能。

分布式缓存主要用于在高并发环境下，减轻数据库的压力，提高系统的响应速度和并发吞吐。当大量的读、写请求涌向数据库时，磁盘的处理速度与内存显然不在一个量级，因此，在数据库之前加一层缓存，能够显著提高系统的响应速度，并降低数据库的压力。作为传统的关系型数据库，MySQL提供完整的ACID操作，支持丰富的数据类型、强大的关联查询、where语句等，能够非常客易地建立查询索引，执行复杂的内连接、外连接、求和、排序、分组等操作，并且支持存储过程、函数等功能，产品成熟度高，功能强大。但是，对于需要应对高并发访问并且存储海量数据的场景来说，出于对性能的考虑，不得不放弃很多传统关系型数据库原本强大的功能，牺牲了系统的易用性，并且使得系统的设计和管理变得更为复杂。这也使得在过去几年中，流行着另一种新的存储解决方案——NoSQL，它与传统的关系型数据库最大的差别在于，它不使用SQL作为查询语言来查找数据，而采用key-value形式进行查找，提供了更高的查询效率及吞吐，并且能够更加方便地进行扩展，存储海量数据，在数千个节点上进行分区，自动进行数据的复制和备份。在分布式系统中，消息作为应用间通信的一种方式，得到了十分广泛的应用。消息可以被保存在队列中，直到被接收者取出，由于消息发送者不需要同步等待消息接收者的响应，消息的异步接收降低了系统集成的耦合度，提升了分布式系统协作的效率，使得系统能够更快地响应用户，提供更高的吞吐。

当系统处于峰值压力时，分布式消息队列还能够作为缓冲，削峰填谷，缓解集群的压力，避免整个系统被压垮。垂直化的搜索引擎在分布式系统中是一个非常重要的角色，它既能够满足用户对于全文检索、模糊匹配的需求，解决数据库like查询效率低下的问题，又能够解决分布式环境下，由于采用分库分表，或者使用NoSQL数据库，导致无法进行多表关联或者进行复杂查询的问题。

nosql数据库的四种类型

nosql数据库的四种类型如下：

1.key-value键值存储数据库:

相关产品: Redis、Riak、SimpleDB、Chordless、Scalaris、Memcached.

主要应用: 内容缓存,处理大量数据的高负载访问,也用于系统日志。

优点:查找速度快,大量操作时性能高。

2.列存储数据库:

相关产品: BigTable、HBase、Cassandra、HadoopDB、GreenPlum、PNUTS.

主要应用: 分布式数据的储存与管理。

优点:查找速度快,可扩展性强,容易进行分布式扩展。

缺点:功能相对局限。

3.文档型数据库

相关产品:MongoDB、CouchDB、ThruDB、CloudKit、Perservere、Jackrabbit.

主要应用: web应用,管理面向文档的数据或者类似的半结构化数据。

优点:数据结构灵活,表结构可变,复杂性低。

缺点:查询效率低,且缺乏统一的查询语言。

4.Graph图形数据库

相关产品: Neo4J、OrientDB、InfoGrid、GraphDB.

主要应用: 复杂,互连接,低结构化的图结构场合, 专注构建关系图谱。

优点: 利用图结构相关算法, 可用于构建复杂的关系图谱。

缺点: 复杂度高。

什么是NoSQL数据库？

答案：A

1.文档型数据库

作为最受欢迎的NoSQL产品，文档型数据库MongoDB当仁不让地占据了第一的位置，同时它也是所有NoSQL数据库中排名最靠前的产品(总排行榜第七名)。Apache基金会的CouchDB排在第二，基于.Net的数据库RavenDB排在第三，Couchbase排在第四。

2.键值(Key-value)数据库

键值(Key-value)数据库是NoSQL领域中应用范围最广的，也是涉及产品最多的一种模型。从最简单的BerkeleyDB到功能丰富的分布式数据库Riak再到Amazon托管的DynamoDB不一而足。

在键值数据库流行度排行中，Redis不出意外地排名第一，它是一款由Vmware支持的内存数据库，总体排名第十一。排在第二位的是Memcached，它在缓存系统中应用十分广泛。排在之后的是Riak、BerkeleyDB、SimpleDB、DynamoDB以及甲骨文的Oracle NoSQL数据库。值得注意的是，Oracle NoSQL数据库上榜不久，得分已经翻番，上升势头非常迅猛。

3.　列式存储

列式存储被视为NoSQL数据库中非常重要的一种模式，其中Cassandra流行度最高，它已经由Facebook转交给到Apache进行管理，同时Cassandra在全体数据库排名中排在第十位，紧随MongoDB成为第二受欢迎的NoSQL数据库。基于Hadoop的Hbase排在第二位，Hypertable排在第三。而Google的BigTable并未列入排名，原因是它并未正式公开。

云计算架构?

云计算架构主要可分为四层，其中有三层是横向的，分别是显示层、中间件层和基础设施层，通过这三层技术能够提供非常丰富的云计算能力和友好的用户界面，还有一层是纵向的，称为管理层，是为了更好地管理和维护横向的三层而存在的。下面介绍每个层次的作用和属于这个层次的主要技术。

显示层

这层主要是用于以友好的方式展现用户所需的内容，并会利用到下面中间件层提供的多种服务，主要有五种技术：

HTML：标准的Web页面技术，现在主要以HTML4为主，但是将要推出的HTML5会在很多方面推动Web页面的发展，比如视频和本地存储等方面。

JavaScript：一种用于Web页面的动态语言，通过JavaScript，能够极大地丰富Web页面的功能，最流行的JS框架有jQuery和Prototype。

CSS：主要用于控制Web页面的外观，而且能使页面的内容与其表现形式之间进行优雅地分离。

Flash：业界最常用的RIA(Rich Internet Applications)技术，能够在现阶段提供HTML等技术所无法提供的基于Web的富应用，而且在用户体验方面，非常不错。

Silverlight：来自业界巨擎微软的RIA技术，虽然其现在市场占有率稍逊于Flash，但由于其可以使用C#来进行编程，所以对开发者非常友好。

在显示层，大多数云计算产品都比较倾向HTML，、JavaScript和CSS这对黄金组合，但是Flash和Silverlight等RIA技 术也有一定的用武之地，比如VMware vCloud就采用了基于Flash的Flex技术，而微软的云计算产品肯定会在今后使用到Silverlight。

中间件层

这层是承上启下的，它在下面的基础设施层所提供资源的基础上提供了多种服务，比如缓存服务和REST服务等，而且这些服务即可用于支撑显示层，也可以直接让用户调用，并主要有五种技术：

REST：通过REST技术，能够非常方便和优雅地将中间件层所支撑的部分服务提供给调用者。

多租户：就是能让一个单独的应用实例可以为多个组织服务，而且保持良好的隔离性和安全性，并且通过这种技术，能有效地降低应用的购置和维护成本。

并行处理：为了处理海量的数据，需要利用庞大的X86集群进行规模巨大的并行处理，Google的MapReduce是这方面的代表之作。

应用服务器：在原有的应用服务器的基础上为云计算做了一定程度的优化，比如用于Google App Engine的Jetty应用服务器。

分布式缓存：通过分布式缓存技术，不仅能有效地降低对后台服务器的压力，而且还能加快相应的反应速度，最著名的分布式缓存例子莫过于Memcached。

对于很多PaaS平台，比如用于部署Ruby应用的Heroku云平台，应用服务器和分布式缓存都是必备的，同时REST技术也常用于对外的接口， 多租户技术则主要用于SaaS应用的后台，比如用于支撑Salesforce的Sales Cloud等应用的Force.com多租户内核，而并行处理技术常被作为单独的服务推出，比如Amazon的Elastic MapReduce。

基础设施层

这层作用是为给上面的中间件层或者用户准备其所需的计算和存储等资源，主要有四种技术：

虚拟化：也可以理解它为基础设施层的“多租户”，因为通过虚拟化技术，能够在一个物理服务器上生成多个虚拟 机，并且能在这些虚拟机之间能实现全面的隔离，这样不仅能减低服务器的购置成本，而且还能同时降低服务器的运维成本，成熟的X86虚拟化技术有 VMware的ESX和开源的Xen。

分布式存储：为了承载海量的数据，同时也要保证这些数据的可管理性，所以需要一整套分布式的存储系统，在这方面，Google的GFS是典范之作。

关系型数据库：基本是在原有的关系型数据库的基础上做了扩展和管理等方面的优化，使其在云中更适应。

NoSQL：为了满足一些关系数据库所无法满足的目标，比如支撑海量的数据等，一些公司特地设计一批不是基于关系模型的数据库，比如Google的BigTable和Facebook的Cassandra等。

现在大多数的IaaS服务都是基于Xen的，比如Amazon的EC2等，但VMware也推出了基于ESX技术的vCloud，同时业界也有几个 基于关系型数据库的云服务，比如Amazon的RDS(Relational Database Service)和Windows Azure SDS(SQL Data Services)等。关于分布式存储和NoSQL，它们已经被广泛用于云平台的后端，比如Google App Engine的Datastore就是基于BigTable和GFS这两个技术之上的，而Amazon则推出基于NoSQL技术的Simple DB。

管理层

这层是为横向的三层服务的，并给这三层提供多种管理和维护等方面的技术，主要有下面这六个方面：

帐号管理：通过良好的帐号管理技术，能够在安全的条件下方便用户地登录，并方便管理员对帐号的管理。

SLA监控：对各个层次运行的虚拟机，服务和应用等进行性能方面的监控，以使它们都能在满足预先设定的SLA(Service Level Agreement)的情况下运行。

计费管理：也就是对每个用户所消耗的资源等进行统计，来准确地向用户索取费用。

安全管理：对数据，应用和帐号等IT资源采取全面地保护，使其免受犯罪分子和恶意程序的侵害。

负载均衡：通过将流量分发给一个应用或者服务的多个实例来应对突发情况。 运维管理：主要是使运维操作尽可能地专业和自动化 ，从而降低云计算中心成本。

负载均衡：通过将流量分发给一个应用或者服务的多个实例来应对突发情况。

运维管理：主要是使运维操作尽可能地专业和自动化，从而降低云计算中心的运维成本。

现在的云计算产品在帐号管理，计费管理和负载均衡这三个方面大都表现地不错，在这方面最突出的例子就是Amazon 的EC2，但可惜的是，大多数产品在SLA监控，安全管理和运维管理等方面还有所欠缺。

举例

接下来，将以Salesforce的Sales Cloud和Google的App Engine这两个著名的云计算产品为例，来帮助大家理解本文所提到的云计算架构：

Salesforce Sales Cloud

也就是之前的Salesforce CRM(客户关系管理)，属于云计算中的SaaS层，主要是通过在云中部署可定制化的CRM应用，来让企业用户在很低初始投入的情况下使用上CRM，并且 可根据自身的流程来进行灵活地定制，而且只需接入网络就能使用。在技术层面上大致的架构：

采用的主要技术：

显示层：基于HTML、JavaScript和CSS这对黄金组合。

中间件层：在此层，Salesforce引入了多租户内核和为支撑此内核运行而经过定制的应用服务器。

基础设施层：虽然在后端还是使用在企业环境中很常见的Oracle数据库，但是其为了支撑上层的多租户内核做了很多的优化。

管理层：在安全管理方面，Salesforce提供了多层保护，并支持SSL加密等技术，除此之外，其还在帐号管理、计费管理和负载均衡这三方面有不错地支持。

Google App Engine

App Engine属于云计算中的PaaS层，其主要提供一个平台，来让用户在Google强大的基础设施上部署和运行应用程序，同时App Engine会根据应用所承受的负载来对应用所需的资源进行调整，并免去用户对应用和服务器等的维护工作，而且支持Java和Python这两种语言。由 于App Engine属于PaaS平台，所以关于显示层的技术选择由应用的自身需要而定，与App Engine无关，关于App Engine在技术层面上大致的架构。

采用的主要技术：

中间件层：既有经过定制化的应用服务器，比如上面已经提到过的Jetty，也提供基于Memcached的分布式缓存服务。

基础设施层： 在分布式存储GFS的基础上提供了NoSQL数据库BigTable来对应用的数据进行持久化。

管理层：由于App Engine是基于Google强大的分布式基础设施，使其在运维管理技术方面非常出色，同时其计费管理能做到非常细粒度的API级计费，而且App Engine在帐号管理和负载均衡这两方面都有非常好地支持。

以上内容分析源自OFweek物联网，希望对大家有帮助。

分布式缓存主要用在高并发环境下的作用？

分布式缓存主要用在高并发环境下，减轻数据库的压力，提高系统的响应速度和并发吞吐。当大量的读、写请求涌向数据库时，磁盘的处理速度与内存显然不在一个量级，因此，在数据库之前加一层缓存，能够显著提高系统的响应速度，并降低数据库的压力。作为传统的关系型数据库，MySQL提供完整的ACID操作，支持丰富的数据类型、强大的关联查询、where语句等，能够非常客易地建立查询索引，执行复杂的内连接、外连接、求和、排序、分组等操作，并且支持存储过程、函数等功能，产品成熟度高，功能强大。但是，对于需要应对高并发访问并且存储海量数据的场景来说，出于对性能的考虑，不得不放弃很多传统关系型数据库原本强大的功能，牺牲了系统的易用性，并且使得系统的设计和管理变得更为复杂。这也使得在过去几年中，流行着另一种新的存储解决方案——NoSQL，它与传统的关系型数据库最大的差别在于，它不使用SQL作为查询语言来查找数据，而采用key-value形式进行查找，提供了更高的查询效率及吞吐，并且能够更加方便地进行扩展，存储海量数据，在数千个节点上进行分区，自动进行数据的复制和备份。在分布式系统中，消息作为应用间通信的一种方式，得到了十分广泛的应用。消息可以被保存在队列中，直到被接收者取出，由于消息发送者不需要同步等待消息接收者的响应，消息的异步接收降低了系统集成的耦合度，提升了分布式系统协作的效率，使得系统能够更快地响应用户，提供更高的吞吐。

当系统处于峰值压力时，分布式消息队列还能够作为缓冲，削峰填谷，缓解集群的压力，避免整个系统被压垮。垂直化的搜索引擎在分布式系统中是一个非常重要的角色，它既能够满足用户对于全文检索、模糊匹配的需求，解决数据库like查询效率低下的问题，又能够解决分布式环境下，由于采用分库分表，或者使用NoSQL数据库，导致无法进行多表关联或者进行复杂查询的问题。

当前文章：分布式缓存和nosql,分布式缓存和本地缓存的区别
本文来源：http://abwzjs.com/article/hdechd.html