设为首页 | 收藏本站欢迎来到卓越网络免费免备案CDN加速,DDoS和CC攻击防御,高防CDN管理平台!

已阅读

图片CDN加速是大型网站架构基础

作者:cdnfine      来源:cdnfine      发布时间:2020-04-26

架构范式

 

我们这里说的架构范式也就是指网站架构中的那些共同的模式,这些模式已经被很多大型网站在海量用户的生产环境中一再验证,我们通过对这些模式的学习,可以掌握大型网站架构的一般思路和解决方案,指导我们的架构设计。

 

为了解决大型网站面临的高并发访问、海量数据处理、高可靠运行等一系列问题与挑战,大型互联网公司在实践中提出了许多解决方案,以实现网站高性能、高可用、易伸缩、可扩展、强安全等各种技术架构目标。

 

这些解决方案又被更多网站重复使用,从而逐渐形成大型网站架构模式。

 

但是我们在实际项目中,还是要记住好的设计不是模仿,不是生搬硬套某个模式,而是我们对问题深刻理解之上的创造与创新,山寨与创新的最大区别不在于是否抄袭,是否模仿,而在于我们对问题和需求是否真正理解与把握。

 

下面我们来看下大型网站架构设计中总结出来的究竟是哪八个架构范式。

 

1.分层架构

 

分层是企业应用系统中最常见的一种架构模式,将系统在横向维度上切分成几个部分,每个部分负责一部分相对比较单一的职责,然后通过上层对下层的依赖和调用组成一个完整的系统。

 

分层架构要求每个模块必须属于某个层次,为上层提供服务;同时委派任务给下层模块,任何一个模块,都不能逆层次调用;属于下层的模块,不得调用(耦合)上层或上层次的模块。任何一个模块,都不得跨层次调用。

 

为什么要分层架构

 

通过分层,可以更好地将一个庞大的软件系统切分成不同的部分,便于分工合作开发和维护;各层之间具有一定的独立性,只要维持调用接口不变,各层可以根据具体问题独立演化发展而不需要其他层必须做出相应调整。

 

分层架构是逻辑上的,在物理部署上,分层结构可以部署在同一个物理机器,但是随着业务的发展,必然需要对图片已经分层的模块分离部署,即多层结构分别部署在集群上,使系统拥有足够的计算资源以应对海量用户访问。

 

所以虽然分层架构模式最初的目的是规划软件清晰的逻辑结构便于开发维护,但在业务的发展过程中,分层结构对系统支持高并发向分布式方向发展也是至关重要。

 

2. 分布式架构

 

对于大型网站,分层架构和业务拆分的一个主要目的是为了切分后的模块便于分布式部署,即将不同模块部署在不同的服务器上,通过远程调用协同工作。

 

分布式意味着可以使用更多的服务器资源完成同样的功能,服务器资源越多,能够处理的并发访问和数据量就越大,进而能够为更多的用户提供服务。

 

但分布式在解决网站CDN加速高并发问题的同时也带来了其他问题:

 

  • 1.网络IO开销带来的性能问题。

  • 2.分布式环境的数据一致性问题,这也算分布式架构经典问题,后期我们也会为此特意用一篇去讲。

  • 3.分布式还导致网站依赖错综复杂,开发管理维护问题。

 

因此分布式设计要根据实际的业务阶段和应用场景具体考虑,切莫为了分布式而分布式。

 

在分布式架构中,常用的分布式方案有以下几种:

 

  • 分布式应用和服务:将分层和分割后的应用和服务模块分布式部署,除了可以改善网站性能和并发性、加快开发和发布速度、减少数据库连接资源消耗外;还可以使不同应用复用共同的服务,便于业务功能扩展。

  • 分布式静态资源:网站的静态资源如JS,CSS,Logo图片等资源独立分布式部署,并采用独立的CDN加速中,即人们常说的动静分离。静态资源分布式部署可以减轻应用服务器的负载压力;通过使用独立域名加快浏览器并发加载的速度;

  • 分布式数据和存储:大型网站需要处理以P为单位的海量数据,单台计算机无法提供如此大的存储空间,这些数据需要分布式存储。除了对传统的关系数据库进行分布式部署外,为网站应用而生的各种NoSQL产品几乎都是分布式的。

  • 分布式计算:严格说来,应用、服务、实时数据处理都是计算,网站除了要处理这些在线业务,还有很大一部分用户没有直观感受的后台业务要处理,包括搜索引擎的索引构建、数据仓库的数据分析统计等。

 

这些业务的计算规模非常庞大,目前网站普遍使用Hadoop及其MapReduce分布式计算框架进行此类批处理计算,其特点是移动计算而不是移动数据,将计算程序分发到数据所在的位置以加速计算和分布式计算。

 

此外,还有可以支持网站线上服务器配置实时更新的分布式配置中心;分布式环境下实现并发和协同的分布式锁;支持云存储的分布式文件系统等等,具体的技术方案细节我们后续的内容都会一一囊括。

 

3. 业务拆分

 

如果说分层是将软件在横向方面进行切分,那么业务拆分就是在纵向方面对系统进行切分。

 

对业务按照功能模块进行服务拆分,可有效提高服务的可扩展性,可维护性,解除服务与服务之间的耦合。

 

系统越复杂,服务和数据处理的种类也越多,将这些不同的功能和服务分割开来,包装成高内聚低耦合的模块单元,一方面有助于软件的开发和维护;

 

另一方面,便于不同模块的分布式部署,达到业务隔离,系统隔离的目的,极大提高网站的并发处理能力和功能扩展能力。

 

4. 集群部署

 

使用分布式虽然已经将分层和分割后的模块独立部署,但是对于用户访问集中的模块(比如网站的首页),还需要将独立部署的服务器集群化,即多台服务器部署相同应用构成一个集群,通过负载均衡设备共同对外提供服务。

 

因为服务器集群有更多服务器提供相同服务,因此可以提供更好的并发特性,当有更多用户访问的时候,只需要向集群中加入新的机器即可。

 

同时因为一个应用由多台服务器提供,当某台服务器发生故障时,负载均衡设备或者系统的失效转移机制会将请求转发到集群中其他服务器上,使服务器故障不影响用户使用。

 

所以在网站应用中,即使是访问量很小的分布式应用和服务,也至少要部署两台服务器构成一个小的集群,提高系统的可用性。

 

5. 缓存部署

 

缓存就是将数据存放在距离计算最近的位置以加快处理速度。缓存是改善软件性能的第一手段,现代CPU越来越快的一个重要因素就是使用了更多的缓存,在复杂的软件设计中,缓存几乎无处不在。大型网站架构设计在很多方面都使用了缓存设计。

 

CDN:即内容分发网络,部署在距离终端用户最近的网络服务商,用户的网络请求总是先到达他的网络服务商那里,在这里缓存网站的一些静态资源(较少变化的数据),可以就近以最快速度返回给用户,如视频网站和门户网站会将用户访问量大的热点内容缓存在图片CDN加速服务器上面。

 

反向代理:反向代理属于网站前端架构的一部分,部署在网站的前端,当用户请求到达网站的数据中心时,最先访问到的就是反向代理服务器,这里缓存网站的静态资源,无需将请求继续转发给应用服务器就能返回给用户。

 

本地缓存:在应用服务器本地缓存着热点数据,应用程序可以在本机内存中直接访问数据,而无需访问数据库。

 

分布式缓存:大型网站的数据量非常庞大,即使只缓存一小部分,需要的内存空间也不是单机能承受的,所以除了本地缓存,还需要多级缓存,以及分布式缓存,将数据缓存在一个专门的分布式缓存集群中,应用程序通过网络通信访问缓存数据。

 

使用缓存有两个前提条件,一是数据访问热点不均衡,某些数据会被更频繁的访问,这些数据应该放在缓存中;二是数据在某个时间段内有效,不会很快过期,否则缓存的数据就会因已经失效而产生脏读,影响结果的正确性。

 

网站应用中,缓存除了可以加快数据访问速度,还可以减轻后端应用和数据存储的负载压力,这一点对网站数据库架构至关重要,网站数据库几乎都是按照有缓存的前提进行负载能力设计的。

 

6. 异步化

 

计算机软件发展的一个重要目标和驱动力是降低软件耦合性。事物之间直接关系越少,就越少被彼此影响,越可以独立发展。

 

在单一服务器内部可通过多线程共享内存队列的方式实现异步,处在业务操作前面的线程将输出写入到队列,后面的线程从队列中读取数据进行处理;在分布式系统中,多个服务器集群通过分布式消息队列实现异步,分布式消息队列可以看作内存队列的分布式部署。

 

异步架构是典型的生产者消费者模式,两者不存在直接调用,只要保持数据结构不变,彼此功能实现可以随意变化而不互相影响,这对网站扩展新功能非常便利。除此之外,使用异步消息队列还有如下特性。

 

提高系统可用性。消费者服务器发生故障,数据会在消息队列服务器中存储堆积,生产者服务器可以继续处理业务请求,系统整体表现无故障。消费者服务器恢复正常后,继续处理消息队列中的数据。

 

加快网站响应速度。处在业务处理前端的生产者服务器在处理完业务请求后,将数据写入消息队列,不需要等待消费者服务器处理就可以返回,响应延迟减少。

 

消除并发访问高峰。用户访问网站是随机的,存在访问高峰和低谷,即使网站按照一般访问高峰进行规划和部署,也依然会出现突发事件,比如购物网站的促销活动,微博上的热点事件,都会造成网站并发访问突然增大,这可能会造成整个网站负载过重,响应延迟,严重时甚至会出现服务宕机的情况。

 

使用消息队列将突然增加的访问请求数据放入消息队列中,等待消费者服务器依次处理,就不会对整个网站负载造成太大压力。

 

7. 资源冗余

 

网站需要7*24小时连续运行,但是服务器随时可能出现故障,特别是服务器规模比较大时,出现某台服务器宕机是必然事件。

 

要想保证在服务器宕机的情况下网站依然可以继续服务,不丢失数据,就需要一定程度的服务器冗余运行,数据冗余备份,这样当某台服务器宕机时,可以将其上的服务和数据访问转移到其他机器上。

 

访问和负载很小的服务也必须部署至少两台服务器构成一个集群,其目的就是通过冗余实现服务高可用。数据库除了定期备份,存档保存,实现冷备份外,为了保证在线业务高可用,还需要对数据库进行主从分离,实时同步实现热备份。

 

为了抵御地震、海啸等不可抗力导致的网站完全瘫痪,大型网站都会对整个数据中心进行备份,多机房,跨机房部署,异地多活等,甚至建立全球范围内部署灾备数据中心。

 

图片CDN加速是大型网站架构基础

 

8. 自动化

 

在无人值守的情况下网站可以正常运行,一切都可以自动化是网站的理想状态。目前大型网站的自动化架构设计主要集中在发布运维,自动化测试,自动化监控,自动化部署等方面。

 

许多网站故障出在发布环节,网站工程师经常加班也是因为发布不顺利。通过减少人为干预,使发布过程自动化可有效减少故障。

 

发布过程包括诸多环节。自动化代码管理,代码版本控制、代码分支创建合并等过程自动化,开发工程师只要提交自己参与开发的产品代号,系统就会自动为其创建开发分支,后期会自动进行代码合并;

 

自动化测试,代码开发完成,提交测试后,系统自动将代码部署到测试环境,启动自动化测试用例进行测试,向相关人员发送测试报告,向系统反馈测试结果。

 

此外,网站在运行过程中可能会遇到各种问题:服务器宕机、程序Bug、存储空间不足、突然爆发的访问高峰。

 

网站需要对线上生产环境进行自动化监控,对服务器进行心跳检测,并监控其各项性能指标和应用程序的关键数据指标。

 

通过拒绝部分请求及关闭部分不重要的服务将系统负载降至一个安全的水平,必要时,还需要自动化分配资源,将空闲资源分配给重要的服务,扩大其部署规模。

 

总结

 

这一篇我们大概了解了大型网站为解决高并发访问、海量数据处理、高可靠运行等一系列问题与挑战,所践行的八大范式。

 

但我们在做系统架构的同时还需要根据自己的业务成长阶段,以及业务场景特点正确选择自己的架构方案,不要寄希望通过模式一劳永逸地解决自己的问题。

 

 

Keywords: 免费CDN加速 免备案CDN加速 高防CDN加速