《大型网站技术架构-核心原理与案例分析》(李智慧 著)第3章-大型网站核心架构要素

软件架构的定义：有关软件整体结构与组件的抽象描述，用于指导大型软件系统各个方面的设计。系统的各个重要组成部分及其关系构成了系统的架构，这些组成部分可以是具体的功能模块，也可以是非功能的设计与决策，他们相互关系组成一个整体，共同构成了软件系统的架构。软件架构主要关注的5个要素如下：

• 3.1 性能
  • 影响
    • 性能是网站的一个重要指标，一个打开缓慢的网站会导致严重的用户流失，可以说性能是网站架构设计的一个重要方面，任何软件架构设计方案都必须考虑可能会带来的性能问题
  • 性能优化手段
    • 在浏览器端，可以通过缓存、使用页面压缩、合理布局页面、减少cookie传输等手段改善性能
    • 使用CDN，将网站静态内容分发至离用户最近的网络服务商机房，使用户通过最短访问路径获取数据
    • 可以在网站机房部署反向代理服务器，缓存热点文件，加快请求响应速度，减轻应用服务器负载压力
    • 在应用服务器端，可以使用服务器本地缓存和分布式缓存，通过缓存在内存中的热点数据处理用户请求，加快请求处理过程，减轻数据库负载压力
    • 也可以通过异步操作将用户请求发送至消息队列等待后续任务处理，而当前请求直接返回响应给用户
    • 在网站有很多用户高并发请求的情况下，可以将多台应用服务器组成一个集群共同对外服务，提高整体处理能力，改善性能
    • 在代码层面，也可以通过使用多线程，改善内存管理等手段优化性能
    • 在数据库服务器端，索引、缓存、SQL优化等性能优化手段都已经比较成熟。而方兴未艾的NoSQL数据库通过优化数据模型、存储结构、伸缩特性等手段在性能方面的优势也日趋明显
  • 衡量网站性能的指标
    通过监控这些指标可以分析系统瓶颈，预测网站容量，并对异常指标进行报警，保障系统可用性
    • 响应时间
    • TPS
      一个表达系统处理能力的性能指标，每秒处理的消息数（Transaction Per Second）
    • 系统性能计数器
  • 注意事项
    • 对网站而言，性能符合预期仅仅是必要条件，因为无法预知网站可能会面临的访问压力
    • 所以必须要考察系统在高并发访问情况下，超出负载设计能力的情况下可能会出现的性能问题
    • 网站需要长时间持续运行，还必须保证系统在持续运行且访问压力不均匀的情况下保持稳定的性能特性
• 3.2 可用性
  • 影响
    • 网站宕机、服务不可用，轻则影响网站声誉，重则可能摊上官司。
    • 对于电子商务网站，网站不可用还意味着损失金钱和用户
  • 网站高可用的手段
    高可用设计的目标就是当服务器宕机时，服务或者应用依然可用
    • 主要手段是冗余，应用部署在多态服务器上同时提供访问，数据存储在多台服务器上互相备份，任何一台服务器宕机都不会影响应用的整体可用，也不会导致数据丢失
    • 对应用服务器而言，多台应用服务器通过负载均衡设备组成一个集群共同对外提供服务，任何一台服务器宕机，只需把请求切换到其他服务器就可以实现应用的高可用，前提条件是应用服务器上不能保存请求的会话信息。否则服务器宕机，会话丢失，即使将用户请求转发到其他服务器上也无法完成业务处理。
    • 对于存储服务器，由于其上存储着数据，需要对数据进行实时备份，当服务器宕机时需要价格数据访问转移到可用的服务器上，并进行数据恢复以保证继续有服务器宕机的时候数据依然可用
    • 除了运行环境，网站的高可用还需要软件开发过程的质量保证。通过预发布验证、自动化测试、自动化发布、灰度发布等手段，减少将故障引入线上环境的可能，避免故障范围扩大
      灰度发布（又名金丝雀发布）是指在黑与白之间，能够平滑过渡的一种发布方式。在其上可以进行A/B testing，即让一部分用户继续用产品特性A，一部分用户开始用产品特性B，如果用户对B没有什么反对意见，那么逐步扩大范围，把所有用户都迁移到B上面来。灰度发布可以保证整体系统的稳定，在初始灰度的时候就可以发现、调整问题，以保证其影响度。
  • 衡量架构设计是否满足高可用
    • 衡量一个系统架构设计是否满足高可用的目标，就是假设系统中任何一台或者多台服务器宕机时，以及出现各种不可预期的问题时，系统整体是否依然可用
• 3.3 伸缩性
  • 影响
    • 大型网站需要面对大量用户的高并发访问和存储海量数据，不可能只用一台服务器就处理全部用户请求，存储全部数据。网站通过集群的方式将多台服务器组成一个整体共同提供服务。所谓伸缩性是指通过不断向集群中加入服务器的手段来缓解不断上升的用户并发访问压力和不断增长的数据存储需求
  • 网站伸缩性的手段
    • 对于缓存服务器集群，只要服务器上不保存数据，所有服务器都是对等的，通过使用合适的负载均衡设备就可以向集群中不断加入服务器
  • 衡量架构伸缩性的主要标准
    • 是否可以通过多台服务器构建集群
    • 是否容易向集群中添加新的服务器
    • 加入新的服务器后是否可以提供和原来的服务器无差别的服务
    • 集群中可容纳的总的服务器数量是否有限制
  • 注意事项
    • 对于缓存服务器集群，加入新的服务器可能导致缓存路由失败，进而导致集群中大部分缓存数据都无法访问。虽然缓存的数据可以通过数据库重新加载，但是如果应用已经严重依赖缓存，可能会导致整个网站崩溃。需要改进缓存路由算法保证缓存数据的可访问性
    • 关系数据库虽然支持数据复制，主从热备等机制，但是很难做到大规模集群的可伸缩性，因此关系数据库的集群伸缩性方案必须在数据库之外实现，通过路由分区等手段将部署由多个数据库的服务器组成一个集群
    • 大部分NoSQL数据库产品，由于其先天就是为海量数据而生，因此其对伸缩性的支持都非常好，可以做到再较少运维参与的情况下实现集群规模的线性伸缩
• 3.4 扩展性
  • 影响
    • 其他架构要素主要关注非功能性需求，而网站的扩展性直接关注网站的功能需求。网站快速发展，功能不断扩展，如何设计网站的架构使其能够快速响应需求变化，是网站可扩展架构的主要目的
  • 网站可扩展架构的主要手段
    • 事件驱动架构。利用消息队列实现，将用户请求和其他业务事件构造成消息发布到消息队列，消息的处理者作为消费者从消息队列中获取消息进行处理，通过这种方式将消息产生和消息处理分离开来，可以透明地增加新的消息生产者或者新的消息消费者任务
    • 分布式服务。将业务和可复用的服务分离开来，通过分布式服务框架调用。新增产品可以通过调用可复用的服务实现自身的业务逻辑，而对现有产品没有任何影响。可复用服务升级变更的时候，也可以通过提供多版本服务对应用实现透明升级，不需要强制应用同步变更
    • 吸引第三方开发者，调用网站服务，使用网站数据开发周边产品，扩展网站业务。第三方开发者使用网站服务的主要途径是大型网站提供的开放平台接口
  • 衡量标准
    • 衡量网站架构扩展性好坏的主要标准就是在网站增加新的业务产品时，是否可以实现对现有产品透明无影响，不需要任何改动或者很少改动既有业务功能就可以上线新产品。不同产品之间是否很少耦合，一个产品改动对其他产品无影响，其他产品和功能不需要受牵连进行改动
• 3.5 安全性
  • 影响
    • 网站的安全架构就是保护网站不受恶意访问和攻击，保护网站的重要数据不被窃取
  • 衡量指标
    • 衡量网站安全架构的标准是针对现存和潜在的各种攻击与窃密手段，是否有可靠的应对策略