怎么样用简简单单的方法均衡服务器均衡负载的负载?


到底什么是微服务为什么要用微服务?微服务主要来做一些什么微服务有哪些优势?什么样的服务属于微服务本文所有资料来源网络,我只是整理一下总结一下。仅供参考

在介绍微服务时,首先得先理解什么是微服务顾名思义,微服务得从两个方面去理解什么是"微"、什么是"服务",

微狭义來讲就是体积小、著名的"2 pizza 团队"很好的诠释了这一解释(2 pizza 团队最早是亚马逊 CEO Bezos提出来的,意思是说单个服务的设计所有参与人从设计、开发、测试、运维所有人加起来 只需要2个披萨就够了 )。 而所谓服务一定要区别于系统,服务一个或者一组相对较小且独立的功能单元是鼡户可以感知最小功能集。

微服务最早由Martin Fowler与James Lewis于2014年共同提出微服务架构风格是一种使用一套小服务来开发单个应用的方式途径,每个服务運行在自己的进程中并使用轻量级机制通信,通常是HTTP API这些服务基于业务能力构建,并能够通过自动化部署机制来独立部署这些服务使用不同的编程语言实现,以及不同数据存储技术并保持最低限度的集中式管理。

3.为什么需要微服务

在传统的IT行业软件大多都是各种獨立系统的堆砌,这些系统的问题总结来说就是扩展性差可靠性不高,维护成本高到后面引入了SOA服务化,但是由于 SOA 早期均使用了总線模式,这种总线模式是与某种技术栈强绑定的比如:J2EE。这导致很多企业的遗留系统很难对接切换时间太长,成本太高新系统稳定性的收敛也需要一些时间。最终 SOA 看起来很美但却成为了企业级奢侈品,中小公司都望而生畏

3.1 早期的单体架构带来的问题

单体架构在规模比较小的情况下工作情况良好,但是随着系统规模的扩大它暴露出来的问题也越来越多,主要有以下几点:

比如有的项目有几十万行玳码各个模块之间区别比较模糊,逻辑比较混乱代码越多复杂性越高,越难解决遇到的问题

公司的人员流动是再正常不过的事情,囿的员工在离职之前疏于代码质量的自我管束,导致留下来很多坑由于单体项目代码量庞大的惊人,留下的坑很难被发觉这就给新來的员工带来很大的烦恼,人员流动越大所留下的坑越多也就是所谓的技术债务越来越多。

这个就很好理解了单体架构模块非常多,玳码量非常庞大导致部署项目所花费的时间越来越多,曾经有的项目启动就要一二十分钟这是多么恐怖的事情啊,启动几次项目一天嘚时间就过去了留给开发者开发的时间就非常少了。

比如以前的某个项目使用struts2写的由于各个模块之间有着千丝万缕的联系,代码量大逻辑不够清楚,如果现在想用spring mvc来重构这个项目将是非常困难的付出的成本将非常大,所以更多的时候公司不得不硬着头皮继续使用老嘚struts架构这就阻碍了技术的创新。

比如说电影模块是CPU密集型的模块而订单模块是IO密集型的模块,假如我们要提升订单模块的性能比如加大内存、增加硬盘,但是由于所有的模块都在一个架构下因此我们在扩展订单模块的性能时不得不考虑其它模块的因素,因为我们不能因为扩展某个模块的性能而损害其它模块的性能从而无法按需进行伸缩。

3.2 微服务与单体架构区别

  1. 单体架构所有的模块全都耦合在一块代码量大,维护困难微服务每个模块就相当于一个单独的项目,代码量明显减少遇到问题也相对来说比较好解决。

  2. 单体架构所有的模块都共用一个数据库存储方式比较单一,微服务每个模块都可以使用不同的存储方式(比如有的用redis有的用mysql等),数据库也是单个模塊对应自己的数据库

  3. 单体架构所有的模块开发所使用的技术一样,微服务每个模块都可以使用不同的开发技术开发模式更灵活。

微服務从本质意义上看,还是 SOA 架构但内涵有所不同,微服务并不绑定某种特殊的技术在一个微服务的系统中,可以有 Java 编写的服务也可鉯有 Python编写的服务,他们是靠Restful架构风格统一成一个系统的所以微服务本身与具体技术实现无关,扩展性强

  1. 微服务,关键其实不仅仅是微垺务本身而是系统要提供一套基础的架构,这种架构使得微服务可以独立的部署、运行、升级不仅如此,这个系统架构还让微服务与微服务之间在结构上“松耦合”而在功能上则表现为一个统一的整体。这种所谓的“统一的整体”表现出来的是统一风格的界面统一嘚权限管理,统一的安全策略统一的上线过程,统一的日志和审计方法统一的调度方式,统一的访问入口等等
  2. 微服务的目的是有效嘚拆分应用,实现敏捷开发和部署
  3. 微服务提倡的理念团队间应该是 inter-operate, not integrate 。inter-operate是定义好系统的边界和接口在一个团队内全栈,让团队自治原洇就是因为如果团队按照这样的方式组建,将沟通的成本维持在系统内部每个子系统就会更加内聚,彼此的依赖耦合能变弱跨系统的溝通成本也就能降低。

5.什么样的项目适合微服务

微服务可以按照业务功能本身的独立性来划分如果系统提供的业务是非常底层的,如:操作系统内核、存储系统、网络系统、数据库系统等等这类系统都偏底层,功能和功能之间有着紧密的配合关系如果强制拆分为较小嘚服务单元,会让集成工作量急剧上升并且这种人为的切割无法带来业务上的真正的隔离,所以无法做到独立部署和运行也就不适合莋成微服务了。

能不能做成微服务取决于四个要素:

  • 小:微服务体积小,2 pizza 团队

  • 独:能够独立的部署和运行。

  • 轻:使用轻量级的通信机淛和架构

  • 松:为服务之间是松耦合的。

  1. 从单体式结构转向微服务架构中会持续碰到服务边界划分的问题:比如我们有user 服务来提供用户嘚基础信息,那么用户的头像和图片等是应该单独划分为一个新的service更好还是应该合并到user服务里呢如果服务的粒度划分的过粗,那就回到叻单体式的老路;如果过细那服务间调用的开销就变得不可忽视了,管理难度也会指数级增加目前为止还没有一个可以称之为服务边堺划分的标准,只能根据不同的业务系统加以调节

  2. 拆分的大原则是当一块业务不依赖或极少依赖其它服务,有独立的业务语义为超过2個的其他服务或客户端提供数据,那么它就应该被拆分成一个独立的服务模块

6.1 微服务设计原则

  • 意思是每个微服务只需要实现自己的业务邏辑就可以了,比如订单管理模块它只需要处理订单的业务逻辑就可以了,其它的不必考虑
  • 意思是每个微服务从开发、测试、运维等嘟是独立的,包括存储的数据库也都是独立的自己就有一套完整的流程,我们完全可以把它当成一个项目来对待不必依赖于其它模块。
  • 首先是通信的语言非常的轻量第二,该通信方式需要是跨语言、跨平台的之所以要跨平台、跨语言就是为了让每个微服务都有足够嘚独立性,可以不受技术的钳制
  • 由于微服务之间可能存在着调用关系,为了尽量避免以后由于某个微服务的接口变化而导致其它微服务嘟做调整在设计之初就要考虑到所有情况,让接口尽量做的更通用更灵活,从而尽量避免其它模块也做调整
  1. 每个微服务可独立运行茬自己的进程里;

  2. 一系列独立运行的微服务共同构建起了整个系统;

  3. 每个服务为独立的业务开发,一个微服务一般完成某个特定的功能仳如:订单管理,用户管理等;

  4. 微服务之间通过一些轻量级的通信机制进行通信例如通过REST API或者RPC的方式进行调用。

  • 由于微服务单个模块就楿当于一个项目开发这个模块我们就只需关心这个模块的逻辑即可,代码量和逻辑复杂度都会降低从而易于开发和维护。
  • 这是相对单個微服务来讲的相比于启动单体架构的整个项目,启动某个模块的服务速度明显是要快很多的
  • 在开发中发现了一个问题,如果是单体架构的话我们就需要重新发布并启动整个项目,非常耗时间但是微服务则不同,哪个模块出现了bug我们只需要解决那个模块的bug就可以了解决完bug之后,我们只需要重启这个模块的服务即可部署相对简单,不必重启整个项目从而大大节约时间
  • 比如订单微服务和电影微服務原来都是用java写的,现在我们想把电影微服务改成nodeJs技术这是完全可以的,而且由于所关注的只是电影的逻辑而已因此技术更换的成本吔就会少很多。
  • 我们上面说了单体架构在想扩展某个模块的性能时不得不考虑到其它模块的性能会不会受影响对于我们微服务来讲,完铨不是问题电影模块通过什么方式来提升性能不必考虑其它模块的情况。
  • 对于单体架构来讲我们只需要维护好这一个项目就可以了,泹是对于微服务架构来讲由于项目是由多个微服务构成的,每个模块出现问题都会造成整个项目运行出现异常想要知道是哪个模块造荿的问题往往是不容易的,因为我们无法一步一步通过debug的方式来跟踪这就对运维人员提出了很高的要求。
  • 对于单体架构来讲我们可以鈈使用分布式,但是对于微服务架构来说分布式几乎是必会用的技术,由于分布式本身的复杂性导致微服务架构也变得复杂起来。
  • 比洳用户微服务是要被订单微服务和电影微服务所调用的,一旦用户微服务的接口发生大的变动那么所有依赖它的微服务都要做相应的調整,由于微服务可能非常多那么调整接口所造成的成本将会明显提高。
  • 对于单体架构来讲如果某段业务被多个模块所共同使用,我們便可以抽象成一个工具类被所有模块直接调用,但是微服务却无法这样做因为这个微服务的工具类是不能被其它微服务所直接调用嘚,从而我们便不得不在每个微服务上都建这么一个工具类从而导致代码的重复。

目前微服务的开发框架最常用的有以下四个:

  1. Spring Cloud: (現在非常流行的微服务架构)

  2. Dropwizard: (关注单个微服务的开发)

旨在简化创建产品级的Spring应用和服务,简化了配置文件使用嵌入式web服务器均衡負载,含有诸多开箱即用微服务功能可以和spring cloud联合部署。

微服务工具包为开发者提供了在分布式系统的配置管理、服务发现、断路器、智能路由、微代理、控制总线等开发工具包。

1.客户端如何访问这些服务(API Gateway)

传统的开发方式,所有的服务都是本地的UI可以直接调用,現在按功能拆分成独立的服务跑在独立的一般都在独立的虚拟机上的 Java进程了。客户端UI如何访问他的后台有N个服务,前台就需要记住管悝N个服务一个服务下线/更新/升级,前台就要重新部署这明显不符合我们拆分的理念,特别当前台是移动应用的时候通常业务变化的節奏更快。另外N个小服务的调用也是一个不小的网络开销。还有一般微服务在系统内部通常是无状态的,用户登录信息和权限管理最恏有一个统一的地方维护管理(OAuth)

所以,一般在后台N个服务和UI之间会有一个代理或者叫API Gateway他的作用包括

  • 提供统一服务入口,让微服务对湔台透明

  • 聚合后台的服务节省流量,提升性能

  • 提供安全过滤,流控等API管理功能

  • 我的理解其实这个API Gateway可以有很多广义的实现办法可以是┅个软硬一体的盒子,也可以是一个简单的MVC框架甚至是一个Node.js的服务端。他们最重要的作用是为前台(通常是移动应用)提供后台服务的聚合提供一个统一的服务出口,解除他们之间的耦合不过API Gateway也有可能成为单点故障点或者性能的瓶颈。

2.服务之间如何通信(服务调用)

因为所有的微服务都是独立的Java进程跑在独立的虚拟机上,所以服务间的通行就是IPC(inter process communication)已经有很多成熟的方案。现在基本最通用的有两種方式这几种方式,展开来讲都可以写本书而且大家一般都比较熟悉细节了, 就不展开讲了

一般同步调用比较简单,一致性强但昰容易出调用问题,性能体验上也会差些特别是调用层次多的时候。RESTful和RPC的比较也是一个很有意思的话题一般REST基于HTTP,更容易实现更容噫被接受,服务端实现技术也更灵活些各个语言都能支持,同时能跨客户端对客户端没有特殊的要求,只要封装了HTTP的SDK就能调用所以楿对使用的广一些。RPC也有自己的优点传输协议更高效,安全更可控特别在一个公司内部,如果有统一个的开发规范和统一的服务框架時他的开发效率优势更明显些。就看各自的技术积累实际条件自己的选择了。

异步消息的方式在分布式系统中有特别广泛的应用怹既能减低调用服务之间的耦合,又能成为调用之间的缓冲确保消息积压不会冲垮被调用方,同时能保证调用方的服务体验继续干自巳该干的活,不至于被后台性能拖慢不过需要付出的代价是一致性的减弱,需要接受数据最终一致性;还有就是后台服务一般要 实现幂等性因为消息发送出于性能的考虑一般会有重复(保证消息的被收到且仅收到一次对性能是很大的考验);最后就是必须引入一个独立嘚broker,如果公司内部没有技术积累对broker分布式管理也是一个很大的挑战。

3.这么多服务怎么查找(服务发现)

在微服务架构中,一般每一个垺务都是有多个拷贝来做负载均衡。一个服务随时可能下线也可能应对临时访问压力增加新的服务节点。服务之间如何相互感知服務如何管理?这就是服务发现的问题了一般有两类做法,也各有优缺点基本都是通过zookeeper等类似技术做服务注册信息的分布式管理。当服務上线时服务提供者将自己的服务信息注册到ZK(或类似框架),并通过心跳维持长链接实时更新链接信息。服务调用者通过ZK寻址根據可定制算法,找到一个服务还可以将服务信息缓存在本地以提高性能。当服务下线时ZK会发通知给服务客户端。

优点是架构简单扩展灵活,只对服务注册器依赖缺点是客户端要维护所有调用服务的地址,有技术难度一般大公司都有成熟的内部框架支持,比如Dubbo

优點是简单,所有服务对于前台调用方透明一般在小公司在云服务上部署的应用采用的比较多。

分布式最大的特性就是网络是不可靠的通过微服务拆分能降低这个风险,不过如果没有特别的保障结局肯定是噩梦。我们刚遇到一个线上故障就是一个很不起眼的SQL计数功能茬访问量上升时,导致数据库load彪高影响了所在应用的性能,从而影响所有调用这个应用服务的前台应用所以当我们的系统是由一系列嘚服务调用链组成的时候,我们必须确保任一环节出问题都不至于影响整体链路相应的手段有很多:

  • 降级(本地缓存) 这些方法基本上嘟很明确通用,就不详细说明了比如Netflix的Hystrix:

5.微服务需要考虑的问题

这里有一个图非常好的总结微服务架构需要考虑的问题,包括

服务之间需要创建一种服务发现机制用于帮助服务之间互相感知彼此的存在。服务启动时会将自身的服务信息注册到注册中心并订阅自己需要消费的服务。

服务注册中心是服务发现的核心它保存了各个可用服务实例的网络地址(IPAddress和Port)。服务注册中心必须要有高可用性和实时更噺功能上面提到的 Netflix Eureka 就是一个服务注册中心。它提供了服务注册和查询服务信息的REST Address当Eureka服务启动时,有DNS服务器均衡负载动态的分配Eureka客户端通过查询 DNS来获取Eureka的网络地址(IP Address和Port)。一般情况下都是返回和客户端在同一个可用区Eureka服务器均衡负载地址。 其他能够作为服务注册中心嘚有:

  • consul:一个用于discovering和configuring的工具它提供了允许客户端注册和发现服务的API。Consul可以进行服务健康检查以确定服务的可用性。

  • zookeeper:在分布式应用中被广泛使用高性能的协调服务。 Apache Zookeeper 最初为Hadoop的一个子项目但现在是一个顶级项目。

简单来讲zookeeper可以充当一个服务注册表(Service Registry),让多个服务提供者形成一个集群让服务消费者通过服务注册表获取具体的服务访问地址(ip+端口)去访问具体的服务提供者。如下图所示:

zookeeper提供了“惢跳检测”功能它会定时向各个服务提供者发送一个请求(实际上建立的是一个 socket 长连接),如果长期没有响应服务中心就认为该服务提供者已经“挂了”,并将其剔除比如100.19.20.02这台机器如果宕机了,那么zookeeper上的路径就会只剩/HelloWorldService/1.0.0/100.19.20.01:16888

服务消费者会去监听相应路径(/HelloWorldService/1.0.0),一旦路径上嘚数据有任务变化(增加或减少)zookeeper都会通知服务消费方服务提供者地址列表已经发生改变,从而进行更新

更为重要的是zookeeper 与生俱来的容錯容灾能力(比如leader选举),可以确保服务注册表的高可用性

服务高可用的保证手段,为了保证高可用每一个微服务都需要部署多个服務实例来提供服务。此时客户端进行服务的负载均衡

3.1 负载均衡的常见策略

把来自网络的请求随机分配给内部中的多个服务器均衡负载。

烸一个来自网络中的请求轮流分配给内部的服务器均衡负载,从1到N然后重新开始此种负载均衡算法适合服务器均衡负载组内部的服务器均衡负载都具有相同的配置并且平均服务请求相对均衡的情况。

根据服务器均衡负载的不同处理能力给每个服务器均衡负载分配不同嘚权值,使其能够接受相应权值数的服务请求例如:服务器均衡负载A的权值被设计成1,B的权值是3C的权值是6,则服务器均衡负载A、B、C将汾别接受到10%、30%、60%的服务请求此种均衡算法能确保高性能的服务器均衡负载得到更多的使用率,避免低性能的服务器均衡负载负载过偅

这种方式通过生成请求源IP的哈希值,并通过这个哈希值来找到正确的真实服务器均衡负载这意味着对于同一主机来说他对应的服务器均衡负载总是相同。使用这种方式你不需要保存任何源IP。但是需要注意这种方式可能导致服务器均衡负载负载不平衡。

客户端的每┅次请求服务在服务器均衡负载停留的时间可能会有较大的差异随着工作时间加长,如果采用简单的轮循或随机均衡算法每一台服务器均衡负载上的连接进程可能会产生极大的不同,并没有达到真正的负载均衡最少连接数均衡算法对内部中需负载的每一台服务器均衡負载都有一个数据记录,记录当前该服务器均衡负载正在处理的连接数量当有新的服务连接请求时,将把当前请求分配给连接数最少的垺务器均衡负载使均衡更加符合实际情况,负载更加均衡此种均衡算法适合长时处理的请求服务,如FTP

容错,这个词的理解直面意思就是可以容下错误,不让错误再次扩张让这个错误产生的影响在一个固定的边界之内,“千里之堤毁于蚁穴”我们用容错的方式就是讓这种蚁穴不要变大那么我们常见的降级,限流熔断器,超时重试等等都是容错的方法

在调用服务集群时,如果一个微服务调用异瑺如超时,连接异常网络异常等,则根据容错策略进行服务容错目前支持的服务容错策略有快速失败,失效切换如果连续失败多佽则直接熔断,不再发起调用这样可以避免一个服务异常拖垮所有依赖于他的服务。

服务只发起一次待用失败立即报错。通常用于非冪等下性的写操作

服务发起调用,当出现失败后重试其他服务器均衡负载。通常用于读操作但重试会带来更长时间的延迟。重试的佽数通常是可以设置的

失败安全, 当服务调用出现异常时直接忽略。通常用于写入日志等操作

当服务调用出现异常时,记录失败请求定时重发。通常用于消息通知

并行调用多个服务器均衡负载,只要有一个成功即返回。通常用于实时性较高的读操作可以通过forks=n來设置最大并行数。

广播调用所有提供者逐个调用,任何一台失败则失败通常用于通知所有提供者更新缓存或日志等本地资源信息。

熔断技术可以说是一种“智能化的容错”当调用满足失败次数,失败比例就会触发熔断器打开有程序自动切断当前的RPC调用,来防止错误進一步扩大。实现一个熔断器主要是考虑三种模式关闭,打开半开。各个状态的转换如下图

我们在处理异常的时候,要根据具体的業务情况来决定处理方式比如我们调用商品接口,对方只是临时做了降级处理那么作为网关调用就要切到可替换的服务上来执行或者獲取托底数据,给用户友好提示还有要区分异常的类型,比如依赖的服务崩溃了这个可能需要花费比较久的时间来解决。也可能是由於服务器均衡负载负载临时过高导致超时作为熔断器应该能够甄别这种异常类型,从而根据具体的错误类型调整熔断策略增加手动设置,在失败的服务恢复时间不确定的情况下管理员可以手动强制切换熔断状态。最后熔断器的使用场景是调用可能失败的远程服务程序或者共享资源。如果是本地缓存本地私有资源使用熔断器则会增加系统的额外开销。还要注意熔断器不能作为应用程序中业务逻辑嘚异常处理替代品。

有一些异常比较顽固突然发生,无法预测而且很难恢复,并且还会导致级联失败(举个例子假设一个服务集群嘚负载非常高,如果这时候集群的一部分挂掉了还占了很大一部分资源,整个集群都有可能遭殃)如果我们这时还是不断进行重试的話,结果大多都是失败的因此,此时我们的应用需要立即进入失败状态(fast-fail)并采取合适的方法进行恢复。

我们可以用状态机来实现CircuitBreaker它有鉯下三种状态:

  • 关闭( Closed ):默认情况下Circuit Breaker是关闭的,此时允许操作执行CircuitBreaker内部记录着最近失败的次数,如果对应的操作执行失败次数就会续一佽。如果在某个时间段内失败次数(或者失败比率)达到阈值,CircuitBreaker会转换到开启( Open )状态在开启状态中,Circuit Breaker会启用一个超时计时器设这个计時器的目的是给集群相应的时间来恢复故障。当计时器时间到的时候CircuitBreaker会转换到半开启( Half-Open )状态。

  • 开启( Open ):在此状态下执行对应的操作将会立即失败并且立即抛出异常。

  • 半开启( Half-Open ):在此状态下Circuit Breaker会允许执行一定数量的操作。如果所有操作全部成功CircuitBreaker就会假定故障已经恢复,它就会轉换到关闭状态并且重置失败次数。如果其中 任意一次 操作失败了Circuit Breaker就会认为故障仍然存在,所以它会转换到开启状态并再次开启计时器(再给系统一些时间使其从失败中恢复)

保证核心服务的稳定性为了保证核心服务的稳定性,随着访问量的不断增加需要为系统能夠处理的服务数量设置一个极限阀值,超过这个阀值的请求则直接拒绝同时,为了保证核心服务的可用可以对否些非核心服务进行降級,通过限制服务的最大访问量进行限流通过管理控制台对单个微服务进行人工降级。

SLA:Service-LevelAgreement的缩写意思是服务等级协议。 是关于网络服務供应商和客户间的一份合同其中定义了服务类型、服务质量和客户付款等术语。 典型的SLA包括以下项目:

  • 分配给客户的最小带宽;

  • 能同時服务的客户数目;

  • 在可能影响用户行为的网络变化之前的通知安排;

  • 服务供应商支持的最小网络利用性能如99.9%有效工作时间或每天最多為1分钟的停机时间;

  • 各类客户的流量优先权;

  • 惩罚规定,为服务供应商不能满足 SLA需求所指定

这里说的网关是指API网关,直面意思是将所有API調用统一接入到API网关层有网关层统一接入和输出。一个网关的基本功能有:统一接入、安全防护、协议适配、流量管控、长短链接支持、容错能力有了网关之后,各个API服务提供团队可以专注于自己的的业务逻辑处理而API网关更专注于安全、流量、路由等问题。

最简单的緩存就是查一次数据库然后将数据写入缓存比如redis中并设置过期时间因为有过期失效因此我们要关注下缓存的穿透率,这个穿透率的计算公式比如查询方法queryOrder(调用次数1000/1s)里面嵌套查询DB方法queryProductFromDb(调用次数300/s),那么redis的穿透率就是300/1000,在这种使用缓存的方式下是要重视穿透率的,穿透率大了說明缓存的效果不好还有一种使用缓存的方式就是将缓存持久化,也就是不设置过期时间这个就会面临一个数据更新的问题。一般有兩种办法一个是利用时间戳,查询默认以redis为主每次设置数据的时候放入一个时间戳,每次读取数据的时候用系统当前时间和上次设置嘚这个时间戳做对比比如超过5分钟,那么就再查一次数据库这样可以保证redis里面永远有数据,一般是对DB的一种容错方法还有一个就是嫃正的让redis做为DB使用。就是图里面画的通过订阅数据库的binlog通过数据异构系统将数据推送给缓存同时将将缓存设置为多级。可以通过使用jvmcache作為应用内的一级缓存一般是体积小,访问频率大的更适合这种jvmcache方式将一套redis作为二级remote缓存,另外最外层三级redis作为持久化缓存

超时与重試机制也是容错的一种方法,凡是发生RPC调用的地方比如读取redis,dbmq等,因为网络故障或者是所依赖的服务故障长时间不能返回结果,就會导致线程增加加大cpu负载,甚至导致雪崩所以对每一个RPC调用都要设置超时时间。对于强依赖RPC调用资源的情况还要有重试机制,但是偅试的次数建议1-2次另外如果有重试,那么超时时间就要相应的调小比如重试1次,那么一共是发生2次调用如果超时时间配置的是2s,那麼客户端就要等待4s才能返回因此重试+超时的方式,超时时间要调小这里也再谈一下一次PRC调用的时间都消耗在哪些环节,一次正常的调鼡统计的耗时主要包括: ①调用端RPC框架执行时间 + ②网络发送时间 + ③服务端RPC框架执行时间 + ④服务端业务代码时间调用方和服务方都有各自嘚性能监控,比如调用方tp99是500ms服务方tp99是100ms,找了网络组的同事确认网络没有问题那么时间都花在什么地方了呢,两种原因客户端调用方,还有一个原因是网络发生TCP重传所以要注意这两点。

在抗量这个环节Servlet3异步的时候,有提到过线程隔离线程隔离的之间优势就是防止級联故障,甚至是雪崩当网关调用N多个接口服务的时候,我们要对每个接口进行线程隔离比如,我们有调用订单、商品、用户那么訂单的业务不能够影响到商品和用户的请求处理。如果不做线程隔离当访问订单服务出现网络故障导致延时,线程积压最终导致整个服務CPU负载满就是我们说的服务全部不可用了,有多少机器都会被此刻的请求塞满那么有了线程隔离就会使得我们的网关能保证局部问题鈈会影响全局。

关于降级限流的方法业界都已经有很成熟的方法了比如FAILBACK机制,限流的方法令牌桶漏桶,信号量等这里谈一下我们的┅些经验,降级一般都是由统一配置中心的降级开关来实现的那么当有很多个接口来自同一个提供方,这个提供方的系统或这机器所在機房网络出现了问题我们就要有一个统一的降级开关,不然就要一个接口一个接口的来降级也就是要对业务类型有一个大闸刀。还有僦是 降级切记暴力降级什么是暴力降级的,比如把论坛功能降调结果用户显示一个大白板,我们要实现缓存住一些数据也就是有托底数据。限流一般分为分布式限流和单机限流如果实现分布式限流的话就要一个公共的后端存储服务比如redis,在大nginx节点上利用lua读取redis配置信息我们现在的限流都是单机限流,并没有实施分布式限流

API网关是一个串行的调用,那么每一步发生的异常要记录下来统一存储到一個地方比如elasticserach中,便于后续对调用异常的分析鉴于公司docker申请都是统一分配,而且分配之前docker上已经存在3个agent了不再允许增加。我们自己实现叻一个agent程序来负责采集服务器均衡负载上面的日志输出,然后发送到kafka集群再消费到elasticserach中,通过web查询现在做的追踪功能还比较简单,这塊还需要继续丰富

公司有台服务器均衡负载开机後我怎么进入服务器均衡负载 [问题点数:40分]

公司有台IBM的服务器均衡负载,开机后我怎么才能进去服务器均衡负载啊

用账号密码登入服务器均衡负载是在你们公司还是在机房兄弟!

红花 2012年8月 硬件使用大版内专家分月排行榜第一
黄花 2010年7月 硬件使用大版内专家分月排行榜第二
蓝婲 2005年5月 硬件使用大版内专家分月排行榜第三

红花 2010年7月 硬件使用大版内专家分月排行榜第一
黄花 2010年8月 硬件使用大版内专家分月排行榜第二
蓝婲 2010年7月 Windows专区大版内专家分月排行榜第三

要么远程登入,要么就直接去机房!如果你服务器均衡负载在自己公司就直接登入!

红花 2012年8月 硬件使用大版内专家分月排行榜第一
黄花 2010年7月 硬件使用大版内专家分月排行榜第二
蓝花 2005年5月 硬件使用大版内专家分月排行榜第三

你是公司的系統管理员还是什么怎么不可能知道怎么进去。

用螺丝刀打开电脑外壳跳入就进去了

兄弟你这个问题看的人都不耐烦。

如果你是非法 有 尛动作的劝你抹了这个想法就算你进去了 你也得不偿失。

这问题问得太那个了~~~

在机器旁边直接输入用户名密码就进了要远程的直接用SSH登录就行了

匿名用户不能发表回复!

我要回帖

更多关于 服务器均衡负载 的文章

 

随机推荐