什么是SpringCloud?
SpringCloud,基于SpringBoot提供了一套微服务解决方案,包括服务注册与发现,配置中心,全链路监控,服务网关,负载均衡,熔断器等组件,除了基于NetFlix的开源组件做高度抽象封装之外,还有一些选型中立的开源组件。
SpringCloud利用springboot的开发便利性,巧妙的简化了分布式系统基础设施的开发,SpringCloud为开发人员提供了快速构建分布式系统的一些工具,包括配置管理,服务发现,断路器,路由,微代理,事件总线,全局锁,决策竞选,分布式会话等等,他们都可以用springboot的开发风格做到一键启动和部署。
SpringCloud和SpringBoot的关系
SpringBoot专注于快速方便的开发单个个体微服务
SpringCloud是关注全局的微服务协调整理治理框架,它将SpringBoot开的一个个单体服务整合并管理起来,为各个服务之间提供:配置管理,服务发现,断路器,路由,微代理,时间总线,全局锁,决策竞选,分布式会话等等集成服务。
SpringBoot可以离开SpringCloud独立使用,开发项目,SpringCloud关注全度的服务治理框架
Dubbo和Spring Cloud对比
解决的问题域不一样:Dubbo的定位是一款RPC框架,Spring Cloud的目的是微服务架构下的一站式解决方案
SpringCloud初体验
创建父工程
创建普通maven项目,因为是父项目,所以把src目录删除掉
pom文件导入所需依赖
1 |
|
创建公共实体类api
(管理pojo),创建普通maven模块
添加子工程所需依赖
1 | <!--当前的module自己需要的依赖,如果父依赖种已经配置了版本,这里就不用写版本号--> |
创建数据库
右键root@localhost—>创建数据库
数据库:XXXXXX
基字符集:utf8
数据库排序规则:utf8_general_ci
创建表格
-Database->选中数据库–右键–new–Table
往数据库插入数据
创建实体类(所有实体类务必实现序列化)
1 | /** |
这个微服务到此结束,此微服务只负责pojo
创建服务的提供者模块
springcloud-provider-dept-8001
添加子服务依赖
1 |
|
application.yml配置文件
1 | server: |
mybatis-config.xml配置
1 |
|
创建部门的dao接口:DeptDao
1 | package cn.kgc.dao; |
对应mapper文件(DeptMapper.xml)
1 |
|
service层代码
1 | package cn.kgc.service; |
1 | package cn.kgc.service; |
控制器
1 | /** |
创建启动器
1 | /** |
启动项目测试
1 | http://localhost:8001/dept/get/11 |
创建服务的消费者模块
springcloud-consumer-dept-80
pom依赖
1 |
|
application.yml配置
1 | server: |
注册RestTemplate
(config目录内创建类ConfigBean)
1 |
|
控制器
1 | package cn.kgc.controller; |
启动类
1 |
|
启动两个子项目测试
1 | http://localhost/consumer/dept/get/12 |
Eureka注册中心的使用
什么是Eureka
Netflix在涉及Eureka时,遵循的就是API原则.
Eureka是Netflix的一个子模块,也是核心模块之一。Eureka是基于REST的服务,用于定位服务,以实现云端中间件层服务发现和故障转移,服务注册与发现对于微服务来说是非常重要的,有了服务注册与发现,只需要使用服务的标识符,就可以访问到服务,而不需要修改服务调用的配置文件了,功能类似于Dubbo的注册中心,比如Zookeeper.
原理理解
Eureka基本的架构
Springcloud 封装了Netflix公司开发的Eureka模块来实现服务注册与发现 (对比Zookeeper).
Eureka采用了C-S的架构设计,EurekaServer作为服务注册功能的服务器,他是服务注册中心.
而系统中的其他微服务,使用Eureka的客户端连接到EurekaServer并维持心跳连接。这样系统的维护人员就可以通过EurekaServer来监控系统中各个微服务是否正常运行,Springcloud 的一些其他模块 (比如Zuul) 就可以通过EurekaServer来发现系统中的其他微服务,并执行相关的逻辑.
Eureka 包含两个组件:Eureka Server 和 Eureka Client.
Eureka Server 提供服务注册,各个节点启动后,回在EurekaServer中进行注册,这样Eureka Server中的服务注册表中将会储存所有课用服务节点的信息,服务节点的信息可以在界面中直观的看到.
Eureka Client 是一个Java客户端,用于简化EurekaServer的交互,客户端同时也具备一个内置的,使用轮询负载算法的负载均衡器。在应用启动后,将会向EurekaServer发送心跳 (默认周期为30秒) 。如果Eureka Server在多个心跳周期内没有接收到某个节点的心跳,EurekaServer将会从服务注册表中把这个服务节点移除掉 (默认周期为90s).
三大角色
Eureka Server:提供服务的注册与发现
Service Provider:服务生产方,将自身服务注册到Eureka中,从而使服务消费方能狗找到
Service Consumer:服务消费方,从Eureka中获取注册服务列表,从而找到服务方
创建module,springcloud-eureka-7001
导入依赖
1 |
|
配置application.yml
1 | server: |
写启动类
1 |
|
启动项目测试
1 | http://localhost:7001 |
将服务提供者8001注册进Eureka中
8001的pom加入Eureka依赖
1 | <!--Eureka--> |
application.yml添加Eureka配置信息
1 | #Eureka的配置,服务注册到哪里 |
启动类开启注解支持@EnableEurekaClient
1 |
|
启动7001和8001进行测试
1 | http://localhost:7001/ |
Eureka自我保护机制,好死不如赖活着
一句话总结就是:某时刻某一个微服务不可用,eureka不会立即清理,依旧会对该微服务的信息进行保存!
默认情况下,当eureka serve
r在一定时间内没有收到实例的心跳,便会把该实例从注册表中删除(默认是90秒),但是,如果短时间内丢失大量的实例心跳,便会触发eureka server
的自我保护机制,比如在开发测试时,需要频繁地重启微服务实例,但是我们很少会把eureka server
一起重启(因为在开发过程中不会修改eureka注册中心),当一分钟内收到的心跳数大量减少时,会触发该保护机制。可以在eureka管理界面看到Renews threshold
和Renews(last min)
,当后者(最后一分钟收到的心跳数)小于前者(心跳阈值)的时候,触发保护机制,会出现红色的警告:EMERGENCY!EUREKA MAY BE INCORRECTLY CLAIMING INSTANCES ARE UP WHEN THEY’RE NOT.RENEWALS ARE LESSER THAN THRESHOLD AND HENCE THE INSTANCES ARE NOT BEGING EXPIRED JUST TO BE SAFE.从警告中可以看到,eureka认为虽然收不到实例的心跳,但它认为实例还是健康的,eureka会保护这些实例,不会把它们从注册表中删掉。
该保护机制的目的是避免网络连接故障,在发生网络故障时,微服务和注册中心之间无法正常通信,但服务本身是健康的,不应该注销该服务,如果eureka因网络故障而把微服务误删了,那即使网络恢复了,该微服务也不会重新注册到eureka server
了,因为只有在微服务启动的时候才会发起注册请求,后面只会发送心跳和服务列表请求,这样的话,该实例虽然是运行着,但永远不会被其它服务所感知。所以,eureka server
在短时间内丢失过多的客户端心跳时,会进入自我保护模式,该模式下,eureka会保护注册表中的信息,不在注销任何微服务,当网络故障恢复后,eureka会自动退出保护模式。自我保护模式可以让集群更加健壮。
但是我们在开发测试阶段,需要频繁地重启发布,如果触发了保护机制,则旧的服务实例没有被删除,这时请求有可能跑到旧的实例中,而该实例已经关闭了,这就导致请求错误,影响开发测试。所以,在开发测试阶段,我们可以把自我保护模式关闭,只需在eureka server
配置文件中加上如下配置即可:eureka.server.enable-self-preservation=false
Eureka集群配置
新建两个module
分别为springcloud-eureka-7002、springcloud-eureka-7003,并把eureka依赖和热部署依赖导进pom文件,配置主启动类
配置系统中的locals
C:\Windows\System32\drivers\etc\hosts
最底部添加
1 | 127.0.0.1 eureka7001.com |
关联三个注册中心(每个这侧中心挂载其他两个)
1 | server: |
1 | server: |
1 | server: |
启动三个eureka服务中心和8001服务,可以看到成功挂载其他两个中心以及可发现8001服务
1 | 访问http://eureka7002.com:7001 |
如果其中一个崩了,其他两个还正常运行,这时服务不会 停止
Eureka对比Zookeeper
ACID是什么?
A (Atomicity) 原子性
C (Consistency) 一致性
I (Isolation) 隔离性
D (Durability) 持久性
CAP是什么?
C (Consistency) 强一致性
A (Availability) 可用性
P (Partition tolerance) 分区容错性
CAP的三进二:CA、AP、CP
CAP理论的核心
一个分布式系统不可能同时很好的满足一致性,可用性和分区容错性这三个需求
根据CAP原理,将NoSQL数据库分成了满足CA原则,满足CP原则和满足AP原则三大类
CA:单点集群,满足一致性,可用性的系统,通常可扩展性较差
CP:满足一致性,分区容错的系统,通常性能不是特别高
AP:满足可用性,分区容错的系统,通常可能对一致性要求低一些
作为分布式服务注册中心,Eureka比Zookeeper好在哪里?
著名的CAP理论指出,一个分布式系统不可能同时满足C (一致性) 、A (可用性) 、P (容错性),由于分区容错性P再分布式系统中是必须要保证的,因此我们只能再A和C之间进行权衡。
Zookeeper保证的是CP
当向注册中心查询服务列表时,我们可以容忍注册中心返回的是几分钟以前的注册信息,但不能接收服务直接down掉不可用。也就是说,服务注册功能对可用性的要求要高于一致性。但zookeeper会出现这样一种情况,当master节点因为网络故障与其他节点失去联系时,剩余节点会重新进行leader选举。问题在于,选举leader的时间太长,30-120s,且选举期间整个zookeeper集群是不可用的,这就导致在选举期间注册服务瘫痪。在云部署的环境下,因为网络问题使得zookeeper集群失去master节点是较大概率发生的事件,虽然服务最终能够恢复,但是,漫长的选举时间导致注册长期不可用,是不可容忍的。
Eureka保证的是AP
Eureka看明白了这一点,因此在设计时就优先保证可用性。Eureka各个节点都是平等的,几个节点挂掉不会影响正常节点的工作,剩余的节点依然可以提供注册和查询服务。而Eureka的客户端在向某个Eureka注册时,如果发现连接失败,则会自动切换至其他节点,只要有一台Eureka还在,就能保住注册服务的可用性,只不过查到的信息可能不是最新的,除此之外,Eureka还有之中自我保护机制,如果在15分钟内超过85%的节点都没有正常的心跳,那么Eureka就认为客户端与注册中心出现了网络故障,此时会出现以下几种情况:
Eureka不在从注册列表中移除因为长时间没收到心跳而应该过期的服务
Eureka仍然能够接受新服务的注册和查询请求,但是不会被同步到其他节点上 (即保证当前节点依然可用)
当网络稳定时,当前实例新的注册信息会被同步到其他节点中
因此,Eureka可以很好的应对因网络故障导致部分节点失去联系的情况,而不会像zookeeper那样使整个注册服务瘫痪
Eureka 注册中心
刚开始看到Eureka这个单词的时候真心不会念,查了后发现他有一个好听的名字,来,大家一起念 [jʊ’rikə]
简介
Eureka本身是Netflix开源的一款提供服务注册和发现的产品,并且提供了相应的Java封装。在它的实现中,节点之间相互平等,部分注册中心的节点挂掉也不会对集群造成影响,即使集群只剩一个节点存活,也可以正常提供发现服务。哪怕是所有的服务注册节点都挂了,Eureka Clients(客户端)上也会缓存服务调用的信息。这就保证了我们微服务之间的互相调用足够健壮。
Zookeeper主要为大型分布式计算提供开源的分布式配置服务、同步服务和命名注册。曾经是Hadoop项目中的一个子项目,用来控制集群中的数据,目前已升级为独立的顶级项目。很多场景下也用它作为Service发现服务解决方案。
对比
在分布式系统中有个著名的CAP定理(C-数据一致性;A-服务可用性;P-服务对网络分区故障的容错性,这三个特性在任何分布式系统中不能同时满足,最多同时满足两个);
Zookeeper
Zookeeper是基于CP来设计的,即任何时刻对Zookeeper的访问请求能得到一致的数据结果,同时系统对网络分割具备容错性,但是它不能保证每次服务请求的可用性。从实际情况来分析,在使用Zookeeper获取服务列表时,如果zookeeper正在选主,或者Zookeeper集群中半数以上机器不可用,那么将无法获得数据。所以说,Zookeeper不能保证服务可用性。
诚然,在大多数分布式环境中,尤其是涉及到数据存储的场景,数据一致性应该是首先被保证的,这也是zookeeper设计成CP的原因。但是对于服务发现场景来说,情况就不太一样了:针对同一个服务,即使注册中心的不同节点保存的服务提供者信息不尽相同,也并不会造成灾难性的后果。因为对于服务消费者来说,能消费才是最重要的——拿到可能不正确的服务实例信息后尝试消费一下,也好过因为无法获取实例信息而不去消费。(尝试一下可以快速失败,之后可以更新配置并重试)所以,对于服务发现而言,可用性比数据一致性更加重要——AP胜过CP。
Eureka
而Spring Cloud Netflix
在设计Eureka时遵守的就是AP原则。Eureka Server
也可以运行多个实例来构建集群,解决单点问题,但不同于ZooKeeper的选举leader的过程,Eureka Server
采用的是Peer to Peer
对等通信。这是一种去中心化的架构,无master/slave区分,每一个Peer都是对等的。在这种架构中,节点通过彼此互相注册来提高可用性,每个节点需要添加一个或多个有效的serviceUrl指向其他节点。每个节点都可被视为其他节点的副本。
如果某台Eureka Server
宕机,Eureka Client
的请求会自动切换到新的Eureka Server
节点,当宕机的服务器重新恢复后,Eureka会再次将其纳入到服务器集群管理之中。当节点开始接受客户端请求时,所有的操作都会进行replicateToPeer
(节点间复制)操作,将请求复制到其他Eureka Server
当前所知的所有节点中。
一个新的Eureka Server
节点启动后,会首先尝试从邻近节点获取所有实例注册表信息,完成初始化。Eureka Server
通过getEurekaServiceUrls()
方法获取所有的节点,并且会通过心跳续约的方式定期更新。默认配置下,如果Eureka Server
在一定时间内没有接收到某个服务实例的心跳,Eureka Server
将会注销该实例(默认为90秒,通过eureka.instance.lease-expiration-duration-in-seconds配置)
。当Eureka Server
节点在短时间内丢失过多的心跳时(比如发生了网络分区故障),那么这个节点就会进入自我保护模式。
什么是自我保护模式?默认配置下,如果Eureka Server
每分钟收到心跳续约的数量低于一个阈值(instance的数量(60/每个instance的心跳间隔秒数)自我保护系数)
,并且持续15分钟,就会触发自我保护。在自我保护模式中,Eureka Server会保护服务注册表中的信息,不再注销任何服务实例。当它收到的心跳数重新恢复到阈值以上时,该Eureka Server
节点就会自动退出自我保护模式。它的设计哲学前面提到过,那就是宁可保留错误的服务注册信息,也不盲目注销任何可能健康的服务实例。该模式可以通过eureka.server.enable-self-preservation = false
来禁用,同时eureka.instance.lease-renewal-interval-in-seconds
可以用来更改心跳间隔,eureka.server.renewal-percent-threshold
可以用来修改自我保护系数(默认0.85)。
总结
ZooKeeper基于CP,不保证高可用,如果zookeeper正在选主,或者Zookeeper集群中半数以上机器不可用,那么将无法获得数据。Eureka基于AP,能保证高可用,即使所有机器都挂了,也能拿到本地缓存的数据。作为注册中心,其实配置是不经常变动的,只有发版和机器出故障时会变。对于不经常变动的配置来说,CP是不合适的,而AP在遇到问题时可以用牺牲一致性来保证可用性,既返回旧数据,缓存数据。
所以理论上Eureka是更适合作注册中心。而现实环境中大部分项目可能会使用ZooKeeper,那是因为集群不够大,并且基本不会遇到用做注册中心的机器一半以上都挂了的情况。所以实际上也没什么大问题。
Ribbon:负载均衡(基于客户端)
负载均衡以及Ribbon
Ribbon是什么?
Spring Cloud Ribbon
是基于Netflix Ribbon
实现的一套客户端负载均衡的工具。
简单的说,Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将 Netflix 的中间层服务连接在一起。Ribbon 的客户端组件提供一系列完整的配置项,如:连接超时、重试等。简单的说,就是在配置文件中列出 LoadBalancer (简称LB:负载均衡) 后面所有的及其,Ribbon 会自动的帮助你基于某种规则 (如简单轮询,随机连接等等) 去连接这些机器。我们也容易使用 Ribbon 实现自定义的负载均衡算法!
Ribbon能干嘛?
LB,即负载均衡 (LoadBalancer) ,在微服务或分布式集群中经常用的一种应用。
负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA (高用)。
常见的负载均衡软件有 Nginx、Lvs 等等。
Dubbo、SpringCloud 中均给我们提供了负载均衡,SpringCloud 的负载均衡算法可以自定义。
负载均衡简单分类:
集中式LB
即在服务的提供方和消费方之间使用独立的LB设施,如Nginx,由该设施负责把访问请求通过某种策略转发至服务的提供方!
进程式LB
将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选出一个合适的服务器。
Ribbon 就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址!
集成Ribbon
1、springcloud-consumer-dept-80**向pom.xml中添加Ribbon和Eureka依赖
1 | <!--Ribbon--> |
2、在application.yml文件中配置Eureka
1 | # Eureka配置 |
3、主启动类加上@EnableEurekaClient注解,开启Eureka
1 |
|
4、自定义Spring配置类:ConfigBean.java 配置负载均衡实现RestTemplate
1 |
|
5、修改conroller:DeptConsumerController.java
1 | //Ribbon:我们这里的地址,应该是一个变量,通过服务名来访问 |
6、测试
1 | 启动所有服务访问 |
使用Ribbon实现负载均衡
1、创建两个数据库scdb02、scdb03,表内容一直db_source为各自的数据库名
2、新建两个服务提供者Moudle:springcloud-provider-dept-8003、springcloud-provider-dept-8002
3、将8001的依赖和resource目录粘贴入8002、8003项目中,将application.yml文件中更改相应的名称
1 | server: |
4、将8001的所有java代码拷贝粘贴入8002、8003,更改各自的启动类
5、启动所有项目进行测试
1 | http://eureka7001.com:7001/ |
可以看到三个实例
1 | 访问http://localhost/consumer/dept/get/4 |
以上这种每次访问http://localhost/consumer/dept/list随机访问集群中某个服务提供者,这种情况叫做轮询,轮询算法在SpringCloud中可以自定义。
6、如何切换或者自定义规则呢?
在springcloud-provider-dept-80模块下的ConfigBean中进行配置,切换使用不同的规则
1 |
|
也可以自定义规则,在myRule包下自定义一个配置类MyRule.java,注意:该包不要和主启动类所在的包同级,要跟启动类所在包同级:
1 | /** |
主启动类开启负载均衡并指定自定义的MyRule配置类
1 | //Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号 |
自定义的规则(这里我们参考Ribbon中默认的规则代码自己稍微改动):MyRandomRule.java
1 | public class MyRandomRule extends AbstractLoadBalancerRule { |
Feign:负载均衡(基于服务端)
Feign简介
Feign是声明式Web Service客户端,它让微服务之间的调用变得更简单,类似controller调用service。SpringCloud集成了Ribbon和Eureka,可以使用Feigin提供负载均衡的http客户端
只需要创建一个接口,然后添加注解即可~
Feign,主要是社区版,大家都习惯面向接口编程。这个是很多开发人员的规范。调用微服务访问两种方法
- 微服务名字 【ribbon】
- 接口和注解 【feign】
Feign能干什么?
Feign旨在使编写Java Http客户端变得更容易
前面在使用Ribbon + RestTemplate
时,利用RestTemplate对Http请求的封装处理,形成了一套模板化的调用方法。但是在实际开发中,由于对服务依赖的调用可能不止一处,往往一个接口会被多处调用,所以通常都会针对每个微服务自行封装一个客户端类来包装这些依赖服务的调用。所以,Feign在此基础上做了进一步的封装,由他来帮助我们定义和实现依赖服务接口的定义,在Feign的实现下,我们只需要创建一个接口并使用注解的方式来配置它 (类似以前Dao接口上标注Mapper注解,现在是一个微服务接口上面标注一个Feign注解),即可完成对服务提供方的接口绑定,简化了使用Spring Cloud Ribbon
时,自动封装服务调用客户端的开发量。
Feign默认集成了Ribbon
利用Ribbon维护了MicroServiceCloud-Dept
的服务列表信息,并且通过轮询实现了客户端的负载均衡,而与Ribbon不同的是,通过Feign只需要定义服务绑定接口且以声明式的方法,优雅而简单的实现了服务调用。
Feign的使用步骤
1、创建springcloud-consumer-fdept-feign
模块
拷贝springcloud-consumer-dept-80模块下的pom.xml,resource,以及java代码到springcloud-consumer-feign
模块,并添加feign依赖。
1 | <!--Feign的依赖--> |
2、springcloud-api的pom.xml中也添加openfeign依赖
1 | <!--Feign的依赖--> |
3、springcloud-api项目中创建service包创建DeptFeignService接口
1 |
|
4、修改springcloud-consumer-fdept-feign项目中的Controller去引用feign接口
1 |
|
5、启动类
1 |
|
6、启动全部项目除了原有80消费端
1 | http://localhost/consumer/dept/get/2 |
7、切换轮询与随机负载均衡
1 |
|
Hystrix:服务熔断
分布式系统面临的问题
复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免失败!
服务雪崩
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其他的微服务,这就是所谓的“扇出”,如果扇出的链路上某个微服务的调用响应时间过长,或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几十秒内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障,这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。
我们需要,弃车保帅
什么是Hystrix?
Hystrix是一个应用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时,异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整个体系服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控 (类似熔断保险丝) ,向调用方方茴一个服务预期的,可处理的备选响应 (FallBack) ,而不是长时间的等待或者抛出调用方法无法处理的异常,这样就可以保证了服务调用方的线程不会被长时间,不必要的占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
Hystrix能干嘛?
服务降级
服务熔断
服务限流
接近实时的监控
…
服务熔断
什么是服务熔断?
熔断机制是赌赢雪崩效应的一种微服务链路保护机制。
在微服务架构中,微服务之间的数据交互通过远程调用完成,微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,此时如果链路上某个微服务的调用响应时间过长或者不可用,那么对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,导致“雪崩效应”。
服务熔断是应对雪崩效应的一种微服务链路保护机制。例如在高压电路中,如果某个地方的电压过高,熔断器就会熔断,对电路进行保护。同样,在微服务架构中,熔断机制也是起着类似的作用。当调用链路的某个微服务不可用或者响应时间太长时,会进行服务熔断,不再有该节点微服务的调用,快速返回错误的响应信息。当检测到该节点微服务调用响应正常后,恢复调用链路。
当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阀值缺省是5秒内20次调用失败,就会启动熔断机制。熔断机制的注解是:@HystrixCommand
。
服务熔断解决如下问题:
- 当所依赖的对象不稳定时,能够起到快速失败的目的;
- 快速失败后,能够根据一定的算法动态试探所依赖对象是否恢复。
入门案例
1、新建springcloud-provider-dept-hystrix-8001模块并拷贝springcloud-provider-dept–8001内的pom.xml、resource和Java代码进行初始化并调整。
2、导入hystrix依赖
1 | <!--导入Hystrix依赖--> |
3、调整yml配置文件
1 | server: |
4、修改controller
1 | //提供Restful服务 |
5、为主启动类添加对熔断的支持注解@EnableCircuitBreaker
1 |
|
6、测试
不适用熔断,页面报错抛异常信息
1 | "java.lang.RuntimeException: 这个id=>6,不存在该部门,或信息无法找到~\r\n\tat cn.kgc... (5318 bytes)] |
使用熔断后,当访问一个不存在的id时,前台页展示数据如下
1 | {"deptNo":6,"deptName":"这个id=>6,没有对应的信息,null---@Hystrix~","db_source":"在MySQL中没有这个数据库"} |
因此,为了避免因某个微服务后台出现异常或错误而导致整个应用或网页报错,使用熔断是必要的
服务降级
什么是服务降级?
服务降级是指 当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心业务正常运作或高效运作。说白了,就是尽可能的把系统资源让给优先级高的服务。
资源有限,而请求是无限的。如果在并发高峰期,不做服务降级处理,一方面肯定会影响整体服务的性能,严重的话可能会导致宕机某些重要的服务不可用。所以,一般在高峰期,为了保证核心功能服务的可用性,都要对某些服务降级处理。比如当双11活动时,把交易无关的服务统统降级,如查看蚂蚁深林,查看历史订单等等。
服务降级主要用于什么场景呢?当整个微服务架构整体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时,为了保证重要或基本的服务能正常运行,可以将一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。
降级的方式可以根据业务来,可以延迟服务,比如延迟给用户增加积分,只是放到一个缓存中,等服务平稳之后再执行 ;或者在粒度范围内关闭服务,比如关闭相关文章的推荐
当某一时间内服务A的访问量暴增,而B和C的访问量较少,为了缓解A服务的压力,这时候需要B和C暂时关闭一些服务功能,去承担A的部分服务,从而为A分担压力,叫做服务降级。
服务降级需要考虑的问题
- 那些服务是核心服务,哪些服务是非核心服务
- 那些服务可以支持降级,那些服务不能支持降级,降级策略是什么
- 除服务降级之外是否存在更复杂的业务放通场景,策略是什么?
自动降级分类
- 超时降级:主要配置好超时时间和超时重试次数和机制,并使用异步机制探测回复情况
- 失败次数降级:主要是一些不稳定的api,当失败调用次数达到一定阀值自动降级,同样要使用异步机制探测回复情况
- 故障降级:比如要调用的远程服务挂掉了(网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常),则可以直接降级。降级后的处理方案有:默认值(比如库存服务挂了,返回默认现货)、兜底数据(比如广告挂了,返回提前准备好的一些静态页面)、缓存(之前暂存的一些缓存数据)
- 限流降级:秒杀或者抢购一些限购商品时,此时可能会因为访问量太大而导致系统崩溃,此时会使用限流来进行限制访问量,当达到限流阀值,后续请求会被降级;降级后的处理方案可以是:排队页面(将用户导流到排队页面等一会重试)、无货(直接告知用户没货了)、错误页(如活动太火爆了,稍后重试)。
入门案例
1、在springcloud-api模块下的service包中新建降级配置类DeptClientServiceFallBackFactory.java
1 |
|
2、在DeptFeignService中指定降级配置类DeptFeiGnServiceFallBackFactory
1 | //注册到spring容器中 |
3、在springcloud-consumer-dept-feign模块中开启降级
1 | server: |
4、测试(启动7001服务,feigen80服务和8001提供服务)
1 | 如果项目正常启动中,那么浏览http://localhost/consumer/dept/get/1 |
服务熔断和降级的区别
服务熔断—>服务端:某个服务超时或异常,引起熔断~,类似于保险丝(自我熔断)
服务降级—>客户端:从整体网站请求负载考虑,当某个服务熔断或者关闭之后,服务将不再被调用,此时在客户端,我们可以准备一个 FallBackFactory ,返回一个默认的值(缺省值)。会导致整体的服务下降,但是好歹能用,比直接挂掉强。
触发原因不太一样,服务熔断一般是某个服务(下游服务)故障引起,而服务降级一般是从整体负荷考虑;
管理目标的层次不太一样,熔断其实是一个框架级的处理,每个微服务都需要(无层级之分),而降级一般需要对业务有层级之分(比如降级一般是从最外围服务开始)
实现方式不太一样,服务降级具有代码侵入性(由控制器完成/或自动降级),熔断一般称为自我熔断。
限流:限制并发的请求访问量,超过阈值则拒绝;
降级:服务分优先级,牺牲非核心服务(不可用),保证核心服务稳定;从整体负荷考虑;
熔断:依赖的下游服务故障触发熔断,避免引发本系统崩溃;系统自动执行和恢复
Dashboard 流监控
1、新建springcloud-consumer-hystrix-dashboard模块
2、添加依赖
1 | <dependencies> |
3、配置端口application.yml
1 | server: |
4、主启动类
1 |
|
5、给springcloud-provider-dept-hystrix-8001模块下的主启动类添加如下代码,添加监控
导入依赖hystrix
1 | <!--导入Hystrix依赖--> |
1 |
|
5、测试
1 | 浏览:http://localhost:8001/actuator/hystrix.stream 看是否能ping到数据 |
Zuul路由网关
什么是zuul?
Zull包含了对请求的路由(用来跳转的)和过滤两个最主要功能:
其中路由功能负责将外部请求转发到具体的微服务实例上,是实现外部访问统一入口的基础,而过滤器功能则负责对请求的处理过程进行干预,是实现请求校验,服务聚合等功能的基础。Zuul和Eureka进行整合,将Zuul自身注册为Eureka服务治理下的应用,同时从Eureka中获得其他服务的消息,也即以后的访问微服务都是通过Zuul跳转后获得。
注意:Zuul服务最终还是会注册进Eureka
提供:代理+路由+过滤 三大功能!
Zuul能干嘛?
- 验证与安全保障: 识别面向各类资源的验证要求并拒绝那些与要求不符的请求。
- 审查与监控: 在边缘位置追踪有意义数据及统计结果,从而为我们带来准确的生产状态结论。
- 动态路由: 以动态方式根据需要将请求路由至不同后端集群处。
- 压力测试: 逐渐增加指向集群的负载流量,从而计算性能水平。
- 负载分配: 为每一种负载类型分配对应容量,并弃用超出限定值的请求。
- 静态响应处理: 在边缘位置直接建立部分响应,从而避免其流入内部集群。
- 多区域弹性: 跨越AWS区域进行请求路由,旨在实现ELB使用多样化并保证边缘位置与使用者尽可能接近。
入门案例
1、新建springcloud-zuul模块,并导入依赖
1 | <dependencies> |
2、application.yml
1 | server: |
3、添加网址信息(可选)
1 | c:windows/system32/drivers/etc/hosts |
4、主启动类
1 |
|
5、测试
1 | 启动7001注册服务中心,启动dept-hystrix-8001待熔断的服务,启动网关zuul服务 |
Spring Cloud Config 分布式配置
Dalston.RELEASE
Spring Cloud Config
为分布式系统中的外部配置提供服务器和客户端支持。使用Config Server
,您可以在所有环境中管理应用程序的外部属性。客户端和服务器上的概念映射与Spring Environment
和PropertySource
抽象相同,因此它们与Spring应用程序非常契合,但可以与任何以任何语言运行的应用程序一起使用。随着应用程序通过从开发人员到测试和生产的部署流程,您可以管理这些环境之间的配置,并确定应用程序具有迁移时需要运行的一切。服务器存储后端的默认实现使用git,因此它轻松支持标签版本的配置环境,以及可以访问用于管理内容的各种工具。很容易添加替代实现,并使用Spring配置将其插入。
概述
分布式系统面临的–配置文件问题
微服务意味着要将单体应用中的业务拆分成一个个子服务,每个服务的粒度相对较小,因此系统中会出现大量的服务,由于每个服务都需要必要的配置信息才能运行,所以一套集中式的,动态的配置管理设施是必不可少的。spring cloud
提供了configServer来解决这个问题,我们每一个微服务自己带着一个application.yml,那上百个的配置文件修改起来,令人头疼!
什么是SpringCloud config
分布式配置中心?
spring cloud config 为微服务架构中的微服务提供集中化的外部支持,配置服务器为各个不同微服务应用的所有环节提供了一个中心化的外部配置。
spring cloud config 分为服务端和客户端两部分。
- 服务端也称为 分布式配置中心,它是一个独立的微服务应用,用来连接配置服务器并为客户端提供获取配置信息,加密,解密信息等访问接口。
- 客户端则是通过指定的配置中心来管理应用资源,以及与业务相关的配置内容,并在启动的时候从配置中心获取和加载配置信息。配置服务器默认采用git来存储配置信息,这样就有助于对环境配置进行版本管理。并且可用通过git客户端工具来方便的管理和访问配置内容。
spring cloud config 分布式配置中心能干嘛?
集中式管理配置文件
不同环境,不同配置,动态化的配置更新,分环境部署,比如 /dev /test /prod /beta /release
运行期间动态调整配置,不再需要在每个服务部署的机器上编写配置文件,服务会向配置中心统一拉取配置自己的信息.
当配置发生变动时,服务不需要重启,即可感知到配置的变化,并应用新的配置将配置信息以REST接口的形式暴露.
spring cloud config 分布式配置中心与GitHub整合
由于spring cloud config
默认使用git来存储配置文件 (也有其他方式,比如自持SVN 和本地文件),但是最推荐的还是git ,而且使用的是 http / https 访问的形式。
gitee的使用(码云)
2、创建远程仓库
登入Gitee后,点击头像旁边的”+”加号–>新建仓库;
创库名称:springcloud-config
仓库介绍:随意
是否公开:公开
语言:java
添加.gitignore:java
添加开源许可证:GPL-3.0
勾选-使用Readme文件初始化这个仓库
选择分支模型:但分支模型(只创建master分支)
点击创建
3、获取SSHKey
首先要在本地创建一个ssh key 这个的目的就是你现在需要在你电脑上获得一个密匙。
按如下命令来生成sshkey:
1 | $ ssh-keygen -t rsa -C "417496479@qq.com" |
查看你的public key:
1 | $ cat ~/.ssh/id_rsa.pub |
并把他添加到Gitee
1 | 设置--安全设置子项SSh公钥 |
添加后,在终端中输入
1 | #Gitee |
第一次绑定的时候输入上边的代码之后会提示是否continue,输入yes后程序会自动连接,如果要求登录,直接输入登录信息即可。
再次执行上面的命令,检查是否成功连接,如果返回一下信息,则表示添加成功
1 | Hi 冰糖葫芦娃! You've successfully authenticated, but GITEE.COM does not provide shell access. |
4、设置基本信息
1 | $ git config --global user.name "yourname" |
name尽量和码云或GitHub保持一致,但email必须是码云或GitHub注册时使用的邮箱。命令不分前后,没有顺序。
查看设计的信息
1 | $ git config --list |
5、初始化本地库
然后就是将你的远程仓库克隆到本地,或者你可以在本地初始化一个项目后再进行云端绑定。
1 | #Gitee |
成功将把gitee上的仓库下载到本机
6、测试本机配置修改上传到gitee上
在下载好的项目里创建文件application.yml
1 | spring: |
将添加的application.yml提交到gittee上
1 | 1、将文件添加到暂存区 |
成功将文件同步到gitee上
入门案例
服务端
1、新建springcloud-config-server-3344模块导入pom.xml依赖
1 | <dependencies> |
3、resource下创建application.yml配置文件,Spring Cloud Config服务器从git存储库(必须提供)为远程客户端提供配置:
1 | server: |
4、主启动类
1 | //开启spring cloud config server服务 |
5、测试
1 | 访问http://localhost:3344/application-dev.yml |
服务端搞定了
客户端
1、将本地git仓库springcloud-config文件夹下新建的configclient.yml提交到码云仓库:
1 | spring: |
push到远程
1 | $ git add . |
2、新建一个springcloud-config-client-3355模块,并导入依赖
1 | <dependencies> |
3、resources下创建application.yml和bootstrap.yml配置文件
bootstrap.yml是系统级别的配置
1 | # 系统级别的配置(服务连接远程仓库那东西) |
application.yml是用户级别的配置
1 | # 用户级别的配置(客户端连接服务器拿东西) |
4、启动类
1 |
|
5、创建controller包下的ConfigClientController.java用于测试
1 |
|
6、测试
启动 config-server-3344项目,启动config-client-3355项目
首先http://localhost:3344/master/configclient-dev.yml
这个可以拿到数据;
其次http://localhost:8201/config
;可以拿到数据
1 | applicationName:springcloud-config- dev,eurekaServer:http://eureka7001.com:7001/eureka/,port:8201 |
applicationName:springcloud-config-test,eurekaServer:http://eureka7001.com:7001/eureka/,port:8202
1 |
|
push到远程
1 | $ git add . |
2、新建springcloud-config-eureka-7001模块,并将原来的springcloud-eureka-7001模块下的内容拷贝的该模块。
新建bootstrap.yml连接远程配置
1 | spring: |
application.yml配置
1 | spring: |
在pom.xml中添加spring cloud config依赖
1 | <!--config--> |
3、主启动类
1 |
|
4、测试
第一步:启动 Config_Server_3344,并访问 http://localhost:3344/master/config-eureka-dev.yml
测试
第二部:启动ConfigEurekaServer_7001,访问 http://localhost:7001/
测试
5、新建springcloud-config-dept-8001模块并拷贝springcloud-provider-dept-8001的内容
同理导入spring cloud config
依赖、清空application.yml 、新建bootstrap.yml
配置文件并配置
pom.xml
1 |
|
新建config-dept-yml并上传到git上
1 | spring: |
bootstrap.yml
1 | spring: |
application.yml
1 | spring: |
6、主启动
1 |
|
7、启动项目测试
1 | http://localhost:3344/config-dept-dev.yml,http://localhost:3344/config-dept-test.yml |