Spring Cloud - 2（ 12000 字详解 Spring Cloud）

一：服务注册和服务发现 - Eureka

1.1 背景

在上一章节的例子中，我们可以看到远程调用时 URL 被硬编码，这导致在更换机器或新增机器时，相关的 URL 需要进行相应的变更。这就需要让所有相关服务去修改 URL，随之而来的就是各个项目配置文件的频繁更新和项目的重复部署。这种虽然没有实际意义却又不得不进行的工作，给人带来了很大的困扰和痛苦。

String url = "http://127.0.0.1:9090/product/"+ orderInfo.getProductId();

1.2 解决思路

在我们的日常生活中，我们经常需要与各种机构打交道，比如说医院、学校、政府部门等等，因此我们需要保存它们的电话号码。但是如果构更换了电话号码，想要通知所有使用这些号码的用户就变得非常困难，因为相关的用户群体往往非常庞大。那么，我们该如何处理这种情况呢？

一种有效的解决方案是引入一个中间件 114 查号台，通过 114 查号台进行电话管理。当机构的电话号码发生变化时，服务方会将最新号码上报给 114 查号台。用户在需要联系某个机构时，可以先拨打 114 查询最新的电话号码，然后再与相应的机构取得联系。114 查号台的主要功能包括号码注册和号码查询，号码注册即服务方将电话信息提交给 114查号台，让查号台有你这个数据，号码查询即用户可以通过 114 查号台获取到相应机构的最新电话号码。

这种模式的关键是让 114 查号台随时都有着最新的信息，不直接让用户和机构进行交互，而是让用户和查号台、机构和查号台进行交互，当机构的号码变了之后就在查号台中更新信息，当用户需要知道最新号码了，就直接和查号台直接进行交互。

同样地，在微服务开发中，我们也可以采用类似的方案。当服务启动或发生变更时，服务会向注册中心进行注册，注册中心记录应用与其 IP 地址的关系，这样注册中心就随时都有着服务最新的一些信息。在进行远程调用时，调用方就可以向注册中心查询目标服务最新的 IP 地址，然后再通过该 IP 地址进行实际调用。这种方式有效地减少了调用方对服务提供方 IP 的依赖，提高了系统的灵活性和可维护性。

1.3 什么是注册中心

在最初的架构体系中，集群的概念并不流行，且机器数量相对较少，此时通过 DNS 和 Nginx 即可满足大部分服务的发现需求，相关的注册信息直接配置在 Nginx 中。但是随着微服务的兴起和流量的激增，机器规模逐渐扩大，频繁的上下线行为使得运维人员需要手动维护这些配置信息，这变得非常繁琐。因此开发者们开始希望能有一个工具，能够维护一个自动更新的服务列表，记录哪些机器已上线，哪些机器已宕机。客户端只需获取这个服务列表，就可以直接对那些已经上线的服务进行调用。这就是注册中心的作用，注册中心主要有三种角色：

角色	描述
服务提供者 (Server)	在一次业务中，被其他微服务调用的服务，提供接口给其他微服务使用。
服务消费者 (Client)	在一次业务中，调用其他微服务的服务，使用其他微服务提供的接口。
服务注册中心 (Registry)	用于保存服务提供者的注册信息，当服务节点发生变更时，注册中心会同步这些变更。 服务与注册中心通过一定机制进行通信，如果注册中心长时间无法与某服务通信，该实例将被注销。

• 服务注册：服务提供者在启动时会向注册中心注册自身服务，并定期向注册中心发送心跳信号，以汇报存活状态。
• 服务发现：服务消费者从注册中心查询服务提供者的地址，接着可以通过该地址调用服务提供者的接口。服务发现的重要功能之一是为服务消费者提供一个可用的服务列表。

1.4 CAP 理论

谈到注册中心，就避不开 CAP 理论。CAP 理论是分布式系统设计中最基础且关键的理论，它包含以下三项内容：

• 一致性 (Consistency)：指的是强一致性，即所有节点在同一时间拥有相同的数据。
• 可用性 (Availability)：确保每个请求都有响应，尽管响应结果可能不正确。
• 分区容错性 (Partition Tolerance)：在出现网络分区的情况下，系统仍然能够对外提供服务。

CAP 理论表明，分布式系统不可能同时满足数据一致性、服务可用性和分区容错性这三个基本需求，最多只能同时满足其中的两个。在分布式系统中，由于网络无法保证 100% 的健康，而服务又必须对外提供可用性，因此分区容错性是不可避免的。这意味着在一致性和可用性之间必须做出选择，系统架构因此可以分为 CP 架构和 AP 架构。

正常情况:

网络异常:

在 CP 架构中，为了确保分布式系统对外的数据一致性，系统通常选择不返回任何数据，直到数据的一致性得到确认。而在 AP 架构中，为了保证分布式系统的可用性，节点可能会返回版本 V0 的数据，即使这个数据可能并不准确。

注册中心	描述
Zookeeper	虽然官方没有将 Zookeeper 定义为注册中心，但在国内 Java 生态中，大多数集群环境依赖 Zookeeper 来实现服务注册中心的功能。
Eureka	Eureka 是 Netflix 开发的基于REST的服务发现框架，主要用于服务注册、管理、负载均衡和故障转移。官方声明 Eureka 2.0 版本已停止维护，不建议使用，但由于它是 Spring Cloud 的默认实现，仍有许多公司在使用。
Nacos	Nacos 是 Spring Cloud Alibaba 架构中的重要组件，除了提供服务注册和发现功能外，还支持配置管理、流量管理、DNS 和动态 DNS 等多种特性。

二：Eureka 简介

Eureka 是 Netflix OSS 套件中专注于服务注册和发现的解决方案。Spring Cloud 对 Eureka 进行了集成，并作为优先推荐的方案进行推广。尽管 Eureka 2.0 目前已停止维护，并且新微服务架构设计中不再建议使用它，但仍然有大量公司的微服务系统在使用 Eureka 作为注册中心，Eureka 主要分为两个部分：

• Eureka Server：作为注册中心的 Server 端，Eureka Server 为微服务应用程序提供服务注册、发现和健康检查等功能。
• Eureka Client：服务提供者在服务启动时会作为 Eureka Client 注册到 Eureka Server。

2.1 搭建 Eureka Server

Eureka-server 是⼀个独立的微服务

2.1.1 创建 Eureka-server 子模块

2.1.2 引入 eureka-server 依赖和项目构建插件

<dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency><build><plugins><plugin><groupId>org.springframework.boot</groupId><artifactId>spring-boot-maven-plugin</artifactId></plugin></plugins>
</build>

2.1.3 完善启动类

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.server.EnableEurekaServer;@EnableEurekaServer
@SpringBootApplication
public class EurekaServerApplication {public static void main(String[] args) {SpringApplication.run(EurekaServerApplication.class, args);}
}

2.1.4 编写配置文件

server:port: 10010 # 设置Eureka Server监听的端口spring:application:name: eureka-server # 应用名称eureka:instance:hostname: localhost # Eureka Server的主机名client:fetch-registry: false # 是否从其他Eureka Server获取注册信息，默认为true。# 因为这是一个单点的Eureka Server，不需要同步其他节点的数据，这里设为false。register-with-eureka: false # 是否将自己注册到Eureka Server，默认为true。# 由于当前应用就是Eureka Server，因此设为false。sevice-url:# 设置与Eureka Server的地址，查询服务和注册服务都需要依赖这个地址。defaultZone: http://${eureka.instance.hostname}:${server.port}/eureka/

2.1.5 启动服务

启动服务并访问注册中心：http://127.0.0.1:10010/

2.2 服务注册

接下来我们把 product-service 注册到 eureka-server 中

2.2.1 引入 eureka-client 依赖

<dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

2.2.2 完善配置文件

spring:application:name: product-service # 应用名称eureka:client:service-url:defaultZone: http://127.0.0.1:10010/eureka # Eureka Server地址

2.2.3 启动服务

通过访问注册中心的地址 http://127.0.0.1:10010/，可以查看到 product-service 已成功注册到 Eureka 上。

2.3 服务发现

接下来我们对 order-service 进行修改，在远程调用时，从 Eureka Server 获取 product-service 的服务信息，实现服务发现。

2.3.1 引入依赖

服务注册和服务发现都封装在 eureka-client 依赖中, 所以服务发现时也是引入 eureka-client 依赖

<dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

2.3.2 完善配置文件

spring:application:name: product-serviceeureka:client:service-url:defaultZone: http://127.0.0.1:10010/eureka

2.3.3 远程调用

在进行远程调用时，我们需要从 Eureka Server 获取 product-service 的服务列表，这个列表可能会有多个服务，并从中选择一个进行调用。

import com.bite.order.mapper.OrderMapper;
import com.bite.order.model.OrderInfo;
import com.bite.order.model.ProductInfo;
import org.slf4j.Slf4j;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import jakarta.annotation.Resource;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.netflix.eureka.EurekaServiceInstance;
import org.springframework.stereotype.Service;
import org.springframework.web.client.RestTemplate;import java.util.List;@Slf4j
@Service
public class OrderService {@Autowiredprivate OrderMapper orderMapper;  @Resourceprivate DiscoveryClient discoveryClient;  // 注入 DiscoveryClient，用于服务发现@Autowiredprivate RestTemplate restTemplate;  // 注入 RestTemplate，用于进行 HTTP 请求// 根据订单 ID 查询订单信息public OrderInfo selectOrderById(Integer orderId) {// 从数据库中获取订单信息OrderInfo orderInfo = orderMapper.selectOrderById(orderId);// 根据服务名称获取 product-service 实例列表List<ServiceInstance> instances = discoveryClient.getInstances("product-service");// 从实例列表中获取第一个服务实例EurekaServiceInstance instance = (EurekaServiceInstance) instances.get(0);// 记录服务实例 ID，便于调试log.info(instance.getInstanceId());// 拼接调用 product-service 的 URLString url = instance.getUri() + "/product/" + orderInfo.getProductId();// 通过 RestTemplate 发起 GET 请求，获取产品信息ProductInfo productInfo = restTemplate.getForObject(url, ProductInfo.class);// 将获取到的产品信息设置到订单信息中orderInfo.setProductInfo(productInfo);// 返回更新后的订单信息return orderInfo;}
}

2.3.4 启动服务

通过访问注册中心 http://127.0.0.1:10010/，可以看到 order-service 已成功注册到 Eureka 上。此外，访问接口 http://127.0.0.1:8080/order/1 也表明远程调用已经顺利完成。

三：负载均衡 - LoadBalance

List<ServiceInstance> instances = discoveryClient.getInstances("product-service");
//服务可能有多个, 获取第⼀个
EurekaServiceInstance instance = (EurekaServiceInstance) instances.get(0);

这段代码是我们在介绍 Eureka 时编写的，它根据应用名称获取服务实例列表，并从中选择了一个服务实例。但是我们此时思考一个问题：如果我们启动了两个 product-service 实例，此时实例列表中就会包含两个 product-service 实例。那么，如何确保流量能够合理地分配到这多个实例上呢？

我们再启动两个 product-service 实例，选中要启动的服务，右键点击并选择 Copy Configuration…。接着，在弹出的窗口中，选择 Modify options -> Add VM options，然后添加以下 JVM 选项：-Dserver.port=9091。

现在 IDEA 的 Service 窗口中会多出一个启动配置。右键点击该配置即可启动服务。通过相同的操作，再启动一个实例，这样就可以总共启动三个 product-service 实例。

观察 Eureka, 可以看到 product-service下有三个实例:

注意：此时如果发起多次请求的话指向的都是同一台机器，因为我们之前的代码是有问题的，这显然不是我们想要的结果。我们启动多个实例的目的是希望能够分担其他机器的负载。那么，如何实现这一点呢？解决方案是对上述代码进行简单修改。

// 用于生成服务实例的轮询索引
private static AtomicInteger atomicInteger = new AtomicInteger(1);
// 存储获取到的服务实例列表
private static List<ServiceInstance> instances;// 初始化方法，获取“product-service”的所有服务实例
@PostConstruct
public void init() {instances = discoveryClient.getInstances("product-service");
}// 根据订单ID查询订单信息，并获取对应产品信息
public OrderInfo selectOrderById(Integer orderId) {// 查询订单信息OrderInfo orderInfo = orderMapper.selectOrderById(orderId);// 轮询获取服务实例的索引int index = atomicInteger.getAndIncrement() % instances.size();// 获取相应的服务实例ServiceInstance instance = instances.get(index);// 记录日志，输出当前使用的实例IDlog.info(instance.getInstanceId());// 拼接请求URLString url = instance.getUri() + "/product/" + orderInfo.getProductId();// 通过RestTemplate发送请求，获取产品信息ProductInfo productInfo = restTemplate.getForObject(url, ProductInfo.class);// 将产品信息设置到订单信息中orderInfo.setProductInfo(productInfo);return orderInfo; // 返回订单信息
}

3.1 什么是负载均衡

通过上述代码可以初步了解负载均衡的概念：负载均衡是将请求平均分配到不同实例上的过程。负载均衡是高并发、高可用系统中不可或缺的关键组件。当服务流量增大时，通常采用增加机器的方式进行扩容，而负载均衡则旨在根据一定规则，在多个机器或其他资源之间合理地分配负载。

在上述例子中，我们只是简单地实现了对实例的轮询，但实际业务场景往往更加复杂。例如，可以根据机器的配置进行负载分配，将流量更多地分配给配置较高的机器，而流量较少分配给配置较低的机器。这就类似于企业中强能力的员工可以承担更多工作。在多机部署的服务中，开发人员需要考虑负载均衡的实现，因此出现了一些负载均衡器来帮助我们实现这一目标。负载均衡主要分为服务端负载均衡和客户端负载均衡。

3.1.1 服务端负载均衡

服务端负载均衡通过特定的算法对请求进行分配，而 Nginx 是一个比较知名的服务端负载均衡器。当请求到达 Nginx 后，它会根据负载均衡算法在多个服务器之间选择一个进行访问，从而实现有效的流量管理和资源利用。

3.1.2 客户端负载均衡

客户端负载均衡是在客户端通过算法实现负载均衡功能，而不再依赖于单个指定的负载均衡设备集中提供此功能。例如，Spring Cloud 的 Ribbon 允许请求在客户端进行负载均衡处理。简单点说，请求首先发送到客户端，客户端从注册中心获取服务列表，然后通过负载均衡算法选择一个服务器进行访问。客户端负载均衡和服务端负载均衡最大的区别在于服务清单所存储的位置

3.2 Spring Cloud LoadBalancer 快速上手

自 2020.0.1 版本以来，Spring Cloud 移除了 Ribbon 组件，并采用 Spring Cloud LoadBalancer 组件来替代 Ribbon 实现客户端负载均衡。

3.2.1 使用 Spring Cloud LoadBalancer 实现负载均衡

1. 只需给 RestTemplate 这个 Bean 添加 @LoadBalanced 注解即可实现负载均衡功能。

@Configuration
public class BeanConfig {@Bean@LoadBalancedpublic RestTemplate restTemplate() {return new RestTemplate();}
}

2. 接着修改 IP 和端口号为服务名称

public OrderInfo selectOrderById(Integer orderId) {// 查询订单信息OrderInfo orderInfo = orderMapper.selectOrderById(orderId);// 构造产品信息的URLString url = "http://product-service/product/" + orderInfo.getProductId();// 调用外部服务获取产品信息ProductInfo productInfo = restTemplate.getForObject(url, ProductInfo.class);// 将产品信息设置到订单信息中orderInfo.setProductInfo(productInfo);return orderInfo;
}

启动多个 product-service 实例后，连续多次发送请求 http://127.0.0.1:8080/order/1，接着可以在 product-service 的日志中观察到负载均衡成功地将请求分配到了这三个实例上。

3.2.2 负载均衡策略

负载均衡策略是一种核心思想，无论使用何种负载均衡器，其基本策略都是相似的。Spring Cloud LoadBalancer 支持两种主要的负载均衡策略：轮询和随机选择。轮询策略通过轮流处理用户请求来分配负载，这是一种实现简单且常用的策略，类似于学校的值日生或轮流打扫卫生的场景。而随机选择策略则是随机选取一个后端服务器来处理新请求。

Spring Cloud LoadBalancer 的默认负载均衡策略是轮询策略，其实现为 RoundRobinLoadBalancer。如果服务消费者希望使用随机负载均衡策略，操作起来也非常简单。

3.2.2.1 定义随机算法对象

定义一个随机算法对象，并通过 @Bean 注解将其加载到 Spring 容器中，这里使用的是 Spring Cloud LoadBalancer 提供的 RandomLoadBalancer，注意：该类需要满足以下要求：首先不使用 @Configuration 注解；其次它必须位于组件扫描的范围内。

import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.loadbalancer.core.RandomLoadBalancer;
import org.springframework.cloud.loadbalancer.core.ReactorLoadBalancer;
import org.springframework.cloud.loadbalancer.core.ServiceInstanceListSupplier;
import org.springframework.cloud.loadbalancer.support.LoadBalancerClientFactory;
import org.springframework.context.annotation.Bean;
import org.springframework.core.env.Environment;public class LoadBalancerConfig {// 定义一个随机负载均衡器的 Bean@BeanReactorLoadBalancer<ServiceInstance> randomLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {// 获取当前负载均衡器的服务名称String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);System.out.println("=============="+name);// 创建并返回 RandomLoadBalancer 实例return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name,ServiceInstanceListSupplier.class), name);}
}

3.2.2.2 @LoadBalancerClient 或者 @LoadBalancerClients 注解

在 RestTemplate 配置类上使用 @LoadBalancerClient 或 @LoadBalancerClients 注解，可以为不同的服务提供者配置不同的客户端负载均衡算法策略。由于我们的项目中只有一个服务提供者，因此使用 @LoadBalancerClient 注解，其中 name 属性指定该负载均衡策略适用于哪个服务提供者，而 configuration 属性则指定使用哪个负载均衡策略实现。

import org.springframework.cloud.loadbalancer.annotation.LoadBalancerClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.web.client.RestTemplate;// 使用 @LoadBalancerClient 注解为 product-service 配置负载均衡策略
@LoadBalancerClient(name = "product-service", configuration = LoadBalancerConfig.class)
// 标记该类为 Spring 配置类
@Configuration
public class BeanConfig {// 创建一个带负载均衡支持的 RestTemplate Bean@Bean@LoadBalancedpublic RestTemplate restTemplate() {return new RestTemplate(); // 返回 RestTemplate 的实例}
}

3.2.3 服务部署

首先需要使用 Maven 对三个服务进行打包：eureka-server、order-service 和 product-service。打包方式与 Spring Boot 项目一致，依次对这三个项目进行打包即可。

接着将 Jar 包传输到云服务器，可以直接将文件拖动到 Xshell 窗口以完成上传。上传成功后，启动服务，并记得启动两台实例。

# 后台启动 eureka-server, 并设置输出日志到 logs/eureka.log
nohup java -jar eureka-server.jar > logs/eureka.log &# 后台启动 order-service, 并设置输出日志到 logs/order.log
nohup java -jar order-service.jar > logs/order.log &# 后台启动 product-service, 并设置输出日志到 logs/product-9090.log
nohup java -jar product-service.jar > logs/product-9090.log &# 启动 product-service 实例，指定端口号为 9091
nohup java -jar product-service.jar --server.port=9091 > logs/product-9091.log &# 启动 product-service 实例，指定端口号为 9092
nohup java -jar product-service.jar --server.port=9092 > logs/product-9092.log &

启动之前请确保云服务器的相关端口已经开放。根据自己项目的设置情况，在云服务器上开放所需的端口号。

最后分别访问 Eureka Server 和订单服务接口：http://110.41.51.65:8080/order/1