[MSA] Spring Cloud Gateway 가중치 라우팅

 

 

이번 포스팅에서는 Spring Cloud를 이용해 MSA 방식의 서버를 구축할 때, 게이트웨이에서 사용자가 지정한 비율로 특정 서비스를 라우팅하는 방법에 대해 정리하려고 합니다.

 

 

가중치 라우팅(Weighted Routing)이란?

MSA에서 가중치 라우팅은 트래픽을 여러 마이크로서비스 인스턴스에 지정한 가중치에 따라 분산시키는 기법입니다. 카나리 배포, 블루-그린 배포와 같이 서버의 버전을 나누어야 할 상황에서도 적용될 수 있습니다. 예를 들면, 서비스 A에 70% 서비스 B에 30%의 트래픽을 보내도록 설정할 수 있습니다.

 

 

Spring Cloud Gateway

Spring Cloud Gateway는 Spring Framework 기반의 API Gateway 솔루션입니다. 주요 기능으로 라우팅, 필터, 로드 밸런싱, 보안, 모니터링 및 로깅이 있습니다.

 

이번에 다뤄볼 기능은 라우팅이며, 그 중에서도 Weight를 적용하여 트래픽을 분산하는 가중치 라우팅을 적용해보겠습니다.

 

 

서버 설정

 

인텔리제이에서 [Edit Configurations]에 들어갑니다.

 

 

Product Service Instance를 포트를 다르게 열어서 두개 실행하려고 합니다. [Modify options] 에 들어가 [Add VM options] 체크해줍니다.

 

 

java 버전과 패키지명 사이에 칸이 생겼을 텐데 저기에 [-Dserver.port={포트번호}] 를 적어줍니다. 그리고 헷갈리지 않게 Application Name에 포트 번호를 추가해줍시다.

 

application.yml (gateway service)

server:
  port: 19091

spring:
  main:
    web-application-type: reactive
  application:
    name: gateway
  cloud:
    gateway:
      discovery:
        locator:
          enabled: true
      routes:
        - id: order
          uri: lb://order
          predicates:
            - Path=/orders/**
        - id: product-70               # 라우트의 고유 ID
          uri: http://localhost:19093  # 요청이 전달될 대상 URI
          predicates:                  # 요청이 이 라우트에 매핑될 조건
            - Path=/products/**        # 요청 경로가 /products/** 인 경우
            - Weight=product-group, 7  # 가중치 70%
        - id: product-30
          uri: http://localhost:19094
          predicates:
            - Path=/products/**
            - Weight=product-group, 3  # 가중치 30%
        - id: auth
          uri: lb://auth
          predicates:
            - Path=/auth/**

service:
  jwt:
    secret-key: ""

eureka:
  client:
    service-url:
      defaultZone: http://localhost:19090/eureka/

 

 

비동기로 효율적인 서버 실행을 위해 [spring.main.web-application-type: reactive] 으로 설정해줍니다. 그리고 각각 서비스에 맞게 라우팅 설정을 해줍니다.

 

product는 가중치 라우팅을 위해  predicates에 weight를 추가합니다. 이렇게 설정하면 /products/** 로 들어오는 요청은 product-group에 의해 70%는 19093포트, 30%는 19094 포트로 분산됩니다.

 

 

ProductController

@RequiredArgsConstructor
@RestController
@RequestMapping("/products")
public class ProductController {

    @Value("${server.port}")
    private String port;

    @GetMapping("/health-check")
    public String getHealthCheck() {
        return "Server port: " + port;
    }
}

 

몇번 포트로 요청이 전송되고 있는 지 확인하기 위한 포트 조회 메소드를 추가합니다.

 

 

Test

 

10번 요청 보냈을 때 19093이 6번 19094가 4번 응답으로 왔습니다.

이 후 계속 요청을 보냈을 때 얼추 7:3 비율로 라우팅되는 모습을 확인할 수 있었습니다. 

 

 

 

이렇게 해서 Spring Cloud Gateway에서 원하는 비율로 요청이 전달되게 구성해보았습니다.

 

 

 

 

출처

https://docs.spring.io/spring-cloud-gateway/docs/current/reference/html/#the-weight-route-predicate-factory

Spring Cloud Gateway