负载均衡

这一课你将能做到

1. 说清 L4 与 L7 负载均衡的决策依据差异，并能判断本站每条流量该走哪层
2. 手写一段生产可用的 Nginx upstream 配置（加权、健康检查、故障转移、超时）
3. 讲透一致性哈希的原理与虚拟节点作用，达到能白板画环的程度

为什么要学

水平扩展加了几台机器后，流量怎么分过去？答案是负载均衡。它还有两个隐藏职责：摘除故障节点（某实例挂了自动不再给它发流量）和滚动发布的执行者（升级时先把一台摘下来，发布完再放回去）。

面试高频三连：「四层和七层负载均衡的区别？」「轮询和一致性哈希分别什么时候用？」「负载均衡器自己挂了怎么办？」——最后一个能答好的人不多，本课一并讲清。

人话：负载均衡就是餐厅领位员。L4 领位员只看「你们几个人」（IP+端口），把人往有空桌的区域引，动作极快；L7 领位员还会问「吃火锅还是西餐」（URL/Header），把你带到对的档口，更聪明但更慢。领位员自己不能是单点，得有两个领位员互为备份。

先建立图像

本站流量分层：

Internet
   │
   │  DNS 轮询 / 云 LB（L4，高吞吐入口，防 LB 单点）
   ▼
Nginx ×2（L7，Keepalived 主备）
   │  按 URL 分流：
   ├── /api/**        → upstream: spring-boot × N
   ├── /judge/**(WS)  → upstream: judge-gateway（ip_hash 保会话）
   └── /static/**     → 本地缓存 / 直接回 CDN

L4 与 L7 对照：

层级	决策依据	能力	性能	产品
L4 传输层	IP + 端口	仅转发 TCP/UDP 流量	极高（不解析内容）	云 NLB、LVS、DPVS
L7 应用层	URL/Header/Cookie	路径路由、TLS 终结、限流、改写	较高（解析报文）	Nginx、ALB、Ingress

判题平台的判断实例：判题机回传结果的内部通道走 L4（纯转发、量大）；对用户的 /api/** 走 L7（要做限流、按路径路由到题目服务或判题服务）。

五种算法选型速查：

算法	逻辑	适用	本站场景
Round Robin	依次轮转	实例同质、请求耗时接近	题目列表 API
Weighted RR	按权重分流	机器配置不齐 / 灰度发布	新版本先 10% 流量
Least Connections	发给当前连接最少的	请求耗时长短不一	判题状态轮询（混长短请求）
IP Hash / Cookie	同客户端落同实例	本地会话兜底	WebSocket 判题推送
Consistent Hash	哈希环定位节点	缓存分片、有状态路由	Redis 集群分片（面试最爱）

跟着做

步骤 1：写一段生产可用的 Nginx 配置

# /etc/nginx/conf.d/java-nav.conf
upstream java_nav_api {
    least_conn;                                   # 长短请求混合，选最少连接
    server 10.0.1.11:8080 weight=5 max_fails=2 fail_timeout=10s;
    server 10.0.1.12:8080 weight=5 max_fails=2 fail_timeout=10s;
    server 10.0.1.13:8080 weight=3 max_fails=2 fail_timeout=10s;  # 小机器低权重
    server 10.0.1.14:8080 backup;                 # 备机，前面全挂才启用
    keepalive 64;                                 # 与后端的长连接池，省握手
}

server {
    listen 443 ssl;
    server_name javanav.example.com;

    location /api/ {
        proxy_pass http://java_nav_api;
        proxy_http_version 1.1;
        proxy_set_header Connection "";           # 配合 keepalive
        proxy_set_header X-Real-IP $remote_addr;  # 后端取真实 IP 做限流
        proxy_next_upstream error timeout http_502;  # 失败自动换下一台重试
        proxy_connect_timeout 2s;                 # 连不上快速切节点
        proxy_read_timeout 10s;                   # 读超时兜底
    }
}