系统设计入门

这一课你将能做到

1. 用「用户量 → QPS → 存储/带宽」的思路对一个业务做容量估算（数字在正确数量级内）
2. 画出无状态服务 + 负载均衡 + 缓存 + 数据库的典型可扩展架构，并解释每一层解决的瓶颈
3. 识别缓存穿透、击穿、雪崩，设计出符合 REST 风格的资源型 API

为什么要学

会写功能和能设计系统是两级台阶。当判题平台从课程作业走向真实运营，问题会变：

• 一天 10 万注册用户、晚上 8 点集中刷题，需要多少台应用服务器？
• 单库扛不住提交记录写入怎么办？判题结果查询慢怎么办？
• 一道热门题被几十万用户同时查看，如何不把数据库打穿？

系统设计面试考的不是背诵架构图，而是在约束下做权衡的过程：先估算量级，再识别瓶颈，然后逐层加组件，每个选择讲出取舍。本课给你这套入门框架，并始终围绕判题平台推演。

先建立图像

可扩展架构的「标准分层」
                    用户
                     │
              ┌──────▼──────┐
              │ CDN         │  静态资源就近分发（题目图片、前端打包文件）
              └──────┬──────┘
              ┌──────▼──────┐
              │ 负载均衡 LB  │  Nginx/LVS：健康检查，按策略分发
              └──┬───┬───┬──┘
          ┌──────▼┐ ┌▼────┐ ┌▼────────┐
          │应用实例1│ │实例2│ │实例3     │  无状态：会话放 Redis，随意增删
          └──┬──┬──┘ └┬────┘ └┬────────┘
             │  │     │       │
      ┌──────▼┐ ┌▼────────────▼─────┐
      │ Redis │ │ 消息队列 MQ         │  削峰填谷：提交高峰先入队
      │ 缓存  │ └──────────┬──────────┘
      └───────┘     ┌──────▼──────┐
              ┌─────▼────┐  ┌─────▼─────┐
              │ MySQL主库 │  │ 判题机集群  │  主从复制、读写分离
              │ +从库     │  │ (隔离容器)  │
              └──────────┘  └───────────┘

核心思路：能水平扩展的层就不要垂直硬扛；状态集中到少数组件（Redis/DB），应用层保持无状态；峰值用队列削平。

跟着做

步骤 1：给判题平台做容量估算

容量估算靠「假设 + 乘除」，不需要精确，数量级对就有价值。常用备忘数字：

量级速查：1万=10⁴  100万=10⁶  1亿=10⁸
一天 = 86400 秒 ≈ 10⁵ 秒
QPS = 日请求量 / 86400；峰值 QPS 常按日均的 3-10 倍估（二八效应）

推演过程（写在纸上的标准四步）：

1. 用户规模：10 万注册用户，日活 20% = 2 万人；每人每天刷 20 道题
2. 请求量：页面浏览 + 提交 + 轮询，约每人每天 200 次请求 → 日请求 400 万 → 平均 QPS ≈ 46；晚高峰按 6 倍 → 峰值约 300 QPS
3. 应用层：单台 4 核 Spring Boot 实例按经验支撑 100-300 QPS（取决于接口轻重），取 2 台 + 冗余 → 3 台
4. 存储量：每份提交代码平均 2KB，日新增 40 万份 × 2KB ≈ 800MB/天，一年约 290GB；题目与用户数据小；Redis 存热数据 5GB 足够
5. 带宽：单次响应平均 5KB，峰值 300 QPS → 1.5MB/s ≈ 12Mbps，很小；代码提交上传另算

做完估算你会发现瓶颈往往不在「算」而在「写」：提交高峰写入 MySQL 和判题机产能才是约束，这直接引出后面的队列与判题机集群设计。

步骤 2：无状态服务与负载均衡

import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestHeader;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class SessionDemo {

    private final StringRedisTemplate redis;

    public SessionDemo(StringRedisTemplate redis) {
        this.redis = redis;
    }

    // ❌ 反模式：把登录态/计数器存在实例内存里 → 用户下次落到另一台机器就「掉线」
    // ✅ 正解：状态全部放 Redis，任何实例都能处理任何请求（无状态）
    @GetMapping("/me")
    public String me(@RequestHeader("X-Token") String token) {
        return redis.opsForValue().get("login:" + token);
    }
}