不适合用 AI 的任务

AI 在 安全、架构、未验证业务规则 上容易 自信地错。本课列出 默认不用 AI 独断 的场景，以及若必须辅助时的 最低人工护栏。

学习目标

• 识别高风险任务类别与典型失败模式
• 建立「AI 建议可以听，决策必须人做」的边界
• 衔接 ai-security、ai-limits

默认不独断的六类

类别	例子	AI 常见失误
安全	鉴权、加密、SQL、密钥处理	漏校验、硬编码模式
架构	服务拆分、数据库选型、缓存策略	忽视现有约束
合规	隐私、审计、许可证	编造法规或条款
业务规则	计费、库存、状态机	简化边界条件
性能关键路径	热点循环、并发原语	伪优化或竞态
生产配置	prod YAML、IAM、网络 ACL	过宽权限

原则：后果 难回滚或难发现 的，人不签字不 merge。

幻觉与过度自信

• 编造 API：仓库里不存在的方法，编译才报错
• 假测试：声称覆盖，实际断言为空
• 错版本：Training cutoff 外的框架写法

对策：测试 + 类型检查 + 人审 三件套；详见 testing-essentials。Never trust「AI 说可以了」。

若必须用 AI 辅助

人：先写威胁模型 / ADR 要点 / 业务规则表
AI：在约束内生成候选实现（禁止 secrets 进 prompt）
人：逐行审安全清单 + 渗透/静态扫描 + 同行 Review
CI：必须绿（含安全 lint 若有）

git-essentials 的 protected branch 在此尤为重要：AI 不能绕过门禁 push。

团队红线示例

红线	说明
禁止 AI 接触 prod 凭证	.env、kubeconfig 不进 Chat
禁止 AI 单独改 IAM	权限变更双人复核
禁止未 Review 的 Agent merge	与 ai-review 一致

CodeRoadMap 内容红线

• 不编造课程 slug 或 /tracks/... 链接
• 不复制受版权限制的整段外站教程
• 不把未核实的技术结论当「本站立场」

练习