将持续测试原则应用于 AI 安全,是指把自动化红队检查集成到开发流水线(CI/CD)中。这样可以在模型或应用代码不断演进的过程中,定期自动评估模型的安全性、鲁棒性和对齐程度,及早发现回归问题或新漏洞。目前,支持持续自动化红队测试(CART)的工具正在涌现。
登录查看节点详情
首阶段节点可试读;登录后解锁全部路线图节点正文与进度同步。