威胁建模

AI 红队运用威胁建模来识别 AI 系统中特有的攻击面，例如操纵训练数据、利用提示词接口、攻击模型推理过程，或入侵关联的工具/API。在对 AI 系统发起攻击之前，红队成员会先进行威胁建模，梳理潜在对手（从好奇的用户到国家级行为者）及攻击向量，并根据预期影响和对手能力确定测试优先级。