对抗训练

AI Red Teamers 评估对抗训练作为防御措施的有效性。他们测试在对抗样本上训练的模型是否真正稳健，或者新的、未见过的对抗攻击是否仍然能够绕过加固的防御。这有助于完善对抗训练过程本身。