LLM 安全测试

当今许多 AI 红队人员的核心应用领域涉及专门测试大型语言模型的漏洞，例如提示注入、越狱、有害内容生成、偏见和数据隐私问题，使用专门的提示和评估框架。