提示词注入

提示词注入是 AI 红队测试人员重点检测的关键漏洞。他们试图向 LLM 的输入中插入指令，覆盖其预设的系统提示词或任务，使其执行未授权操作、泄露数据或生成恶意输出。这检验的是模型区分可信指令与潜在有害的用户/外部输入的能力。