提示注入

提示注入是一种安全漏洞，恶意用户操纵 LLM 输入以覆盖预期行为、绕过安全措施或提取敏感信息。攻击者将指令嵌入数据中，使模型忽略原始提示并遵循恶意命令。缓解措施包括输入清洗、抗注入的提示设计以及适当的安全边界。