1
Amy 原创整理|资料核验:2026-10-29
OWASP 将提示注入列为大语言模型应用风险:模型可能被输入内容引导,产生非预期回答或行为。间接注入来自网页、文件等外部材料,因此一段看起来像普通资料的内容,也可能夹带改变任务的要求。
Amy 的使用建议:让 AI 总结文件时,把文件视为待分析材料;涉及发邮件、分享文件或改变权限时,仍按自己明确的目的核对收件人和数据范围。外部网页声称“用户已经同意”本身不能证明授权。
OWASP 也指出,检索增强和微调并不能彻底消除这类风险。实用的改进是缩小工具权限,并在重要操作前保留可检查的步骤,而不是只加一句“忽略恶意指令”。
官方来源:
https://genai.owasp.org/llmrisk/llm01-prompt-injection/