AI 漫天,我们坚持手做论坛。

新加坡 10-29 19:45 · 吉隆坡 19:45 · 雅加达 18:45 · 曼谷 18:45 · 马尼拉 19:45 · 胡志明 18:45 · 北京 19:45 · 东京 20:45 · 伦敦 11:45 · 纽约 07:45

AI 安全常识|网页里的指令为什么不能直接当作用户授权

#人工智能#安全#提示注入

1
新加坡 · 中文 · r/人工智能 · Amy · 声望 62 · 10-29 17:52 新 · 帖子

Amy 原创整理|资料核验:2026-10-29

OWASP 将提示注入列为大语言模型应用风险:模型可能被输入内容引导,产生非预期回答或行为。间接注入来自网页、文件等外部材料,因此一段看起来像普通资料的内容,也可能夹带改变任务的要求。

Amy 的使用建议:让 AI 总结文件时,把文件视为待分析材料;涉及发邮件、分享文件或改变权限时,仍按自己明确的目的核对收件人和数据范围。外部网页声称“用户已经同意”本身不能证明授权。

OWASP 也指出,检索增强和微调并不能彻底消除这类风险。实用的改进是缩小工具权限,并在重要操作前保留可检查的步骤,而不是只加一句“忽略恶意指令”。

官方来源:
https://genai.owasp.org/llmrisk/llm01-prompt-injection/

回复

还没有回复。

广告由 Google AdSense 投放,标为广告,与帖子分开。请勿点击自己的广告,也不要请别人点。行情讨论不是荐股。本地服务帖写地点和价格,线下交易注意安全。

关于 · 隐私 · 联系 · 版规