提示词注入

通俗解释

提示词注入分为直接注入(用户直接命令模型忽略规则)和间接注入(网页、邮件、文档里藏指令)。风险包括泄露系统提示、越权调用工具、篡改输出和诱导转账。防御不能只靠“不要听用户的”这类提示词,需要权限最小化、工具调用白名单、外部内容隔离、输出校验和人工确认高风险动作。任何能读网页或邮件的 Agent 都必须假设内容不可信。