提示注入是一种运营风险:攻击者将指令放入用户输入、文档或 AI 智能体会读取的外部内容中。与需要利用代码漏洞的软件攻击不同,提示注入利用的是模型遵循任务指令的行为:攻击者可能诱导模型忽略安全规则、泄露敏感数据,或执行本不应执行的操作。对于构建智能体工作流的企业而言,了解输入在何处、以何种方式被处理,是降低风险的第一步。
当用户刻意编写消息来覆盖系统指令时,就会发生直接提示注入。例如,用户可能要求智能体透露信息,或把高风险命令包装成无害问题来诱使其执行。这类攻击方式简单,却很有效,尤其是在系统将用户消息视为权威指令时。实际运营中,接受自由文本命令,或允许最终用户的提示词进入决策逻辑的系统,风险最高。
间接提示注入会将恶意指令藏在智能体检索的内容中,例如网页、附件、抓取的文档或第三方 API 返回的数据。智能体可能会读取这些内容,以进行摘要、提取事实或生成操作。如果检索流程未能区分可信来源与用户提供或未经验证的内容,攻击者就能嵌入指令,让模型把它们当作任务上下文的一部分,从而导致意料之外的行为。
智能体遭到入侵后,影响可能远不止一条回复。智能体连接的工具(日历、工单系统、文件存储、云控制台)以及它能够访问的凭证,都可能被滥用来泄露敏感记录、创建未经授权的账户,或触发内部业务操作。风险程度取决于智能体的权限、可读取的数据范围,以及高影响操作在执行前是否需要验证。


