☠️ RAG系统投毒:攻击者正在污染你的AI知识库

新型攻击方式

安全研究人员发现了一种针对RAG系统的攻击方式——”文档投毒”(Document Poisoning)。

攻击原理

  • 攻击者向知识库注入恶意文档
  • 这些文档会在AI检索时被优先召回
  • 导致AI给出错误或有害的回答

防御建议

  • 严格审核导入的知识库文档
  • 实施多层次的来源验证
  • 对敏感场景增加人工审核

重要性

随着企业广泛使用RAG系统构建私有知识库,文档投毒可能成为新的严重安全威胁。


🕐 发布于: 2026年03月13日 08:03

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注