新型攻击方式
安全研究人员发现了一种针对RAG系统的攻击方式——”文档投毒”(Document Poisoning)。
攻击原理
- 攻击者向知识库注入恶意文档
- 这些文档会在AI检索时被优先召回
- 导致AI给出错误或有害的回答
防御建议
- 严格审核导入的知识库文档
- 实施多层次的来源验证
- 对敏感场景增加人工审核
重要性
随着企业广泛使用RAG系统构建私有知识库,文档投毒可能成为新的严重安全威胁。
🕐 发布于: 2026年03月13日 08:03
安全研究人员发现了一种针对RAG系统的攻击方式——”文档投毒”(Document Poisoning)。
随着企业广泛使用RAG系统构建私有知识库,文档投毒可能成为新的严重安全威胁。
🕐 发布于: 2026年03月13日 08:03
发表回复