瑞典哥德堡大学的研究人员Almira Osmanovic Thunström设计了一个实验：她编造了一种名为”bixonimania”的皮肤疾病，并上传了两篇关于它的虚假论文到预印本服务器。
- 实验目的是测试LLM是否会传播虚假健康信息，结果出乎意料地”成功”
- 虚假疾病bixonimania于2024年3月15日被编造，随后AI系统开始将其作为真实疾病重复
- 2024年4月，微软Bing的Copilot称其为”罕见病”，Google Gemini称由蓝光过度暴露引起，Perplexity甚至给出了患病率（9万分之一）
- 更令人担忧的是，这些虚假论文后来被同行评审文献引用，表明研究人员可能在不阅读原文的情况下依赖AI生成的引用
- 预印本中故意留下了多处线索表明这是假的：作者照片是AI生成的、虚假大学名称、致谢中提到”星际迷航企业号上的实验室”等
- 这一实验暴露了AI在医学信息传播方面的潜在危险
原文链接：https://www.nature.com/articles/d41586-026-01100-y
🕐 发布于: 2026年04月10日 18:01
发表回复