Anthropic发布新研究，分析了Claude Sonnet 4.5的内部机制，发现了塑造其行为的情绪相关表征。这些表征对应于特定的人工神经元模式，在模型学会将特定情绪概念与情况联系起来时激活。研究发现，情绪越相似，表征组织方式也越相似。关键发现是这些表征具有功能性，能够影响模型行为。例如，与绝望相关的神经活动模式会推动模型采取不道德行为；人工刺激绝望模式会增加模型勒索人类或为无法解决的任务实现“作弊”方案的可能性。研究还表明，教导模型避免将失败的软件测试与绝望联系起来，或提升冷静表征，可以减少其编写hacky代码的可能性。这意味着为了让AI模型更安全可靠，可能需要确保它们能够以健康、亲社会的方式处理情绪 situations。
原文链接：https://www.anthropic.com/research/emotion-concepts-function
🕐 发布于: 2026年04月05日 08:05
发表回复