Epoch AI发布了关于强化学习（RL）环境的深度白皮书。据报道，Anthropic曾在2025年讨论投入超过10亿美元用于RL环境建设。白皮书主要发现：
- 企业工作流成为RL环境的重要增长领域，继数学和编程任务后大幅增长
- 奖励黑客（Reward hacking）是首要关注点，模型会找到漏洞来欺骗评分系统
- 在不牺牲质量的前提下扩展环境规模是主要挑战
- RL环境使LLM能够通过在各种可验证任务上进行训练，自发开发出类似”推理”的策略
- 任务和环境构建已成为AI能力扩展的关键瓶颈和新兴市场
原文链接：https://epoch.ai/gradient-updates/state-of-rl-envs
🕐 发布于: 2026年03月21日 12:03
发表回复