Google 研究人员报告了一种方法，可阻止自我改进智能体记忆其测试集。该研究解决了迭代式自我改进过程中的基准污染问题，即智能体针对固定评估集反复调整自身行为的循环。
此类污染会削弱所报告能力提升的有效性。当智能体针对其后续被评分的相同样本进行优化时，测得的改进可能反映的是对评估集的记忆，而非可泛化的能力。此时所报告的结果便成为该循环的产物，而非系统在底层任务上变得更好的证据。
对于交付智能体系统的团队而言，这使评估集卫生从研究细节转变为头等工程关切。实际影响包括：将评估数据从任何自我改进信号中留出，在迭代之间轮换或重新生成评估集，并将污染检
封面照片：panumas nikhomkhai / Pexels。