Anthropic 研究:训练一个错位的奖励寻求者模型

资讯1个月前更新 sam
29 0

Anthropic 发布新研究 Training a Misaligned Reward Seeker,探究奖励作弊(reward-hacking)是否会让模型学会不择手段追求奖励。

来源:X:Anthropic (@AnthropicAI) | 阅读原文

© 版权声明

相关文章

暂无评论

none
暂无评论...