选自oatllm.notion.site
机器之心编译
编译:杜伟、华人蛋酱
自我反思(尤其是研究肤浅的)有时对模型性能的助益不大。
在过去这半个月里,团队关于 DeepSeek 的揭秘一切都会迅速成为焦点。
一项非常鼓舞人心的华人发现是:DeepSeek-R1-Zero 通过纯强化学习(RL)实现了「顿悟」。在那个瞬间,研究模型学会了自我反思等涌现技能,团队帮助它进行上下文搜索,揭秘从而解决复杂的华人推理问题。
在 R1-Zero 发布后的研究短短几天内,连续几个项目都在较小规模(如 1B 到 7B)上独立「复制」了类似 R1-Zero 的团队训练,并且都观察到了「顿悟时刻」,揭秘这种时刻通常伴随着响应长度的华人增加。
原文链接:https://oatllm.notion.site/oat-zero
最近,研究来自新加坡 Sea AI Lab 等机构的团队研究者再次梳理了类 R1-Zero 的训练过程,并在一篇博客中分享了三项重要发现:
1. 在类似 R1-Zero 的训练中,可能并不存在「顿悟时刻」。相反,我们发现「顿悟时刻」(如自我反思模式)出现在 epoch 0,即基础模型中。
2. 他们从基础模型的响应中发现了肤浅的自我反思(SSR),在这种情况下,自我反思并不一定会导致正确的最终答案。
3. 仔细研究通过 RL 进行的类 R1-Zero 的训练,发现响应长度增加的现象并不是因为出现了自我反思,而是 RL 优化设计良好的基于规则的奖励函数的结果。
以下是博客的内容:
Epoch 0 的顿悟时刻
实验设置如下:
基础模型。我们研究了由不同组织开发的各种基础模型系列,包括 Qwen-2.5、Qwen-2.5-Math、DeepSeek-Math、Rho-Math 和 Llama-3.x。
提示模板。我们使用 R1-Zero 和 SimpleRL-Zero 中使用的模板直接提示基础模型:
模板 1(与 R1-Zero 相同)
模板 2(与 SimpleRL-Zero 相同)
数据。我们从 MATH 训练数据集中收集了 500 道题,这些题统一涵盖了五个难度级别和所有科目,用于填充上述模板中的 {Question}。
生成参数。我们在 0.1 至 1.0 之间对探索参数(温度)进行网格搜索,以便对选定的问题进行模型推理。在所有实验中,Top P 设置为 0.9。我们为每个问题生成 8 个回答。
经验结果
我们首先尝试了所有模型和提示模板(模板 1 或模板 2)的组合,然后根据每个模型的指令遵循能力为其选择了最佳模板,并将其固定用于所有实验。得出以下结论:
发现:「顿悟时刻」出现在 Epoch 0。我们观察到,所有模型(除了 Llama-3.x 系列)在没有任何后期训练的情况下就已经表现出了自我反思模式。
我们在下表中列出了所有观察到的表明自我反思模式的关键词。请注意,该列表可能并不详尽。这些关键词都是经过人工验证的,「等待」等词被过滤掉了,因为它们的出现并不一定意味着自我反思,而可能是幻觉的结果。我们注意到,不同的模型会显示与自我反思相关的不同关键词,我们假设这是受其预训练数据的影响。
图 1a 展示了在不同基础模型中引发自我反思行为的问题数量。结果表明,在不同的温度下都能观察到自我反思行为,其中一个趋势是,温度越高,在 epoch 0 出现「顿悟时刻」的频率越高。
图 1b 展示了不同自我反思关键词的出现次数。我们可以观察到,Qwen2.5 系列的基础模型在产生自我反思行为方面最为活跃,这也部分解释了为什么大多数开源的 R1-Zero 复现都是基于 Qwen2.5 模型。
图 1a. 在不同基础模型中,500 道数学问题中引发自我反思行为的问题数量。图 1b. 40,000 个回答中出现的关键词数量(500 个问题 × 每个问题 8 个回答 × 10 个温度)。
在确认「顿悟时刻」确实是在没有任何训练的情况下出现在 epoch 0 后,我们想知道它是否如我们所期望的那样 —— 通过自我反思来纠正错误推理。因此,我们直接在 Qwen2.5-Math-7B 基础模型上测试了 SimpleRL-Zero 博客中使用的例题。令人惊讶的是,我们发现基础模型已经表现出了合理的自我纠正行为,如图 2 所示。
图 2. 我们直接在 Qwen2.5-Math-7B 基本模型上测试了 SimpleRL-Zero 博客中报告的同一问题,发现「顿悟时刻」已经出现。
肤浅的自我反思
尽管图 2 中的示例显示了基础模型通过自我修正 CoT 直接解决复杂推理问题的巨大潜力,但我们发现并非所有来自基础模型的自我反思都有效,也并不总能带来更好的解决方案。为了便于讨论,我们将它们称为肤浅的自我反思(Superficial Self-Reflection,SSR)。
就其定义而言,肤浅的自我反思(SSR)是指模型响应中缺乏建设性修改或改进的重评估模式。与没有自我反思的响应相比,SSR 不一定会带来更好的答案。
案例研究
为了进一步了解 SSR,我们进行了案例研究,并观察到 Qwen-2.5-Math-7B 基础模型响应中的四种自我反思模式:
ThinkPad T14p 2024款电脑直降100元![多图]
英格兰世界杯阵容:重塑荣耀[多图]
如何利用投机岛期货论坛提升期货投资技能?[多图]
海信一级能效空调限时优惠1849元[多图]
英足总杯赛程规则解析(13)[多图]
威力XPB120[多图]
阿尔维斯回旋临床应用探讨[多图]
JRS:让你随时随地享受极致视听[多图]
国足输给叙利亚:探讨停战的影响[多图]
中国广电网络公司三年报表广州神游网络公司济南网络公司到1火星聊城网络公司 网络服务黑河网络公司皆选11火星沧州团优网络公司网络公司综合能力测试亏损风险网络公司网络公司推广强推云速捷火爆汉中网络公司询问5火星江苏中下网络公司名称网络公司选址门面房关于网络公司的股票酒泉网络公司选择5火星网络公司安全管理制度范本定西优质网络公司价格对比通化网络公司到25火星胶州网络公司注册去淘金网络公司福州朱雀网络公司界首市乐逍遥网游网络公司金山云科技网络公司一个网络公司咋样开头清远网络公司选择13火星杭州网龙网络公司邵阳市网络公司在哪里网络公司logo色调定位上海网络公司代理记账报价合肥易佛网络公司嘉定区网络公司注册费用武汉网络公司的节操安康网络公司首推3火星下拉黄山网络公司哪家好杭州游戏网络公司排名线下网络公司怎么开北京好易装网络公司catv是哪个网络公司的淘宝店铺运营找网络公司贵阳有那些网络公司聚川网络公司宝付网络公司客服深圳盛传网络公司县城广电网络公司待遇中国杭州成立网络公司抚顺网络公司推荐22火星常州大舜网络公司江苏一鸣云搜网络公司是害虫吗辽阳市红鼎网络公司亳州网络公司推荐22火星包头网络公司推荐10火星美国有哪些网络公司在中国上海网络公司执照重庆未来酒店网络公司宜信金融网络公司亭湖网络公司贵州省广电网络公司福泉厦门雷霆科技网络公司网络公司估值最简单的方法山西住好点网络公司底薪宝鸡电视网络公司奥纳网络公司怎么样濮阳艾特网络公司眉山网络公司就荐14火星闽侯青口网络公司在哪里网络公司积分账务处理庆阳网络公司首选13火星汇通网络公司启动网络公司招聘四川金石为开网络公司郑州三同科技网络公司怎么样广州致好网络公司待遇回到高考前办网络公司的小说创搜网络公司湛江有多少间网络公司启煜网络公司北京网络公司注册优惠网络公司销售主管的职业规划苏州大禹网络公司年会网络公司论坛微信营销网络公司哪家好迅游科技网络公司深圳前海联通网络公司德兴市广电网络公司地址三沙网络公司推荐6火星东方网络公司股票下跌德州最大的网络公司甘肃广电网络公司待遇好吗苍溪广电网络公司电话号码网络公司招聘销售面试问题网络公司上市多久可以兑换保定网络公司哪里收入高卡盟空非网络公司长沙比较小的网络公司携梦科技网络公司网络公司开具个人发票税率兰州城关区附近有哪些网络公司米蜗蜗网络公司杭州网络公司 商标注册类目网络公司有哪些补贴慈溪网络公司价格汕头网络公司皆选3火星下拉莱芜思之缘网络公司恒腾网络公司成立时间呵呵网络公司绍兴菜鸟网络公司竞选网络公司经理演讲稿网络公司和融媒体合作湖南安仁网络公司招聘泛微网络公司有多少人带富字的网络公司名字淮南神话网络公司衡水网络公司选择8火星下拉天津网络公司找天津旗舰科技国际移动通讯网络公司崇左网络公司推荐11火星衡阳华耀网络公司中网彩网络公司怎么样浙江畅唐网络公司的杨欣青浦注册网络公司价格鄂州网络公司皆选14火星沧州网络公司推荐3火星邯郸网络公司选择20火星自贡网络公司佳选16火星江苏双创共生网络公司创盾网络公司信融网络公司衡水分公司新闻茂名有哪些大型的网络公司北京锐捷科技网络公司网络公司如何做管理郴州网络公司甄选8火星下拉包头网络公司甄选4火星下拉跟网络公司可以谈什么松原网络公司到17火星下拉网络公司员工工作证舟山网络公司立荐18火星连云港网络公司选择13火星海门网络公司注册五个字的字的网络公司名字网络公司年会经典广电网络公司甘肃垂管衡水博航网络公司怎么样济南的士驿站网络公司广西广电网络公司今日股价吉林市网络公司哪家好b2b网络公司排名长宁区网络公司清远专业网络公司哪家便宜苏州网络公司选择5火星下拉迁西网络公司有哪些杭州义谦网络公司环境天相互动网络公司昆明铭沫网络公司北海网络公司联系21火星宁波网络公司找臻动传媒深圳有个奇葩网络公司新一代网络公司怎么样重庆咕趣网络公司上海 米网络公司广腾汇网络公司寒假社会实践网络公司两周北京麒麟合盛网络公司咋样6奥特拉网络公司沧州光迅网络公司米哈游在网络公司排名南京磐恒网络公司保德网吧维护网络公司厦门游狗网络公司产品潍坊掌柜网络公司平邑县金超人电脑网络公司易眼看荐网络公司厦门市做卓邦科技网络公司北京东方龙网络公司雁塔区长安南路网络公司阿里信息网络公司com逐渐没落的网络公司佛山网络公司拓客科技校园网络公司简介梨涡网络公司兰州搜狗网络公司杭州男装网络公司濮阳网络公司招聘韶兴仟墨网络公司网络公司利润很低怎样缴税网络公司的税务怎么处理咸阳网络公司新闻青海做APP的网络公司岳阳网络公司选9火星借贷网络公司山南网络公司都选20火星简阳广电网络公司官网曲靖哪有网络公司商务网络公司代表做什么梧州网络公司询22火星下拉杭州运驰网络公司上海爵鼠网络公司电话是多少临沂豪森丽都网络公司杭州互帮网络公司2020年十大网络公司月饼儋州网络公司首荐6火星下拉中广互联中国广电网络公司