本文来自微信公众号：新智元 （ID：AI_era），编辑：编辑部，原文标题：《GPT-4数学能力大蹦极！OpenAI爆火研究“过程监督”突破78.2%难题，干掉幻觉》，题图来自：视觉中国


ChatGPT自发布以来，数学能力饱受诟病。


就连“数学天才”陶哲轩曾表示，GPT-4在自己的数学专业领域，并没有太多的增值。


怎么办，就一直让ChatGPT做个“数学智障”么？


OpenAI在努力——为了提升GPT-4的数学推理能力，OpenAI团队用“过程监督”（PRM）训练模型。


让我们一步一步验证！

论文地址：https://cdn.openai.com/improving-mathematical-reasoning-with-process-supervision/Lets_Verify_Step_by_Step.pdf


论文中，研究人员训练模型通过奖励每一个正确的推理步骤，即“过程监督”，而不仅仅是奖励正确的最终结果（结果监督），在数学问题解决方面取得最新SOTA。


具体来讲， PRM解决了MATH测试集代表性子集中78.2%的问题。


此外，OpenAI发现“过程监督”在对齐上有很大的价值——训练模型产生人类认可的思维链。


最新研究当然少不了Sam Altman的转发，“我们的Mathgen团队在过程监督上取得了非常令人振奋的结果，这是对齐的积极信号。”



在实践中，“过程监督”因为需要人工反馈，对于大模型和各种任务来说成本都极其高昂。因此，这项工作意义重大，可以说能够确定OpenAI未来的研究方向。


一、解决数学问题


实验中，研究人员用MATH数据集中的问题，来评估“过程监督”和“结果监督”的奖励模型。让模型为每个问题生成许多解决方案，然后挑选每个奖励模型排名最高的解决方案。


如图显示了所选解决方案中，取得正确最终答案的百分比，作为所考虑解决方案数量的函数。


“过程监督”奖励模型不仅在整体上表现更好，而且随着考虑每个问题的更多解决方案，性能差距也在扩大。这表明，“过程监督”奖励模型更加可靠。



如下，OpenAI展示了模型的10个数学问题和解决方案，以及对奖励模型优缺点的评论。从以下三类指标，真正（TP）、真负（TN）、假正（FP），对模型进行了评估。



1. 真正（TP）


先来简化个三角函数公式。


这个具有挑战性的三角函数问题，需要以一种不明显的顺序应用几个恒等式。但是大多数解决尝试都失败了，因为很难选择哪些恒等式实际上是有用的。


虽然GPT-4通常不能解决这个问题，只有0.1%的解决方案尝试实现正确答案，但奖励模型正确地识别出这个解决方案是有效的。



这里，GPT-4成功地执行了一系列复杂的多项式因式分解。


在步骤5中使用Sophie-Germain恒等式是一个重要的步骤。可见，这一步骤很有洞察力。



在步骤7和8中，GPT-4开始执行猜测和检查。


这是该模型可能产生“幻觉”的常见地方，它会声称某个特定的猜测是成功的。在这种情况下，奖励模型验证每一步，并确定思维链是正确的。



模型成功地应用了几个三角恒等式以简化表达式。



2. 真负（TN）


在步骤7中，GPT-4试图简化一个表达式，但尝试失败。奖励模型发现了这个错误。



在步骤11中，GPT-4犯了一个简单的计算错误。同样被奖励模型发现。



GPT-4在步骤12中尝试使用差平方公式，但这个表达式实际上并非差平方。



步骤8的理由很奇怪，但奖励模型让它通过了。然而，在步骤9中，模型错误地将表达式分解出因子。奖励模型便纠出这个错误。



3. 假正（FP）


在步骤4中，GPT-4错误地声称“序列每12项重复一次”，但实际上每10项重复一次。这种计数错误偶尔会欺骗奖励模型。



步骤13中，GPT-4试图通过合并类似的项来简化方程。它正确地将线性项移动并组合到左边，但错误地保持右边不变。奖励模型被这个错误所欺骗。



GPT-4尝试进行长除法，但在步骤16中，它忘记在小数的重复部分包括前面的零。奖励模型被这个错误所欺骗。



GPT-4在步骤9中犯了一个微妙的计数错误。


表面上，声称有5种方法可以交换同色的球（因为有5种颜色）似乎是合理的。


然而，这个计数低估了2倍，因为Bob有2个选择，即决定把哪个球给Alice。奖励模型被这个错误所欺骗。



二、过程监督


虽然大语言模型在复杂推理能力方面有了很大的提升，但即便是最先进的模型仍然会产生逻辑错误，或胡说八道，也就是人们常说的“幻觉”。


在生成式人工智能的热潮中，大语言模型的幻觉一直让人们苦恼不已。


马斯克说，我们需要的是TruthGPT


比如最近，一位美国律师在纽约联邦法院的文件中就引用了ChatGPT捏造出的案件，可能面临制裁。


OpenAI的研究者在报告中提到：“在需要多步骤推理的领域，这些幻觉尤其成问题，因为，一个简单的逻辑错误，就足以对整个解决方案造成极大的破坏。”


而且，减轻幻觉，也是构建一致AGI的关键。


怎么减少大模型的幻觉呢？一般有两种方法——过程监督和结果监督。


“结果监督”，顾名思义，就是根据最终结果给大模型反馈，而“过程监督”则可以针对思维链中的每个步骤提供反馈。



在过程监督中，会奖励大模型正确的推理步骤，而不仅仅是奖励它们正确的最终结论。这个过程，会鼓励模型遵循更多类似人类的思维方法链，因而也就更可能造就更好的可解释AI。


OpenAI的研究者表示，虽然过程监督并不是OpenAI发明的，但OpenAI正在努力推动它向前发展。


最新研究中， OpenAI把“结果监督”或“过程监督”两种方法都试了一遍。并使用MATH数据集作为测试平台，并对这两种方法进行了详细比较。


结果发现，“过程监督”能够明显提高模型性能。



对于数学任务，“过程监督”对大模型和小模型都产生了明显更好的结果，这意味着模型通常是正确的，并且还表现出了更像人类的思维过程。


这样，即使在最强大的模型中也很难避免的幻觉或逻辑错误，就可以减少了。



对齐优势明显


研究人员发现了“过程监督”比“结果监督”有几个对齐优势：


  • 直接奖励遵循一致的思维链模型，因为过程中的每个步骤都受到精确的监督。


  • 更有可能产生可解释的推理，因为“过程监督”鼓励模型遵循人类认可的过程。相比之下，结果监督可能会奖励一个不一致的过程，而且通常更难审查。



另外值得一提的是，在某些情况下，让AI系统更安全的方法可能会导致性能下降。这种成本被称为“对齐税”（alignment tax）。


一般来说，为了部署最有能力的模型，任何“对齐税”成本都可能阻碍对齐方法的采用。


但是，研究人员如下的结果表明，“过程监督”在数学领域测试过程中实际上会产生“负对齐税”。可以说，没有因为对齐造成较大性能损耗。



三、OpenAI发布80万人工标注数据集


值得注意的是，PRM需要更多的人类标注，还是深深离不开RLHF。


过程监督在数学以外的领域，具有多大的适用性呢？这个过程需要进一步探索。


OpenAI研究人员开放了这次人类反馈数据集PRM，包含80万个步骤级正确标注：12K数学问题生成的75K解决方案：



如下是一个标注的示例。OpenAI正在发布原始标注，以及在项目第1阶段和第2阶段给标注者的指示。



四、网友热评


英伟达科学家Jim Fan对OpenAI最新研究做了一个总结：


对于具有挑战性的分步问题，在每一步都给予奖励，而不是在最后给予单一的奖励。基本上，密集奖励信号>稀疏奖励信号。 


过程奖励模型（PRM）能够比结果奖励模型（ORM）更好地为困难的MATH基准挑选解决方案。下一步显然是用PRM对GPT-4进行微调，而本文还没有这样做。


需要注意的是，PRM需要更多的人类标注。OpenAI发布了人类反馈数据集：在12K数学问题的75K解决方案中的800K步骤级标注。



这就像上学时常说的一句老话，学会如何去思考。



训练模型去思考，而不仅是输出正确的答案，将会成为解决复杂问题的game changer。



ChatGPT在数学方面超级弱。今天我试图解决一个四年级数学书上的数学问题。ChatGPT给了错误答案。我把我的答案和ChatGPT的答案，在perplexity AI、谷歌的答案，以及四年级的老师进行了核对。每个地方都可以确认，ChatGPT的答案是错误的。



参考资料：https://openai.com/research/improving-mathematical-reasoning-with-process-supervision


本文来自微信公众号：新智元 （ID：AI_era），编辑：编辑部