列出寻找网站关键词的几种途径,网站开发课设,wordpress向登录页面跳转,利川网站网站建设发布不到一周#xff0c;OpenAI 的最新模型 o1 的“护城河”似乎已经失守。
近日#xff0c;有人发现谷歌 DeepMind 早在今年 8 月发表的一篇论文#xff0c;揭示了与 o1 模型极其相似的工作原理。 这项研究指出#xff0c;在模型推理过程中增加测试时的计算量#xff0c…发布不到一周OpenAI 的最新模型 o1 的“护城河”似乎已经失守。
近日有人发现谷歌 DeepMind 早在今年 8 月发表的一篇论文揭示了与 o1 模型极其相似的工作原理。 这项研究指出在模型推理过程中增加测试时的计算量比简单地扩展模型参数更有效。基于论文中提出的计算最优compute-optimal测试时计算扩展策略规模较小的基础模型在某些任务上甚至可以超越一个规模大14倍的模型。
有网友惊呼这几乎就是 OpenAI o1 的原理
众所周知OpenAI CEO 山姆·奥特曼Sam Altman喜欢走在谷歌的前面。那么OpenAI 这次抢先发布 o1 的 preview 版本难道就是因为他们意识到谷歌已经在研究这个方向了吗 没有护城河也不可能有护城河 这引发了一些人的感慨谷歌在内部文件中曾经说过没有任何一家企业拥有“护城河”OpenAI 也不例外。这次的事件似乎再次印证了这一观点。
在这个充满变数的领域模型发布的速度成为了关键因素。就在大家对 o1 争相讨论时OpenAI 已经宣布将 o1-mini 的运行速度提高了7倍并且每天可供使用50次o1-preview 的使用限制也提升至每周50次。 谷歌 DeepMind测试时计算更优
谷歌 DeepMind 的这篇论文标题为优化 LLM 测试时计算比扩大模型参数规模更高效。
研究团队提出的核心思想源于对人类思维模式的观察。面对复杂问题时人类往往需要更长的时间来思考并改进决策。那么大型语言模型LLM是否也可以利用额外的测试时计算来提升性能呢
一些先前的研究已经证明这种方法确实可行但效果较为有限。谷歌团队的目标是探索在使用有限的额外推理计算时能在多大程度上提升模型性能。
为此他们设计了一组实验使用 PaLM2-S* 在 MATH 数据集上进行了测试主要分析了两种方法 迭代自我修订让模型多次尝试回答一个问题在每次尝试后对答案进行修订以期获得更好的结果。 搜索模型生成多个候选答案然后选择最佳答案。 实验结果显示使用自我修订方法时随着测试时计算量的增加标准最佳 N 策略Best-of-N与计算最优扩展策略之间的差距逐渐拉大。使用搜索方法计算最优扩展策略在初期表现出明显优势并在某些情况下能以仅1/4的计算量达到与最佳 N 策略相同的效果。
在计算量与预训练计算相当的情况下团队将 PaLM 2-S*采用计算最优策略与一个不进行额外推理、规模大14倍的预训练模型进行了对比。结果表明当推理 tokens 远少于预训练 tokens 时使用测试时计算策略的效果更佳。然而随着比率增加或在更难的问题上预训练模型的表现仍然更好。 研究还表明在计算量有限的情况下使用计算最优策略最多可节省 4 倍的计算资源。 对比 OpenAI o1原理如出一辙
对比 OpenAI 的 o1 模型这篇研究几乎得出了相同的结论。o1 模型通过强化学习和思维链的不断完善在推理时采取不同的策略并能够认识和纠正自己的错误。随着更多的强化学习和延长思考时间o1 的性能持续提升。
不同的是OpenAI 更快地发布了该模型而谷歌则在 PaLM2 之后尚未将其更新至 Gemini2。
网友感慨护城河只剩下硬件了
这一新发现不禁让人想起去年谷歌内部文件中提出的观点“我们没有护城河OpenAI 也没有。开源模型可以打败 ChatGPT。”
如今看来各家科技巨头的研究速度都非常迅猛谁都无法保证自己始终领先。唯一可能的护城河似乎只剩下硬件了。 因此有人猜测这或许是为什么马斯克近期积极建立自己的算力中心的原因。目前英伟达在算力领域拥有绝对主导地位。但如果谷歌或微软开发出更具优势的定制芯片情况又将如何呢 值得注意的是不久前有消息称OpenAI 正在研发首颗专属芯片并将采用台积电最先进的 A16 纳米级工艺专为 Sora 视频应用打造。这进一步显示当前的大模型竞争不仅仅在于模型本身硬件资源和算力也成了决定胜负的关键因素。
谷歌 DeepMind 的研究表明通过增加测试时计算量可以让规模较小的模型在某些任务上媲美甚至超越更大规模的模型。这一原理与 OpenAI 的 o1 模型不谋而合体现了在 AI 领域中“思考时间”与“性能提升”之间的关系。
然而谁将最终在这场竞争中胜出目前仍是未知数。对于各大科技公司而言硬件和算力正逐渐成为一场没有硝烟的战争的新战场。
参考链接 https://www.reddit.com/r/singularity/comments/1fhx8ny/deepmind_understands_strawberry_there_is_no_moat/
ChatGPT-4o需要直接私信
