Xin Zhiyuan报告编辑：KingHz [Xin Zhiyuan介绍]离开Openai只是为了高高的元薪水？杰森·韦（Jason Wei）从他的博客中辞职，揭示了世界的秘密：未来的AI更加可取！硅谷人才的战斗正在上升！以前，Openai吸引了Google等公司的才能；现在，Meta直接花钱偷别人。 AI顶级人才的薪水套餐是高空的天空，扎克伯格（Zuckerberg）的起价仍然是1亿美元！中国人工智能连锁店和科学家的父亲杰森·韦（Jason Wei）从Google跳到Openai，然后搬到了Meta。在AI领域，Jason Wei非常有生产力。根据Google Scholar Statistics的数据，他有13篇文章，其中有1,000多次引用，他的合作包括杰夫·迪恩（Jeff Dean）和Quoc V. Le（例如杰夫·迪恩（Jeft Dean）和Quoc V. Le）的知名研究人员，并参加了OpenAI，GPT -4O研究，O1，O1和DEAC Research Research项目。扩展全文 在他辞职的消息是e之前在媒体上，他出版了两个博客，这可以使我们看到他为什么选择离开的原因。 令人惊讶的是，这些灵感来自对加强的研究！ RL生活的启示 我的天性一定是利益-beenfit 去年，他开始研究加强的研究，几乎每时每刻都在考虑研究强化。 RL中有一个基本概念：始终尝试“ policy”（相同的方法）：与其模仿他人成功的道路，不如采取行动，自己从气氛中获得反馈并不断学习。 当然，在模拟中需要学习模仿，就像我们首次启动培训模型一样，我们应该依靠人类的示范来获得基本的表现。但是，一旦模型可以做出理性的行为，人们倾向于放弃模仿，因为为了最大程度地利用模型的独特好处，他们只能依靠自己的经验来找出答案。 一个非常普遍的例子是：与管理的思想相反人们写的链条，最好使用RL训练语言模型来解决数学问题。 生活中也是如此。 我们以“模仿”的成长开始，而学校正处于这个阶段，这是合理的。 研究别人的成功并复制它。有时它有效，但是要花很长时间才能意识到模仿无法超越原始的达希尔，每个达希尔都有自己独特的好处。 收养的研究告诉我们，如果我们想克服早期，我们必须走上自己的道路，接受外部风险并接受它可能给予的回报。 他提到了他对他更满意但相对利基更加满意的两个习惯： 阅读多个原始数据。 创建一个消融实验，并将呈现系统以查看每个组件的独立作用。 阅读多个原始数据。 创建一个消融实验，并将呈现系统以查看每个组件的独立作用。 有时，当收集数据集时，他花了很多天的时间阅读每个数据然后对每个注释者写一个个性化的反馈；随后，数据的质量也提高了，他对任务也有独特的看法。在今年年初，他每月学习过去的“愚蠢”决定是可溶的。即使花了很多时间，我也了解到哪个RL确实有用，并获得了许多独特的经验，这些经验不会教别人。 更重要的是，根据自己的兴趣进行研究不仅更有趣，而且我也觉得我正在创建一个更独特，更自我研究的方向。 因此，总而言之：模仿确实很重要，这是入门的唯一途径。但是，一旦您站稳了脚跟并想克服他人，您就必须进行诸如学习强化，迈向自己的速度，并为您的独特利益和缺点提供完整发挥的政策，并提供完整的游戏。 AI的未来 对不对称的验证意味着对解决任务的验证比解决这些任务更简单。 在学习成功（RL）中，这个概念成为ES是AI领域中最重要的想法之一。 经过仔细的检查，我验证了无处不在的不对称性： Sudoku和填字游戏：解决Sudoku或填字游戏非常及时，您需要尝试不同的可能性来满足障碍。但是，证明答案是否正确非常简单，只需检查它是否符合规则。 开发网站：例如，建立像Instagram这样的网站需要工程师团队多年的努力工作。但是，普通人只需几分钟即可完成它，例如浏览页面并检查是否可用。 BrowseComp问题：要解决此类问题，通常是Takeway -a -Websites浏览，但是验证给定的答案更快，因为您可以直接搜索答案以满足障碍。 Sudoku和填字游戏：解决Sudoku或填字游戏非常及时，您需要尝试不同的可能性来满足障碍。但是证明是否ANS非常简单正确，只需检查它是否符合规则。 开发网站：例如，建立像Instagram这样的网站需要工程师团队多年的努力工作。但是，普通人只需几分钟即可完成它，例如浏览页面并检查是否可用。 BrowseComp问题：要解决此类问题，通常会采取方式 - 浏览的网站，但是验证给定的答案更加迅速，因为您可以直接搜索答案以满足障碍。 验证某些任务是及时的，并且基于解决方案。例子： 验证增加两个900位数字的结果与您自己计算的时间非常相似。 验证某些数据处理器的代码正确可能等于编写您自己的代码的过程。 验证增加两个900位数字的结果与您自己计算的时间非常相似。 验证CO某些数据处理器的DE是正确的，可能等于编写您自己的代码的过程。 某些任务比解决的时间更多。例子： 对文章中所有事实的验证可能比撰写文章本身更多的时间（引用Brandolini的定律：“证明谣言所需的努力是一个比谣言的创造更大的数量级”）。 仅需提出一种新的饮食疗法即可：“只吃野牛和西兰花肉”，但要证明它对普通人群健康，但我必须做很多年的大实验。 对文章中所有事实的验证可能比撰写文章本身更多的时间（引用Brandolini的定律：“证明谣言所需的努力比谣言的创作要大的数量级”）。 只需一句话就提出了一种新的饮食疗法：“只吃野牛和西兰花肉”，但是要验证它是否对普通人群健康，需要多年的实验。 与预研究，Veri化学可以更简单。例子： 数学竞赛问题：如果有重点要回答，则很容易证明答案是否正确。 编程问题：阅读代码以证明准确性非常困难。如果您正确涵盖了测试用例，则可以快速查看任何给定的解决方案；实际上，Leetcode会这样做。在某些任务中，可以改进验证，但不足以简化它。 一些改进：例如，“说荷兰足球运动员的名字”，预先准备名单可能会加速验证，但是一些不受欢迎的名称仍然需要检查。 数学竞赛问题：如果有关键要点要回答，则非常简单证明答案是否正确。 编程问题：阅读代码以证明准确性非常困难。如果您正确涵盖了测试用例，则可以快速查看任何给定的解决方案；实际上，Leetcode会这样做。在某些任务中，可以改进验证，但不足以简化它。 一些改进：例如，“说荷兰足球运动员的名字”，预先准备名单可能会加速验证，但是一些不受欢迎的名称仍然需要检查。 为什么验证不对称性如此重要？ 深度研究的历史证明，所有可以测量的都可以优化。 在RL框架下，验证功能等于发展培训环境的能力。验证者定律出生： 训练AI解决任务的困难与任务任务成正比。可以删除所有这些，并最终将被AI征服。 具体而言，培训的难度AI取决于任务是否符合以下条件： 真理的目的：每个人都对什么是“好答案”达成共识。 快速验证：答案的验证仅需几秒钟。 可扩展验证：可以同时证明许多答案。 低噪声：验证结果很高与答案的质量相关联。 持续的奖励：许多答案的质量可以解决。 真理的目的：每个人都对什么是“好答案”达成共识。 快速验证：答案的验证仅需几秒钟。 可扩展验证：可以同时证明许多答案。 低噪声：验证结果与答案的质量高度相关。 持续的奖励：许多答案的质量可以解决。 AI的主要基准测定了过去十年中的前四项 - 这就是为什么它们首次被征服的原因。尽管大多数试验不符合第五任期（非黑人或白人酌处权），但仍可以通过平均值来构建持续的奖励信号。 为什么可验证性很重要？ 根的原因是：当满足上述条件时，神经网络的梯度随着信息量的每个步骤而高，迭代飞轮可以高速旋转 - 这也是DI的秘密Gital World的发展速度比物理世界快。 Alphaevolve的情况 Google开发的Alphaevolve可以被视为“猜想验证”范式的最终形式。 获取“查找最低外部六角形，比较11个单位六角形”的例子： 适合验证者法的五种素质 虽然这似乎是一个问题中的“过度合适”，但现代科学正好在追求该训练集的最终优化=测试集 - 因为解决的每个问题都可能包含大量数量。 适合验证者法的五种素质 虽然这似乎是一个问题中的“过度合适”，但现代科学正好在追求该训练集的最终优化=测试集 - 因为解决的每个问题都可能包含大量数量。 在理解这一原则之后，您将知道验证的不对称性，例如进入每个孔。 只是想想一个可以测量的任何问题的世界都会通风解决。 智能的边界应互连：AI无法抗拒，仅仅是因为在这些领域中更容易成为。 未来的情况如何不吸引人？ 参考： https://www.jasonwei.net/blog/asymmetry-of-vempication-and-veriers-waw https：/7