Meta发布新AI模型：利用AI来评估AI的能力，无需人类参与

摘要： 封面新闻记者张峥我们不是零这是一个关于中国宇宙线研究的故事老一辈宇宙线科学家每每回忆起上世纪年代老所长张文裕这句带着屈辱激愤的反驳总有一种落泪的冲动上世纪年代曹臻在中国科学院高能物...

封面新闻记者 张峥“我们不是零！”这是一个关于中国宇宙线研究的故事。老一辈宇宙线科学家，每每回忆起上世纪60年代老所长张文裕这句带着屈辱激愤的反驳，总有一种落泪的冲动。上世纪90年代，曹臻在中国科学院高能物理研究所跟随霍安祥、丁林垲和谭有恒等第二代宇宙线研究人读研究生，走上了海拔4300米的西藏羊八井，成为...

IT之家 10 月 19 日消息，据路透社报道，Meta 当地时间周五宣布，其研究团队推出了一系列新的 AI 模型，其中包括一个名为“自我训练评估器”的工具。该工具有望推动 AI 开发过程中减少对人类干预的依赖。这个工具早前在 8 月的论文中首次亮相，其使用与 OpenAI 新发布的 o1 模型类似的“思维链”技术，让 AI 对模型的输出做出可靠判断。

这种技术将复杂问题分解为多个逻辑步骤，从而提高了在科学、编程和数学等高难度领域中的 准确性。Meta 的研究人员使用完全由 AI 生成的数据来训练这个评估器，从而在这一过程中完全摒弃了人类的参与。

使用 AI 来评估 AI 的能力展示了实现自主 AI 智能体的可能性，这类代理能够从自身错误中学习。两位负责该项目的 Meta 研究人员表示，许多 AI 专家设想未来可以开发出“智能化程度极高”的数字助手，可以自主处理大量任务，而无需人类介入。

自我改进的模型有望减少目前使用的“基于人类反馈的强化学习”（RLHF）过程的需求。这一过程往往昂贵且低效，因为它依赖于拥有专业知识的人类来标注数据和验证复杂问题的 是否正确。

“我们希望，随着 AI 的发展，它能超越人类，逐渐具备自行检查工作的能力，并在准确性上超过普通人类水平，”项目研究员之一 Jason Weston 说。“自我训练和评估的能力是实现超人级 AI 的关键因素之一。”他补充道。

IT之家从报道中获悉，包括谷歌和 Anthropic 在内的其他科技公司也在研究 RLAIF（基于 AI 反馈的强化学习）这一概念，但与 Meta 不同，这些公司通常不会公开发布其研究模型。

Meta 此次发布的其他 AI 工具还包括对其图像识别模型“Se ent Anything”的更新，一个加速大语言模型响应时间的工具，以及一些有助于发现新型无机材料的数据集。