Recursive Superintelligence：AI如何实现自我进化

Richard Socher是人工智能领域的知名人物，他因创立早期聊天机器人初创公司You.com以及之前在Imagenet的工作而闻名。现在，他加入了当前一代以研究为导向的AI初创公司，推出了Recursive Superintelligence。这家总部位于旧金山的公司于周三结束隐身状态，获得了6.5亿美元融资。

Socher在新企业中与一群杰出的AI研究人员合作，包括Peter Norvig和Cresta联合创始人Tim Shi。他们共同致力于创建一个递归自改进的AI模型，该模型能够自主识别自身弱点并重新设计以修复，无需人类干预——这是当代AI研究长期以来的圣杯。

独特的技术路径

在Recursive Superintelligence的发布会上，我与Socher进行了Zoom采访，深入了解其独特的技术方法以及他为何不认为这个新项目是“neolab”（新实验室，指优先研究而非构建产品的AI初创公司）。

以下采访经过编辑，以缩短篇幅并提高清晰度。

递归自改进的独特方法

我们经常听到关于递归的讨论！这似乎是不同实验室的共同目标。你认为你们的独特方法是什么？

我们的独特方法是利用开放性（open-endedness）来实现递归自改进，这是尚未有人实现的。对许多人来说，这是一个难以捉摸的目标。许多人已经假设，当你进行自动研究时，递归自改进就会发生。例如，你可以让AI改进其他东西，比如机器学习系统或你写的信件。但这并不是递归自改进，这只是改进。

我们的主要重点是构建真正递归、自改进的超级智能，这意味着研究想法的构思、实施和验证整个过程将自动化。

首先，它会自动化AI研究想法，最终是任何类型的研究想法，甚至包括物理领域的想法。但当AI在自身上工作时，这种能力尤其强大，因为它正在发展一种新的自我意识，意识到自身的不足。

开放性（Open-endedness）的含义

你使用了“开放性”这个术语——它有特定的技术含义吗？

确实有。事实上，我们的联合创始人之一Tim Rocktäschel曾领导Google DeepMind的开放性和自改进团队，并特别致力于世界模型Genie 3，这是开放性的一个绝佳例子。你可以告诉它任何概念、任何世界、任何代理，它就会创建出来，而且是交互式的。

在生物进化中，动物适应环境，然后其他动物对这些适应做出反适应。这是一个可以进化数十亿年的过程，有趣的事情不断发生，对吧？这就是我们如何发展出眼睛的。

另一个例子是彩虹团队（rainbow teaming），来自Tim的另一篇论文。你听说过红队（red teaming）吗？

在网络安全领域，它意味着——

所以，在大型语言模型（LLM）背景下也必须进行红队测试。基本上，你试图让LLM告诉你如何制造炸弹，并确保它不这样做。现在，人类可以坐下来很长时间，想出AI不应该说的有趣例子。但如果用第二个AI测试第一个AI，第二个AI的任务是让第一个AI说出所有可能的坏事，然后它们可以来回进行数百万次迭代。

你实际上可以允许两个AI共同进化。一个持续攻击另一个，然后不仅提出一个角度，而是许多不同的角度，因此得名彩虹类比。然后你可以为第一个AI接种疫苗，使其变得越来越安全。这是Tim Rocktaeschel的想法，现在所有主要实验室都在使用它。

AI的无限进化

你怎么知道它何时完成？我猜它永远不会完成。

其中一些事情永远不会完成。你可以总是变得更智能。你总是可以更好地编程和数学等。智能有一些界限；我实际上正在尝试形式化这些界限，但它们是天文数字。我们离这些限制还很远。

关注微信号：智享开源 ，可及时获取信息

原文链接：https://techcrunch.com/2026/05/14/what-happens-when-ai-starts-building-itself/