今天的人工智能系统似乎是一种智力力量，能够在各种任务中击败人类对手。然而，事实上，最先进的AI代理的智能能力是有限的。以AlphaGo为例。虽然它可能是棋盘游戏围棋的世界冠军，但它实际上是系统唯一擅长的任务。

当然，还有AlphaZero。该算法掌握了许多不同的游戏，从日本和美国象棋到围棋。因此，它比许多当代人工智能代理更有能力和活力。然而，AlphaZero无法轻松地将其智能应用于任何问题。它不能像人类一样不受限制地从一个任务转移到另一个任务。

目前所有其他AI系统也是如此——它们的认知能力是有限的，不会超出它们的创造任务范围。这就是为什么人工智能(AGI)是许多研究人员的长期目标。

AGI系统被广泛认为是人工智能研究的圣杯。它是一种人工智能代理，具有广泛的问题解决能力，可以帮助他们解决设计阶段没有考虑到的挑战。与传统的专注于特定技能的AI系统不同，AGI系统将能够有效地解决他们遇到的任何问题，从而完成各种任务。

如果这项技术得以实现，它将在无数方面造福人类。斯坦福大学的经济学家马歇尔伯克预测，AGI最终将能够建立一个大规模的协调机制来帮助缓解(甚至消除)我们最紧迫的问题，如饥饿和贫困。然而，在社会获得这些AGI系统的好处之前，DeepMind的AGI安全研究员Ramana Kumar指出，人工智能设计师最终将需要解决自我提升的问题。

自强符合AGI。

早期的自我提升形式已经存在于当前的AI系统中。库马尔解释说：“在正常的机器学习过程中会有一种自我提升。”“也就是说，系统提高了在训练过程中很好地执行一个任务或一组任务的能力。”

然而，库马尔断言，他将把这种形式的机器学习与真正的自我完善区分开来，因为该系统无法从根本上将其自身的设计改变为新的东西。为了实现显著的改进(包括新技能、新工具或创建更高级的AI代理)，当前的AI系统需要为他们提供新的代码和新的训练算法。

但是，从理论上讲，创建一个能够真正提升自己的AI系统是可行的。库马尔指出，这种自我完善的机器是AGI比较可行的办法之一。

研究人员认为，自我完善的机器最终可能导致AGI，因为这个过程被称为“递归自我完善”。基本思想是，随着AI系统继续使用递归自我改进来提高其智能，它将变得越来越好，使自己变得更聪明。这将迅速导致其智力指数增长，并最终导致AGI。

库马尔说，这种情况是完全合理的，并解释说：“要使这种方法可行，我们需要几个几乎没有争议的假设：理论上有这样的高能剂，它们可以通过一系列局部改进找到。”从这个意义上说，递归自我完善是很多理论的核心，涉及到如何从今天的中等智能机器向超智能AGI转变。不过，库马尔澄清说，这并不是AI超级智能的唯一潜在途径。

人类可以通过各种方法找到如何建立一个强大的AGI系统。这可以通过扩展现有的机器学习方法来实现，例如使用更快的硬件。或者可以通过表征学习、迁移学习、基于模型的强化学习或其他方向的增量研究来实现。例如，我们可能在大脑扫描和模拟方面取得足够的进展，以复制和加速特定人的智力。"

郑重声明：本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误，请第一时间联系我们修改或删除。谢谢你。

免责声明： 本文由用户上传，如有侵权请联系删除！

标签：