为什么人工智能会陷入无限循环，而意识却不会

抖音推荐 2025年08月21日 17:52 1 admin

我们准时降落在马德里巴拉哈斯机场，但下机却出现了延误。原来，这里是由一套全新的人工智能系统操控的登机桥。无需人工干预——直到有人来。透过舷窗，我看到人工智能登机桥反复地接近飞机，在清晨的空气中轻轻摆动，然后又返回，如此反复，陷入了无限循环。最终，一位工作人员及时发现并解决了问题，拯救了我们。

人类不会陷入无休止地重复相同行为的泥潭。人工智能有时会如此，无论是在停机坪上停滞不前，还是被困在自动呼叫中心的“炼狱”中。这些例子看似简单的智能故障，但我认为它们指向了更深层次的问题：一个根本性的局限性，即使最聪明的人工智能也可能永远容易陷入无限循环，永远不会注意到问题，也永远无法摆脱。

想象一下更智能的登机桥——一个能够监控自身性能并检测出故障的系统。得益于其内部环境和自身行为的模型，它能够弥补当今自主登机桥的不足。但最终，它也会出现故障。因此，你需要添加另一个高阶反馈回路——一个模型中的模型，用于监控自身的监控。如果这个模型失败了？那就再加一个。如此反复，每一级递归都会增加一种智能，从而增强其鲁棒性。但自我监控系统始终存在再次出现故障、出现错误的可能性。除非你构建一个无限循环的递归自检机制，否则系统最终会陷入无限循环，永远无法满足停止条件，最终崩溃。

计算机科学家们已经与这个问题斗争了近一个世纪。1936年，艾伦·图灵证明，没有任何算法能够确定另一个算法在给定某些输入的情况下是会停止运行还是永远运行下去。这里有一个例子来直观地展现这一点。想象一下，你正在编写代码，告诉机器人该做什么。有些程序很简单——机器人完成任务，算法就结束。但有些程序很复杂，包含循环和条件：“继续移动，直到看到红色物体。”如果机器人永远看不到红色物体，或者逻辑存在缺陷，它可能会无休止地执行指令。而且，无论你的代码多么先进，都可能无法预测它是否会停止运行。

图灵的洞见是抽象的，但算法的局限性在所谓的“框架问题”中变得更加具体。框架问题由约翰·麦卡锡和帕特里克·J·海耶斯于1969年提出，广义上指教会机器基于相关信息做出明智决策，而无需其明确考虑所有无关细节的困难。由于特定情况下无关信息的列表可能无穷无尽，机器很难知道哪些信息应该忽略。这又为另一种无限循环打开了大门。

这些问题标志着思考智能（包括自然智能和人工智能）的里程碑，但随着深度神经网络和生成模型的新浪潮席卷社会，它们在很大程度上已淡出人们的视线。但这并不意味着它们已经消失。正如马德里的登机桥所表明的那样，当硅片与停机坪接触时，仍然有很大可能出错。人工智能系统可能始终容易陷入无限循环，原因并非它们缺乏处理能力：而在于这些系统与我们自身具身的生物大脑之间存在着更深层次的差异。

这种差异始于计算机和大脑与时间的关系，并最终结束于日常意识的奇迹。

智力和意识是截然不同的概念——即使我们的一些科技领袖错误地认为，前者的更多必然会导致后者。简而言之，智力是关于做事，而意识是关于存在或感受。但它们仍然是相互关联的，至少在人类和其他动物中是如此。我的假设是，某些形式的智力——特别是在一个开放的世界中完全摆脱无限循环的幽灵所需的智力——依赖于深深嵌入时间之流的意识思维所带来的能力。

锚定在时间和熵中

虽然堆叠多层自我监控或许足以打造一座令人满意的登机桥，但这并非人类应对复杂性的方式。像你我这样有意识的生物，即使在远比机场更难以预测的环境中也能生存甚至发展，无需不断推陈出新。事实上，人类的思维虽然奇妙，却难以应对递归。我们大多数人最多只能应对三个层面：知道我们知道我们知道。例如，我有时对自己何时正确何时错误的能力充满信心。我们在一个开放世界中展现出的非凡适应能力，似乎一定基于某种其他的东西。

这个“其他东西”会是什么呢？一种可能性是，我们的思想和大脑——以及我们的意识体验——都锚定在时间和熵中，而算法在设计上并非如此。

我们人类是动物，与其他生物一样，需要不断抵御热力学第二定律所规定的衰变和无序。该定律指出，孤立系统的熵只能增加（或保持不变），熵是无序性或随机性的度量。一滴墨水会扩散到一杯水中，永远不会再恢复原状，破碎的鸡蛋也无法再完整。这是一个可怕的定律，正如物理学家亚瑟·爱丁顿所言：“如果你的理论被发现违反了热力学第二定律，我不会给你任何希望；它除了在极度屈辱中崩溃之外，别无他法。”

第二定律的一个关键点在于，它适用于孤立系统，例如密封的热水瓶，该系统与周围环境之间没有能量交换。在开放系统中，系统与环境之间可以进行能量交换，从而有可能降低熵值。生命系统是开放系统的典型例子，它们利用来自环境的能量来维持自身在统计上令人惊讶的存活状态。

这一过程以各种方式和不同层面展开。我们体内的细胞通过新陈代谢的能量流不断再生自身生存的条件。根据神经科学中的一些重要思想，尤其是自由能原理，神经回路持续工作，以最小化感觉输入的统计意外，降低这些输入的熵，并由此对身体的生理状况施加一种预测控制。

意识体验也直接反映了这种求生的根本动力。每一次意识体验都汇集了大量与生存相关的信息，这些信息以各种方式引导着我们的行为，无论这些行为是自愿的还是非自愿的。所有这些体验都可能包含某种程度的效价，即某种剂量（无论多小）的积极或消极情绪，这些情绪可能会促使我们以某种方式行事。正如我在《做你自己》一书中所写，我们体验着周围的世界，以及身在其中的我们自己，我们用自己的身体、通过自己的身体、也正是因为自己的身体。

这些多尺度过程紧密交织，每个过程都与时间紧密相连，尽管方式不同。代谢过程以生化时间展开，我们体内每个细胞每秒可能进行十亿次反应。神经时间较慢，但同样受到神经生物学约束和适应性的制约：髓鞘加速的动作电位交换和神经递质的缓慢扩散。在意识流中，时间的流逝是连续的、不可抗拒的且复杂的，不仅包含连续性，还包含流动、持续时间和持久性。我们身体、大脑和思维中的时间丰富、动态、多维，并且在从生物化学到个人身份的各个层面都深度相互依存。我们的整个存在方式都不可避免地嵌入在物理时间中，而许多物理学家认为，物理时间本身植根于热力学第二定律。

人工智能的无尽欲望

我们大脑与计算机之间的对比鲜明，发人深省。对于数字计算机而言，时间是薄薄的、单维的，并且与热力学箭头完全脱节。计算的核心在于状态转换：A 导致 B，从 0 到 1。在图灵的经典计算形式中，只有序列重要，而底层物质基底的动态特性则无关紧要。每个算法都只是一个接一个的状态。算法中的两个步骤（A 和 B）之间可能存在一微秒或一百万年的间隔，但它仍然是同一个算法，同一个计算。

这种对时间的漠视代价高昂。虽然图灵形式化地认为计算存在于时间之外，但计算机本身却并非如此。当今人工智能对能量的无尽渴求，很大程度上源于纠错的需求——需要将1保持为1，将0保持为0——因为即使是死寂的硅砂也无法逃脱熵的侵蚀。假装时间不存在代价高昂。

这就是为什么我认为算法会陷入无限循环，而聪明的动物几乎从不陷入无限循环的关键原因。对于冻结在序列空间中、至少在原则上与熵的拉动脱节的算法来说，总会出现一些无法预料和无法预见的情况，导致时间本身在计算结束之前就结束了（或者更有可能的是，能量耗尽了）。

与计算机不同，我们是存在于时间中的存在——体现、嵌入并被包含在我们的世界中。我们永远不会陷入无限循环，因为我们永远不会超越时间而存在。对于像我们这样的生物来说，在时间的压力下，为了最大限度地减少统计意外并保持生理活力，我们始终面临着时间的紧迫，而这正是我们最终的相关性过滤器，也是我们几乎总能找到出路的原因。

我之所以说“几乎总是”，是因为有很多行为重复的例子都涉及某种循环，即使这种循环并非无限。这些例子包括额叶受损后的持续性行为、强迫症、严重自闭症和图雷特综合征中的重复性行为，甚至包括自我毁灭性的成瘾行为。从某种意义上说，这些例子支持了我的论点，因为它们反映了“正常”神经认知功能的紊乱。

如果这些想法正确，那么依赖图灵计算的人工智能系统将永远缺乏某些形式的具身智能行为和隐含智能行为。如果这是真的，那么通用人工智能（在任何认知任务中都能匹敌甚至超越人类表现的人工智能）的前景将变得比现在更加虚幻。

人工智能意识的神话

新型人工智能能否以比传统计算更丰富的方式与时间流动产生关联？这方面有着悠久的历史，也拥有令人兴奋的未来。最早的计算机——例如安提基特拉机械装置，一种拥有2000年历史的用于进行天文预报的装置——是模拟的，在连续的时间中运行。在历史的另一端，研究人员正在探索诸如“凡人计算”之类的方法，其中计算过程被允许依赖于实现它们的特定硬件，因此当硬件“死亡”时，算法也会随之消亡。这种方法通过拥抱而不是抵制热力学第二定律的变化，有望大幅提高能源效率。此外，还有许多不同类型的神经形态计算，它们在不同程度上模仿了人脑的工作方式，并且与图灵的永恒基准相比，它们更基于时间。

基于动态系统的智能方法完全避开了计算，而是专注于吸引子和相空间等对时间有更深层次理解的概念。这些方法可以追溯到人工智能的早期阶段以及历史上被忽视的控制论传统，后者侧重于反馈和控制，而非算法符号处理。

这些方法将带来巨大的收益，并有更多新的人工智能类型有待发现。但我仍然怀疑，即使是有限计算或控制论工程，也无法完全摆脱无限循环的阴影，也无法完全实现生物系统所实现的那种开放式、自适应智能。

我认为，这种类型的智慧不仅与时间息息相关，甚至可能与意识息息相关。至少，如果你像我一样将意识概念化——将其视为一个与生存驱动力紧密相连的过程——那么答案是肯定的。从这种观点来看，意识体验整合了从代谢对熵的抵抗，到行动和规划的感知机会，它们始终密不可分地嵌入在时间的流动中。正是这种多尺度整合才是关键所在，也正是因此，意识体验才能成为一种货币，它足以让我们摆脱几乎任何无限循环，并重新构建任何框架问题。

其他提议将意识与开放式智能联系起来，尽管并未关注时间和熵。二十年前，认知科学家默里·沙纳汉（Murray Shanahan）受到意识全局工作空间理论的启发，提出意识通过以不同的方式结合认知和感知的元素，提供了解决（或至少是规避）框架问题所需的资源。理论生物学家伊娃·雅布隆卡（Eva Jablonka）和西蒙娜·金斯伯格（Simona Ginsburg）认为，意识与他们所谓的无限联想学习相关，这是一种特殊的学习形式，能够以开放式的方式发现新的解决方案。总而言之，正在浮现的图景是，某些形式的智能——至少在生物体中，或许在任何情况下——可能需要意识。

也值得简要地换个角度思考。如果意识体验依赖于深深嵌入时间，并依赖于在熵控制的宇宙中生存所需的代谢本能，那么这将对人工智能的未来产生重大影响。具体而言，经典数字计算在时间上极短的本质——一个状态接着另一个状态，状态间的时间间隔完全任意——似乎与意识作为一个丰富的动态过程的本质从根本上不相容。如果意识与物理时间密不可分（正如目前看来的那样），那么它就不可能仅仅与算法有关。这为“人工智能意识”即将到来的想法又敲响了一颗钉子——如果还需要再敲一颗钉子的话。

哲学家丹尼尔·丹尼特在其晚年热衷于探讨意识科学中的“难题”，这与大卫·查尔默斯著名的“意识究竟如何发生”的“难题”形成了鲜明对比。对丹尼特而言，这些难题都关乎意识的功能——并非意识是什么，而是意识能做什么。正如他所说，意识体验发生之后，“接下来会发生什么？”

答案或许在于时间。意识或许是大自然赋予其智慧创造物持续存在的方式，它（几乎）总能找到出路。

感谢Tim Bayne、Robert Chis-Ciure、Stephen Johnson和Ishan Singhal对本文初稿的评论。本文的准备工作得到了欧洲研究理事会高级研究员基金（编号101019254）的支持。我是Conscium Ltd和AllJoined Inc.的顾问。