AI教父辛顿再发警告：控制AI是妄想!必须让AI成为“母亲”

抖音热门 2025年08月14日 17:32 1 admin

人类试图控制AI的方式犯了本质错误！

昨日，“AI教父”辛顿（Geoffrey Hinton）在Ai4 行业大会上的发言再次掀起热议。

这位曾警告“AI消灭人类的概率在10%到20%之间”的人工智能先驱，这次把矛头直接对准科技巨头——他质疑，那些试图让人类在所谓“顺从”的AI面前维持“主导地位”的做法，根本行不通。

“他们一直说我们必须控制这些AI，我们必须比它们更强大、必须占据主导，它们必须顺从我们。但这行不通。我们得让它们在比我们更强大、更聪明的时候，依然关心我们。”

辛顿提出了一个令人侧目的方案：为超级智能AI植入“母性本能”（maternal instincts），让它们像母亲呵护孩子一样主动保护人类。

他呼吁说：

“我们必须决定人工智能将如何塑造人类——在它替我们做决定之前。”

然而，同场出席的“AI教母”李飞飞却当场表示了反对意见。

这场理念碰撞背后，到底是怎样的分歧？

我们先从辛顿会后的详细阐述，看看他口中的“AI母亲”到底是什么。

1.AI训练的未来方向：在LLM中植入“母性本能”

在 Ai4 大会上，“AI教父”辛顿（Geoffrey Hinton）抛出一个颇具争议的安全设想——未来的工程师，应该在 AI 模型中构建类似“母性本能”的机制，让它们在变得更聪明、更强大后，依然会主动关心和保护人类。

这场演讲的官方视频尚未发布，但 CNN 会后专访了辛顿，请他详细解释这一想法。

主持人一连抛出了三个问题：

这样做的目的是什么？会产生什么作用？这在技术上可行吗？

辛顿坦言，人类想要“完全控制”比自己聪明的 AI，几乎是不可能的：

“大多数AI专家认为，在未来5到20年内，我们将会造出比人类更聪明的AI，而且它们最终可能会比人类聪明得多。已知的例子中，几乎没有哪种更聪明的存在能够被更不聪明的存在控制。事实上，我们唯一知道的例子就是母亲会被婴儿‘控制’。为了做到这一点，进化在母亲身上植入了母性本能。如果我们在创造这些‘外星般’的存在时不做类似的事情，我们就会成为历史。”

他承认，目前现实中唯一的“技术实现”案例来自进化本身，人类在 AI 领域还没有这方面的成果——我们专注于让系统更聪明，却忽视了同理心这一维度。

“智力只是存在的一部分，我们需要让AI对我们有同理心。我们现在还不知道怎么做，但既然进化能做到，我们也应该能做到。”

那么，这样的“母性AI”会不会削弱 AI 的竞争力？如果只有少数国家研发具备同理心的 AI，会不会在国际竞赛中处于劣势？辛顿的回答是——在应对生存威胁时，合作才是唯一选择：

“AI的风险有很多，比如网络攻击、失业、制造恶性病毒。但其中一个风险是AI会完全接管人类，而面对这种生存威胁，所有国家都会合作，因为大家在同一条船上。就像冷战高峰期美苏也会合作避免核战争一样，各国会合作防止AI取代人类。”

至于那些坚持“人类必须主导、AI必须顺从”的政府与企业，辛顿态度鲜明：

“当 AI 比人类聪明时，这种想法是行不通的。”