一个可能永久改变人类命运的“物种”就要诞生了？AI之父害怕了

抖音快讯 2025年08月20日 11:21 1 admin

声明:【本文内容均引用权威资料结合个人观点进行艺术加工撰写，文末已标注文献来源及截图，请知悉】

“GPT-5发布”等于“曼工程”，奥尔特曼的此番自拟无疑是“傲慢”的。

那可是改变二战的一夜！人类由此掌握了核的力量！

可万一，他说的是真的呢？

在自己的社媒上，AI之父的声音渐渐失去了往昔的自信与骄傲，颤抖、不确定的音调随处可见，他似乎在对自己的造物感到害怕。

“我们，或许会放出一个全新的物种。”

GPT-5，究竟是能言的助手，还是未知的洪水猛兽？

【创始人的“不确定”】
7月，GPT-5即将问世的消息渐渐藏不住了，全球科技企业顿时为之疯狂。

没人能忘记，多年前GPT一代发布的盛况，人类似乎从此跨入了一个全新的时代，AI一词成了今后数年的重点。

人们开始讨论，AI会不会对现有的分工形成冲击，会不会有人因此失业？而更多的人在想，AI能给自己带来什么？

热火朝天的讨论背后，只因奥尔特曼的“伟大想法”，被尊为AI之父的男人，真切地让世界不一样了。

那时候，他是骄傲的，自信的，面对全球云集大佬，他面不改色，滔滔不绝，俨然一副成功者的模样。

后续，GPT的竞争对手虽然越来越多，可每次新版本的GPT发布，依然能引领一个时代的潮流。

所以，这一次新版本即将公布，所有人都在摩拳擦掌，兴奋猜测奥尔特曼又会拿出来什么秘密武器之时，这位创始人，却似乎给所有人泼了一盆冷水。

8月，GPT-5公布前夕，在Theo Von的平台上，老奥公布了自己的一段谈话录音，里面的他话音颤抖，甚至多有前后矛盾的地方，像是畏惧一样东西到了极点。

AI之父，似乎对自己的造物感到害怕了，他多次提及——这一次发布，我也不确定会给世界带来什么样的后果。

【过于特别的智能化】

老奥为何会感到害怕？

解释起来很简单——他觉得GPT-5“过于智能”了，当然，这里有一个很重要的问题，AI领域里的“智能”，和我们熟悉的智能是截然不同的。

这点得和AI的运行逻辑挂钩。

它其实是没有思考能力的，我们平时向其发问，不是说它自己思考后，再将思考所得的答案总结反馈给我们，而是靠着无数的“训练”，它自发堆出一套“正确”的回答。

光说可能很拗口，我们举个例子。

你如果问AI一个问题，最初的时候它的回答绝对是语序不通的，甚至看都看不懂。

而这时候人类会做什么呢？

会设计一套奖惩机制，反复、不断让AI回答同一个问题，随后一点一点开始针对训练。

语序对了，奖励；语序不通，惩罚，在经历千万亿次甚至更多反复训练后，AI就能掌握一套说话的逻辑。

像是“人类”一词，AI最初可能会与各种词语组合，比如“人篇”、“人章”等等，然后靠着奖惩机制，它会明白在无限的组合中，前文的组合是错的，而输出“人类”、“人们”这样的组合是对的。

所以，如果说AI真的活过来，它其实是不懂“人类”这个词的现实含义的，它理解的是什么？是机械的对错。

从词语，再发展到句子，再发展到完整的对话，一步步跨过去，训练过去，最终一个AI就成型了，所以你是不是能稍稍理解了前文的“智能”一说？

AI连自己说出来的话都理解不了，又何谈智能呢？它们只是在不断地组合字词，靠着千万亿的模拟训练，才能拼凑出一份回答。

但是，GPT-5很有可能与自己的前辈们不同，它或许，真的具备了某种意义上的“智能”。

原来，让老奥心生畏惧的是一封邮件的回复，他本意只是想试试自家研发的AI水平，谁料GPT-5不仅完美回答，甚至还“自发”进行了深度思考，给出了一系列的后续行动建议。

而这个自发一词，很恐怖，因为这表明，GPT-5不仅完成了人类给出现阶段任务，还主动推导、预测了人类的下一步，并同样给出了答复。

理论上，这是可能的，只要训练的次数够多，AI就会在反复的奖惩中摸索出这样一套机制，但问题是，开了这个口子，以后会如何？
老奥猜不透，甚至按照他的智慧，很快就联想到了无数可怕的情况。

【老奥的猜测】

从词语、到句子、到原文，这是AI进步的顺序。

那么，有没有可能未来的AI会从回答、到预测、再到执行呢？
GPT-5已经跨过了单纯的回答这一步，它会开始对未来做出预测，判断提问人下一步可能的动作，那未来有没有可能，它再进一步，直接到帮助对方执行呢？
你可能会觉得这是一件好事，我只要问一个问题，AI直接帮我做了，多省事！

但这就代表着AI不再受控，人类甚至不知道，你一个问题问下去，AI会执行何种方案。

举个例子，你问AI为什么会全球变暖？
过去的AI回答完就算结束了，可GPT-5或许会预测，认为用户是想解决这个问题，开始自发寻找方案。

那么，GPT-6、7有没有直接执行该方案呢？而我们都明白，当下全球变暖，主要就是人类的排放。

AI或许就会认为，只要抹除了全部人类，全球就不会变暖了，它们又不存在常规意义上的道德！

得，你说这是人类的帮手，还是人类的杀手？

老奥畏惧的就是这一点，更重要的是，他还能做出更改吗？
或许已经来不及了。

聊回前文的训练，AI的训练又和大家印象中的训练不同，这是一个耗时、耗材、并且难以中断的过程。

毫无疑问，GPT-5的这种主动性，绝非老奥想要的，可如果想要做出更改，那就意味着过去数年的投入全部打水漂，这是公司绝对无法接受的事情，那可是动辄百亿美元的成本！

换言之，训练已经结束，AI已经定型，哪怕他们在下一代的开发过程中尝试更改训练方案，可旧有的痕迹不会消失，GPT系列的“自发倾向”，再难改正。

老奥只能赌，赌那种可怕的未来不会发生，所以他会说，这或许，是核弹来临的前夜——因为他不知道，放出了GPT-5，世界的未来终究会发生什么变化。

当然，截至8月7日，GPT-5已经正式发布，从这一天多的反馈来看，老奥担心的场景似乎暂时没有出现，GPT-5大体上依然处于可控范围内，这多少是一个好消息。

或许，这不过是一场虚惊。

信源：

https://www.toutiao.com/article/7536003016214839860/?channel=&source=news——GPT-5来了，免费向所有用户开放——大象新闻

《万物生辉》系列新书发布暨分享对谈活动顺利举行

2分钟秒懂！“斗棋麻将有挂吗”（详细开挂教程）-哔哩哔哩

发表评论

一个可能永久改变人类命运的“物种”就要诞生了？AI之父害怕了

https://www.toutiao.com/article/7536003016214839860/?channel=&source=news——GPT-5来了，免费向所有用户开放——大象新闻

《万物生辉》系列新书发布暨分享对谈活动顺利举行

2分钟秒懂！“斗棋麻将有挂吗”（详细开挂教程）-哔哩哔哩

最新评论

最新留言

标签列表