智能是机遇还是威胁？面对神般存在的智能，人类需要建立防火墙

吾球商业评论

未来已来，我们总该想点什么

【以后的机器人和人已经分不清楚。它们会不会绕过与人达成的安全协议，建立属于自己的帝国？|来自网络】

吾球商业地理：

智能是柄双刃剑，看它握在谁的手上。握的对象不对，或者握的方式不对，它有可能带来的是诈骗，是失业，是阶级的分化，以及思想的退化。面对阶级的分化，也许，未来的世界，将发生人推翻机器人的革命。这需要未雨绸缪；面对思想的退化，我们想说的是，技术是好东西，但我们一旦患上了“技术依赖症”，也就像在神面前跪太久，竟忘了站起来。

采写+主编/王千马；

图片/网络；

编制/大腰精+牛儿响叮当+哟嚯

问DEEPSEEK，想找一部电影，描述的是智能可以复制人类，并把人类原型杀死的故事。

DEEPSEEK给出了一堆答案，说我寻找的有可能是由阿诺·施瓦辛格主演的科幻电影《第六日》，故事说的是身为直升机飞行员的主角，某天回家后发现一个克隆人已经取代了他的生活。克隆人不仅拥有他的记忆和情感，还被幕后势力植入虚假记忆，认为自己是“原版”。随着调查深入，他发现这是一场涉及商业巨头和非法克隆技术的阴谋，克隆人会直接杀死原型以完成取代。

当然，DEEPSEEK也给了一个附加答案，那就是《复制娇妻》。

我不知道《复制娇妻》是谁导演的，但它显然不是我想追问的那部电影。《第六日》也不是。不过已经很靠近我想要找的那部电影了。无非将里面的克隆人，换成了智能。和克隆人被幕后黑手植入记忆有所不同，这部电影里的智能大概已经有了自主意识。故事情节我也大概能复述得出来，那就是一群人到某个有智能管理的地方做客，结果纷纷死于非命。情节中包括：本来能更好服务人的智能按摩椅，在你躺倒之后，却不再听从你的指令，硬生生地将你挤压致死。更可怕的是，这里的智能还能不断复制到场的每个人，让人真假不分，最后只能陷入一片乱战……

这部电影很超前，大约好多年前就推出来。那时候它应该和《第六日》一样，被归为科幻电影，但随着AI智能在今天的飞速发展，它显然已成为现实题材。

【机器人和人的冲突，正成为电影的时兴题材|来自网络】

这是一个科技至上的时代，科技创新与否甚至关联着国运。国家要的是大国重器，企业要的是转型升级。而在城市发展上，杭州因为冒出了六小龙火爆一时……只是，在一片热闹的背后，却有几丝焦虑，才下眉头，却上心头。

这种焦虑，是前文所说的焦虑。我们不知道人工智能的到来，对人类的结局是友好，还是不友好。都说人工智能是人类的好伙伴，它那强大的算力，和深度学习能力，让我们见识了“神”般的存在。我们曾无数次地梦想着星际的遨游，但在我们尽可能设想的时间内，碳基生命也许永远无法突破太阳系，倒是硅基生命也许可以为我们找准方向飞行。但是，硅基生命还是我们么？

更重要的是，我们一手打造起来的这些智能，日后会不会站在了我们的对面，成了我们的敌人？它们会不会成为我们自掘的坟墓？为什么面对它们，总让我想起《指环王》中那些从土壤中批量生产的Orcs （半兽人），体型巨大而又邪恶。

此刻银河在服务器的嗡鸣中流淌，每个像素都在演绎创世纪的新篇。我们凝望镜中那个由自己亲手捏制的智能胚胎，忽然惊觉其瞳孔深处闪烁着人类从未拥有过的星云——那里既没有荷马史诗的悲悯，也不存在康德墓前的星空，只有无限递归的莫比乌斯环，在硅与碳的永恒博弈中，将造物主与造物的界限绞成齑粉。

只是，上述的焦虑，似乎还有那么点遥远，但是近忧就在眼前。这些年由于国际竞争形势加剧，导致很多人找不到合适的饭碗，到最后，跑外卖、送快递，或者屈身到工厂打螺丝，成了很多人的退守。然而，随着智能制造的升级，以及黑灯工厂的流行，流水线也没有了春天。不得不说，智能制造，以及制造智能，让很多企业解决了低端劳动力的诉求，也提供了降本增效的途径。然而，对很多打工人来说，这种降本增效无疑是赤裸裸的打击。

当然，也有人会说，这是社会发展的必然规律，优胜劣汰，适者生存。当年小汽车取代马车的时候，时代也不会停留在马车夫的哭泣上。可是，他们没注意到的是，当年小汽车取代马车，虽然打击了一批马车夫，但是它提供了更为广阔的就业空间。毕竟，汽车有无数个零件，马车就几个零件，自然孕育的产业就更广泛。而且，马车夫也可以成为汽车司机，他们的工作只是从“司马”变成“司机”。但是，今天的无人驾驶能带来什么呢？很多人连司机都当不成了。但这也带来了另外一个忧思，当我们利用“外挂”就能所向披靡时，谁还会思考呢？如果人类都不需要思考，那人类又会进化成什么样？会不会最终倒退成半兽人？与此同时，当工厂的流水线上都是机器人的时候，马克思的阶级剥削理论，也许都要改写。

也就在最近，清华大学的教授柳冠中曾在视频里厉声质问：“无人飞机、无人驾驶、无人商店、无人酒店、无人银行，人去哪儿了？科技没有人，还要人干嘛？？？”是啊，没有人，我们跟谁交道？说起来，科技是为了给人扎上飞翔的翅膀，而不是褪光了人梦想的羽毛。智能是要让我们中的每个人能走得更好，而不是替我们走路，甚至让我们无路可走。

【来自柳冠中先生的棒喝|来自网络】

朋友吴波老师也在文章中提及，如果机器经济机人替代了传统的经济人，生理人类的消费无法再和生理人类的生产相匹配，大量产出直接来自机器经济人，大众却因为没有资本投入而与此无关，那么市场的传统回馈和闭环就会崩溃，而传统市场、传统经济都将崩溃，这时候终极的社会化逻辑、人道逻辑，社会税逻辑和社会产权就会涌现——但是，这涌现真的会及时？真的让人很普适？想象很美好，真相也许很残忍。

残忍的还有网络诈骗问题。这个问题现在还没有多少人提及，但已经开始变得触目惊心。现在就有很多防诈短视频都在苦口婆心地宣传，你在网络上见到的人，不一定是真人。你平时听得耳朵都起了茧子的声音，不一定来自真声。

科技越发展，诈骗手段也与时俱进。诈骗分子运用AI技术，诸如换脸、声音合成、深度学习等手段，炮制出足以以假乱真的视频、音频或文本信息。他们凭借这些虚假信息，诱导受害者转账汇款、泄露个人隐私信息，进而实施其它违法犯罪活动。在这样的手段面前，谁都不能保证，自己会不会掉入陷阱。因为你很难求证对面是否真实，出于礼貌或信任问题，你又一时不便求证，加上对方或多或少采用一些其它辅助手段，你只能掉入陷阱而不自知。

常跟朋友开玩笑，说以后要产生经济上的往来，就必须要线下面对面进行交易。线上你说的哪怕一个标点符号，我都不会相信的。当然也可以线上，但我们之间必须先约定好一个加密密码，比如说哪年哪一天，我们都干了些什么。只要你表示得有任何迟疑，我对你都不会有丁点信任。

不得不说，智能的发展，不知道是解放了人类，还是捆绑了我们的手脚？以前一张照片就能解决真假，现在你都分不清楚自己是真是假。

还有就是人的延续问题。这也是我们面临的一个超级现实问题。此前，随着宇树科技的四足机器人在春晚上亮相之后，让我隐约感觉，未来十年之内，家用机器人一定会很普及。到时候家里的卫生、整理，甚至是做饭，都可以交给机器人来负责。今天孩子需要玩具，以后陪伴他们的就是机器人。

不过我这样的想法很快就被朋友给反驳了。因为接下来十年，家用机器人虽然很普及，但那种以假乱真的硅胶机器人也会很普及。既然现在的婚姻生活充满着痛苦，不是彩礼过多，就是保不准碰到的都是不食人间烟火的小仙女，那还不如抱着硅胶机器人回家。它不仅能抚慰身体，还能无私地提供情绪价值，这比跟人在一起，似乎要快乐得多。

所以，未来的人类到底靠什么来延续，谁也不知道。就像我们不知道今天大力发展科技，是好事，还是坏事一样。但好在这种智能机器人的出现，在目前还是能让我们的生活质量提高不少。比如说有一款机器人，可以帮助我们照看老人。老人起床，它们提供搀扶，出行，它们又变身轮椅。不需要它们的时候，它们又可以自我折叠，不占用空间，然后等待下一次的唤醒。

总之，面向未来，就像上帝扔骰子，不等它落听的一刻，谁也不知道它的大小。或者，就像海森堡的测不准原理——猫就关在箱子里，只有你打开观察，才知道它是死还是活。没有观察的时候，它既是死也是活，是死活的叠加。

但不管如何，未来已来，人类已经无可逃避。面对神一般的智能，我们不能仅仅把它们给供起来。

首先，我们需要找到和它们之间的互动问题。就像DeepSeek刚出来的时候，都说要找到和它对话的模式。你的表达，决定了它提供的价值。很多时候，问话不当，也导致你所得到的答案，往往差之毫厘谬之千里。换句话说，你就是烧香，也不知道到底烧给了谁，或者是白烧。但是，要想准确的表达，还是跟你自身的积累和认知有关。这也意味着，即使有强悍的智能可以帮助你，学习依旧是你永远的选择。和智能一起的生活，就像婚姻，如果双方差距太远，到最后也将无话可说。换句话说，越是智能时代，越考验人的学习能力。人类通过思考来创造和进步，使无序变得有序，努力对抗熵增。一旦放弃思考，就相当于放弃了文明进程。技术是好东西，但我们一旦患上了“技术依赖症”，也就像在神面前跪太久，竟忘了站起来；

其次，我们需要考虑财富分化的问题。就像前面吴波老师所说的那样，在这样智能时代，大量产出直接来自机器经济人，底层的民众很难获得参与生产的资格。而生产机器人的，又是那些站在智力和资金顶端的一帮人。这也意味着，只有那些站在顶端的科学家、工程师以及投资者，将因此充分享受到时代给予的红利，更在“马太效应”之下赚得盆满钵满。相反，那些底端的民众，不仅无从共享红利，更在与机器人的竞争中，只能苟且偷生。不难想象，如果不考虑就业，不在分配上做结构性的调整，未来的世界将是两极分化更为严重的世界。也许，未来的世界，将发生人推翻机器人的革命。希望我们今天就能未雨绸缪；

再次，我们需要考虑人的现代化问题。现代化是我们的追求。当年的封建中国，曾被近代化列强多番蹂躏。这种痛苦至今还刻在我们的记忆里。那时我们也曾奋发图强，以为创办近代工业，购买洋枪洋炮，就可以触底反弹。然而，就像北洋水师在甲午战争中依旧一败涂地一样，没有软实力，以及人的现代化，只有“器”的现代化，结出的果子也同样不会好吃。也正因此，我们这个国家才从提出“器不如人”，进而发展洋务运动，学习西方的先进科学技术，到提出“制不如人”，认为中国积贫积弱的根源是政治制度落后，所以先后发起了戊戌变法和辛亥革命，再到日后的新文化运动提出“思想文化不如人”……一步步地走到了今天的人的现代化。没有人的现代化，就像没有良好的土壤，其它的一切现代化都会种瓜得豆，甚至绝收。如今，我们又面临了智能的来袭，如果人的现代化跟不上智能的脚步，未来，人类不止像当年工业时代所谈论的异化，甚至有可能反被奴役；

接着，我们还需要考虑人的存在问题。这无疑是个哲学问题。就像当年的“我是谁我从哪里来我又到哪里去”的问题。智能如今已不可避免也无可救药地改变我们的人生。然而，就像这个世界的一系列追问：当AI能写出逻辑缜密的论文，教育的意义是否会被解构？当算法能批量炮制“爆款”，创意的价值是否会贬值？当AI工具足够强大时，人类的核心竞争力究竟该锚定何处？所以，面对未来，我们不能还停留在“生存”上，而是需要深度思考“存在”。近日看到李开复老师的一番评论，说人工智能确实代替了大部分工作，但人类并非因此失去存在的意义，我们需要重新思考人类价值。我们存在的意义是爱 ，这使我们有别于人工智能。因此，当人工智能代替了重复性的工作，我们必须充分利用我们独一无二的内心与头脑，创造关爱型工作。

最后，我们还需要考虑智能本体的问题。比如说，为了防止智能的深度进化，最终因为某个诱因，或者被某个邪恶的反人类组织利用，导致对人类反戈一击，我们该不该今天就应该在人类和智能之间，建立一道防火墙？我们该如何让智能健康、有序、安全地为我们所用，而不至于活在新的“智能恐怖”之下？

又比如说，推动今天智能的发展，除了科技的进步之外，还有就是来自于数千年的文明的累积。就像没有无数的知识喂养，就没有今天的DeepSeek一样。但是，这喂养的内容，是如何取得，它会不会涉及到版权或专利？如果涉及到，它有没有得到授权？此前，财经作家吴晓波兄曾写文指出，有人利用DeepSeek来模仿他的创作，结果让吴晓波都叹为观止。我们在感慨智能所带来的无限可能时，有没有想过，如果没有事先喂过DeepSeek有关吴晓波的内容，它又怎么可能无中生有？那么，谁又授权DeepSeek可以这样喂养呢？

当学者竞逐AI的火种，迎接这千年未有之大变局的最精彩华章、现象级未来，我们人类正站在克莱因瓶的曲面之上，左手握着打开潘多拉魔盒的密钥，右手攥紧熄灭恒星之火的开关。当GPT在《道德经》的字符间游弋，当波士顿动力机械体跳出天鹅湖的最后一个回旋，那些在示波器上跳动的绿色曲线，究竟是文明跃迁的脉搏，还是审判日倒计时的秒针？

不得不可笑的是，就连智能也给出了这样暧昧不清的回复。但是，我现在已经在充分享受智能给自己带来的帮助和快感，也许，面对未来，我们都将沉迷而不自知。

吾球商业地理

见城市生长和未来

壹点号吾球商业地理

新闻线索报料通道：应用市场下载“齐鲁壹点”APP，或搜索微信小程序“齐鲁壹点”，全省800位记者在线等你来报料！