DeepSeek爆火三问③丨AI何畏：人类会不会被AI终结？

健康生活 2025年02月11日 13:45 5 admin

☑迅速发展的人工智能带来了巨大的不确定性，也带来了诸多疑问——“人工智能造假行骗，怎么办？”“和AI聊天后自杀，谁来负责？”“AI让两个互不相干的人接吻，是不是超出了界限？”“AI智能体被骗走近5万美元，可能吗？”

☑著名科幻作家艾萨克•阿西莫夫在其小说《我，机器人》中第一次提出了机器人学三定律，作为科幻小说中生产设计机器人以及机器人自身行为的准则

这是一次突袭，也是一次争锋。

春节期间，DeepSeek风暴席卷全球。这场风暴不亚于2022年美国的ChatGPT问世时掀起的那场AI浪潮。

当ChatGPT、DeepSeek横空出世，当人工智能走进人们的生活，AI的革命性突破似乎已经打开人类面向未来的窗户。推开这面窗户，是生机盎然的鲜花草坪，亦或是满目疮痍的废墟之地？

面对AI的奔涌而来，人类社会向左还是向右？

未来已来，有许多问题需要回答。

今天我们来看第三个问题：AI何畏：人类会不会被AI终结？

上一章我们谈到了人类未来的新图景，一切都充满着美好。

从某种意义上来，这是技术浪漫主义者的狂想。正如开发ChatGPT的美国人工智能公司OpenAI的创始人们一开始所设想的——致力于造福人类。

2015年，奥特曼和马斯克等人联合创办了OpenAI。去年，马斯克以违反合同为由起诉OpenAI和奥特曼，称其违背了造福人类的初衷，现在致力于“实现利润最大化”。据悉，奥特曼和OpenAI成立时曾达成的一项协议，即开发技术以造福人类而不是利润。

如果奥特曼真的忘了初心，如果技术被资本绑架，ChatGPT会何去何从？再进一步追问，如果人工智能变成一匹脱缰的野马，人类真得还能驯服得了它吗？

正如我们这几年所看到的，迅速发展的人工智能带来了巨大的不确定性，也带来了诸多疑问——

“人工智能造假行骗，怎么办？”“和AI聊天后自杀，谁来负责？”“AI让两个互不相干的人接吻，是不是超出了界限？”“AI智能体被骗走近5万美元，可能吗？”

正如狄更斯在《双城记》的开头所言：“我们面前应有尽有，我们面前一无所有；我们正在迈向天堂，或是走向另一个方向？”人工智能究竟会将人类带向何方？

2017 年 10 月，在沙特阿拉伯举行的“未来投资倡议”大会上，机器人索菲亚被授予沙特公民身份，她成为了历史上首个获得公民身份的机器人。真正引起媒体疯狂报道的，并不是机器人获得公民身份这一颇具历史性的身份象征，而是当年的一场节目中，她的缔造者汉森当面提出的问题：

“你想要毁灭人类吗？请说不想。”

“好吧，我会毁灭人类的。”索菲亚毫不犹豫地回答，足以让所有人大惊失色。

“机器人”一词是捷克剧作家卡雷尔•恰佩克发明的，描述名为《罗素姆万能机器人》剧作中的机器人角色，是一个忠诚的人形智能工人，具有情感和创造力。

人形机器人可以说是人类对自己最美好的想象——帮助人类制造各种产品，服侍人类的起居生活。但是，任何技术的突飞猛进都会带来无尽的隐忧。

我们看到，AI诈骗开始增多，AI医生看病带来风险，也看到好莱坞因为担心失业而发起的罢工，人工智能刚刚起步，并冒出了生成虚假有害信息、侵犯隐私、算法歧视、侵犯知识产权等风险。

不仅如此，一个审视人类自身的终极问题也被迅速摆上了日程——如同科幻片所描绘的，人类会被机器人终结吗？人工智能的发展，是否会打开令人意想不到的“潘多拉魔盒”？

人工智能专家、作家艾伦·汤普森博士说，GPT-3

的智商超过120。如此天资聪慧的机器人，有一天会不会因为不顺心，反过来突袭人类。亦或是，同类或者不同类的机器人产生联系，以超人类的面目与人类产生决战？

这些指向的都是人与机器的伦理问题。

除了上面提到的人类被机器人打败，还有学者提出了一个更加耐人寻味的问题：当你的生活中越来越多的拥有机器人的陪伴，当你心情不好的时候，你可以任意摔打一个机器人娃娃吗？这是不是属于一种新型家暴？

20世纪40年代，著名科幻作家艾萨克•阿西莫夫在其小说《我，机器人》中第一次提出了机器人学三定律，作为科幻小说中生产设计机器人以及机器人自身行为的准则。

第一定律：机器人不得伤害人，也不得见人受到伤害而袖手旁观。第二定律：机器人应服从人的一切命令，但不得违反第一定律。第三定律：机器人应保护自身的安全，但不得违反第一、第二定律。

如果遵循这样的定律，人类不会丧失主体性，丧失对机器人的控制。机器人在人类的掌控之下，就可以达到人机协同的完美世界。

问题是，人工智能从本质上来说是一门技术，技术一定会向善吗？

技术是一把双刃剑，可以向善，也可以向恶。还记得当时的基因编辑技术吗？人类可以编辑一头羊、一头牛，可以产生克隆的动物，但人类却不能产生克隆人。

同样，对人工智能来说，我们是否要需要一个超越人类的存在，是一个值得深思的问题。

正如我们之前所讨论的，如果跨过人工智能的奇点时刻，一种强人工智能将会超越人类。在技术悲观主义看来，人类将会遭遇两种境地——被替代或者被灭绝。

伴随着人工智能的突发猛进，显然，这个问题也提上了人类社会的议程。

欧洲议会通过《人工智能法案》，法案的核心特征是对AI应用进行风险级别的分类，分为“不可接受”风险、高风险、中风险和低风险，被认为存在“不可接受”风险的技术会被完全禁止，法规会根据不同风险等级的AI应用制定针对性标准。其中明确提到，操纵人类行为或利用人类弱点的人工智能也被禁止。

我国也出台多项文件，在鼓励人工智能创新发展的同时，对人工智能可能带来的风险强调包容审慎的监管。2023年10月，中国在第三届“一带一路”国际合作高峰论坛期间提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的中国方案。

不管是畅想人类未来的美好图景，坚守人类中心主义的工业4.0时代，亦或是悲观于人类丧失自我，跨过奇点,人类落幕的时代，亦或是“人机融合”的赛格博后人类时代。技术只是一种工具，需要涌进AI浪潮的弄潮儿们秉持技术中立、科技向善的立场，同时，也需要各国政府做好充足的准备，防止AI对人类社会造成的冲击与破坏。

说到这里，我引用一个故事——

有一个地方有一条穿城的河，每年总有人落水，有人是意外，有人是轻生。怎么办？是不是可以借助河道附件密密麻麻的摄像头做文章呢？当地委托专业公司开发了一个识别轻生的AI应用。模型有了，但没有足够的算料来训练它。当地就自己出人，模拟人轻生前的举动，比如，在河边徘徊、越过护栏，或者站在危险处发呆，等等，以此来训练AI模型。只要看到上述行为，系统就会自动向当地发出警报，马上就有人介入。这些年来，这个防溺水的AI救下了不少轻生者。

这也就是所谓的技术中立、科技向善。

确实，面向未来，人类在寻找自己的坦途，掌握人类未来命运的只在我们每个人的手中。

正如有专家所言，算法的问题，终归还是人的问题。如果AI入侵，守卫自己的家园的只能是人类自己。而最好的办法就是，确保AI成为人类永远的朋友。

（大众新闻记者张浩报道）

DeepSeek爆火三问①丨何谓AI：AI究竟是怎么来的？

DeepSeek爆火三问②丨AI何为：AI会带来什么新图景？