人工智能之父、诺奖得主辛顿：培养不会从人类手中夺权的“好AI”

游戏天地 2025年07月27日 00:08 1 admin

封面新闻记者边雪上海报道

人类在智能时代，如何凝聚共识、携手前行？

7月26日上午，2025世界人工智能大会暨人工智能全球治理高级别会议主论坛在上海盛大启幕，封面新闻记者在会场注意到，全球AI领域的目光正聚焦于此，共同见证这场关乎智能文明未来的思想盛宴。

最受关注的演讲者，是77岁的杰弗里·辛顿（Geoffrey Hinton）——深度学习三巨头之一，图灵奖得主，同时也是2024年诺贝尔物理学奖获得者。

“AI会不断变强且不会被垄断”

“人类或许与大语言模型相似，都会产生 ‘幻觉’，但大语言模型远优于依赖类比信号的人类大脑。”作为开场主题演讲嘉宾，人工智能之父、诺奖得主Geoffrey Hinton分享了诸多深刻观点：“人类难以永久留存知识，大脑死亡即意味着知识消逝；知识传递也效率低下，只能通过语言等方式，无法完全复制。”

Geoffrey Hinton表示，AI可通过共享参数快速传递知识，例如借助蒸馏技术（如DeepSeek的实践）。若独立智能体能共享同一组权重并以相同方式运作，就能实现数十亿乃至数万亿比特带宽的知识传递，前提是所有智能体运作方式完全一致。

“当前人类与AI的关系，恰似饲养一只可爱的小虎崽 —— 它长大后可能轻易超越人类。为了生存，要么摆脱它，要么找到永久保护自身的方法。”Geoffrey Hinton直言，AI已无法消除，它能大幅提升几乎所有行业的效率，即便有国家想消除，其他国家也不会认同。

呼吁全球建立由各国人工智能安全研究所与国内研究网络组成的国际社群，培养不会从人类手中夺权的“好AI”。

“作为更强的生产力，能高效完成数据分析、领域进展追踪等工作；作为更好的创意来源，可快速生成各类IP形象、降低视频制作成本与时间。”上海稀宇科技有限公司创始人兼CEO闫俊杰从实践维度出发，结合自身15年AI创业经历，阐述AI与社会的紧密联结。在他看来，AI还在不断拓展应用场景，且并非孤立发展，而是与人类协同进步——顶尖专家的思考过程能助力其提升，在特定环境中持续学习可增强能力。

闫俊杰认为，AI会不断变强且不会被垄断，因模型对齐目标不同、多Agent系统兴起及开源模型发展，将呈现多家争鸣态势，同时训练和推理成本的优化会让AI更普惠，最终实现 “intelligence with everyone”。他强调，AGI的实现需要企业与用户共同参与，成果也将为双方共享，彰显了AI赋能人类潜能、推动社会进步的实践价值。

炉边对话：开放模式将为全球AI注入新活力

在备受关注的炉边对话中，Relativity Space执行董事长&CEO Eric Schmidt与香港科技大学校董会主席沈向洋围绕全球AI发展与合作展开深度交流，为大国协作指明方向。Eric Schmidt指出，中国近年涌现众多世界级AI模型，且领先模型多采用开放权重模式，与美国形成显著区别。沈向洋对此表示认同，认为这种开放模式为全球AI创新注入新活力，有助于技术快速迭代与共享。

谈及与Henry Alfred Kissinger合著书籍，Eric Schmidt提到书中关注AI对社会的多面影响，Henry Alfred Kissinger强调中美需合作应对风险、拥抱价值，同时担忧超人类智能。沈向洋补充，应对该挑战需全球科研力量联合，中美基础研究合作尤为关键。

关于中美协作，Eric Schmidt建议快速达成共识、推动人员交流、解决非扩散问题；沈向洋提议从具体领域入手，建立常态化沟通机制，逐步积累互信。两人认同AI能提升智能、助力发展，中美作为重要经济体应合作维护世界稳定，确保人类掌控AI。

展望未来，Eric Schmidt预见智能体将影响工作流，社会将迎来积极变革，呼吁确立AI红线；沈向洋则强调全球需构建包容的AI治理框架，平衡发展与规则。这场对话彰显了大国在AI领域的责任担当，为全球合作提供了务实路径。

如何保证AI技术红利惠及全球？

圆桌讨论环节，在图灵奖得主、中国科学院院士姚期智的引领下，多位全球AI领域专家围绕 “同球共济推动AI普惠发展” 展开深度探讨。姚期智聚焦 “如何通过国际合作弥合AI鸿沟” 这一核心议题，指出当前AI技术集中于少数国家和企业，需全球携手确保技术红利惠及所有国家与群体，为讨论奠定了全球视野的基调。

美国约翰霍普金斯大学政府与政策学教授、计算机科学教授Gillian Hadfield从经济学与法律视角出发，强调AI作为变革性技术，需关注模型所有权与交易市场设计。她提出，技术获取是普惠关键，但需先解决安全性问题，才能让更多国家尤其是未充分受益于工业革命的国家共享AI革命成果，凸显了公平与安全并重的治理思路。

蒙迪与合伙人公司总裁Craig Mundie结合企业经验谈到，技术演进规律显示，智能机器时代的服务成本会随规模扩大而下降。他认为，尽管模型训练成本高，但通过技术普及和设备轻量化，全球企业将推动AI服务更易获取，无论是教育还是商业场景，每个人都能享受到技术便利，展现了市场力量在技术普惠中的推动作用。

上海人工智能实验室主任、首席科学家周伯文从技术、应用与治理三方面建言，强调AI具有通用性、可复制性与开源特征，发展与安全同等重要，需推动 “内生安全” 研究。“上海人工智能实验室的台风预测技术曾提前三天精准预警，目前正与南方国家合作推广。”周伯文同时呼吁建立全球治理框架，指出 “个体安全依赖群体安全”，中国推动的全球人工智能合作治理协议在联合国通过，体现了治理共识的重要性，为技术落地与全球协作提供了实践范例。

美国加州大学伯克利分校计算机科学杰出教授Stuart Russell则直指AGI竞赛的无意义性。他认为，AGI一旦创造出来，将是无限的财富创造者，应成为全球公共资源，对所有人类开放，竞争毫无意义。他强调有效监管的必要性，需将AGI风险降至极低水平（如核能领域 “100万年一遇” 的安全标准），避免技术失控威胁人类文明，为全球AI治理敲响警钟。

从理论探索到实践创新，从双边对话到多边协作，全方位展现了人工智能发展的现状与未来。无论是对技术本质的追问、对普惠价值的追求，还是对全球治理的探索，都彰显了一个核心共识：人工智能的发展不仅是技术革命，更是关乎人类文明走向的全球性课题。

在这场智能浪潮中，唯有秉持开放合作、普惠共享、安全可控的理念，凝聚全球共识、携手应对挑战，才能让人工智能真正成为推动人类文明进步的强大动力，共同迈向更美好的智能新纪元。