在人工智能时代呼吁跨学科信任研究

游戏天地 2025年08月21日 10:14 1 admin

当前，人工智能正以前所未有的速度融入社会，引发深刻的信任危机。2025年7月18日，Nature旗下子刊《Humanities and Social Sciences Communications》发表文章《在人工智能时代呼吁跨学科信任研究》（A call for transdisciplinary trust research in the artificial intelligence era）。文章通过对过去三十年超过34,000篇相关研究的文献计量分析，发现当前研究尽管不乏交叉学科的努力，但严重缺乏科学家与社会利益相关方（如政策制定者、开发者、公众）之间的深度协作，即“跨学科”（transdisciplinary）整合。为此，文章系统性地提出一个全新的跨学科研究框架，旨在弥合科学研究与社会实践之间的鸿沟，为应对信息茧房、歧视、战争等重大挑战，重建人工智能时代的社会

一、引言：

新时代的机遇与信任基石

我们正处在一个新时代的黎明——人工智能革命。广义上，人工智能被定义为计算机程序、机器或系统所具备的、能够做出类人智能决策并自主执行任务的能力。这场革命的独特之处在于，它能够模拟人类认知的多个方面，使机器能够评估情境、从经验中学习，并将知识应用于决策和问题解决。这标志着技术从自动化物理任务向应对认知挑战的根本性转变，有效填补了机械自动化与人类推理之间的“知识与智能鸿沟”。

人工智能在全球范围内带来了前所未有的机遇，涵盖了工业4.0、自动驾驶、医疗健康和军事等多个领域。据预测，其带来的效率和生产力提升将在2030年前为全球经济贡献约13万亿美元的增长。然而，随着人工智能日益融入我们的生活，一个严峻的现实摆在我们面前：适用于人类的传统人际信任观念，并不能直接延伸至人工智能。人工智能的社会整合引发了操控、歧视、失控等伦理风险，直接威胁到社会信任。对人工智能技术的信任是其被广泛采纳和增进公众接受度的前提；反之，信任的缺失不仅会导致效率降低、经济损失和创新停滞，更可能加剧社会不平等，甚至引发社会动荡，最终破坏社会凝聚力。

这些重大的社会挑战，若无跨学科学术界与社会利益相关方的协同努力，是无法得到有效解决的。然而，本文对过去三十年超过34000篇信任研究文章的文献计量分析表明，尽管多学科和交叉学科研究已不鲜见，但真正的跨学科合作却极为稀缺。研究发现，科学家与利益相关方之间的合作——作为跨学科研究的核心特征——普遍缺失。这种“缺环”导致现有研究难以触及最终用户，无法有效建立信任或提供整合性解决方案。因此，本文旨在确立一个关于信任的跨学科研究议程，呼吁学术界及其他利益相关方加强协同，以提升人工智能时代信任研究的质量与影响力。

二、信任困境：

人工智能时代下社会面临的重大挑战

人际信任是人类繁荣与经济增长的基石，它降低了合作成本，促进了社会福祉。跨学科的公认定义将信任界定为：一方基于对另一方将采取关键行动的积极预期，而愿意承受风险的意愿，即使在没有监督的情况下。这种意愿使信任本身成为一种“困境”，充满了潜在的风险与收益。

当我们将信任的对象从人类转向人工智能时，这一困境变得更加复杂。尽管我们可以借鉴人际信任的维度来构建人工智能信任框架，如能力（Ability）、善意（Benevolence）和诚信（Integrity），但这些概念需要重新诠释。人工智能系统的“能力”指的是其技术性能（如安全性、可靠性、准确性）；而“善意”（如隐私保护、公平性）和“诚信”（如可解释性、问责制）并非人工智能的内在属性，而是通过系统设计、伦理编程和监管保障来实现的。这种重构凸显了人工智能信任不是人际信任的复制，而是一种由人机互动、技术特性和制度机制共同塑造的、独特的社会技术建构。

当前，人工智能技术的飞速发展在创造机遇的同时，也带来了一系列重大的社会挑战：

1.画像分析（Profiling）：机器学习算法通过分析海量数据来预测未来结果，广泛应用于零售、市场营销和精准医疗等领域，但也带来了严重风险，如未经授权的数据收集和侵入性广告，可能损害用户的心理健康与自我认知。

2.虚假信息（Misinformation）：计算机视觉技术催生了“深度伪造”（deepfakes）风险。这些高度逼真、用于传播虚假信息的伪造内容，能够操纵社交媒体舆论、损害个人声誉，破坏了“不伤害”（non-maleficence）原则，从根本上侵蚀了信息信任。

3.歧视（Discrimination）：大语言模型等可能延续甚至放大现实社会中的偏见。例如，在人力招聘中出现基于性别、年龄和种族的偏见，或在司法决策中产生歧视性结果。这些有偏见的输出损害了公平性原则，侵蚀了人们对人工智能应用的信任。

4.工作岗位替代（Job Displacement）：人工智能驱动的机器人技术，凭借其视觉、触觉和自主决策能力，正在自动驾驶、制造业和外科医疗等领域大展拳脚。然而，其自主性也带来了替代蓝领和白领工作的风险。随着机器承担更多角色，问责制问题日益突出，导致公众对人工智能的信任度下降。

5.战争（Warfare）：深度学习在军事领域通过其复杂的算法提升了军事行动、防御系统和网络安全领域的决策效率。但其“黑箱”特性也带来巨大风险，尤其是在涉及自主武器的军事决策中，可能导致意外的平民伤亡和关键系统失控，挑战了“可解释性人工智能”（XAI）原则，其与道德、伦理和法律原则的潜在冲突，严重侵蚀国家间的信任。

6.奇点（Singularity）：量子增强型人工智能有望在药物设计、气候建模和空间探索等领域取得突破性进展。然而，人工智能向通用人工智能（AGI）或超级智能（ASI）的快速演进也引发了生存风险，例如人工智能可能超越人类智能，导致治理失控（如基本技能丧失、责任扩散、人类能动性下降）。这些发展可能破坏以人为中心的原则，加剧人工智能对齐问题，最终危及人类对人工智能演进本身的信任。

这些重大的社会挑战清晰地表明，构建人工智能信任需要跨领域的协同努力，不仅涉及工程、计算机科学、社会学、心理学等学科的交叉，还必须整合来自开发者、投资者、监管者、用户和公众等不同利益相关方的知识与视角。

三、研究现状：

跨学科合作的“缺环”

为应对上述挑战，我们亟需一个能够整合政治、社会和经济维度的跨学科信任研究议程。通过对Web of Science数据库中34459篇信任研究相关文章进行文献计量网络分析，我们评估了当前研究的多学科、交叉学科与跨学科现状（见图1）。

图1 A.基于34,459篇研究文章创建的文献计量网络图，展示了98个研究领域（节点）和8个研究集群（不同颜色）；

B.各集群的平均总链接强度，显示了不同研究领域间的关联强度；

C.各集群的内外链接比率，反映了交叉学科程度；

D.集群在二维图上的位置，显示了其相对关联性；

E.基于机构归属的合著比例饼图

分析结果揭示了一个显著的缺失：几乎没有任何研究文章符合跨学科研究议程的核心特征，甚至很少使用其术语。这一缺陷表明，过往研究在很大程度上未能将来自不同学科的知识、方法和视角整合到一个统一、整体的框架中。尽管研究涉及多个科学领域，但近99%的研究未能纳入制度性利益相关方（如开发者、政策制定者和公众）的观点。数据显示，98.7%的出版物作者完全来自学术和研究机构（ARI），仅有0.8%的出版物由学术研究机构与制度性利益相关方（IS）合著，而完全由利益相关方撰写的出版物仅占0.5%。这意味着，学者和其他利益相关方在研究与干预的开发过程中并非平等的合作伙伴。制度性利益相关方视角的缺失，严重阻碍了我们对人工智能信任问题的深入理解。

四、破局之道：

构建一个跨学科信任研究框架

为解决上述问题，我们提出了一个跨学科框架，旨在应对重大挑战，并为增强人工智能信任及其社会影响提供解决方案（见图2）。该框架基于一个核心理念：重大的社会挑战必须与现有的科学知识差距相联系，才能发展出有效的实践方案。

图2 A.跨学科研究议程强调科学家与利益相关方的合作。

B.跨学科研究框架将社会进步和科学发展视为知识驱动的系统，经历三个阶段：问题、话语和结果。该过程在利益相关方与科学家的持续对话引导下，分为三个阶段：问题转化、新知识生产和跨学科整合。框架的核心是围绕五个关键要素构建新知识：可信赖性（Trustworthiness）、风险（Risk）、用户（User）、场域（Sphere）和应用场景（Terrain）。

该框架的运行分为三个阶段：

1.问题转化（Problem Transformation）：识别重大的社会挑战，并将其与科学知识缺口联系起来，重新定义为一个共同的研究目标。

2.新知识生产（Production of New, Connectable Knowledge）：科学家和利益相关方共同开发和实施一个整合概念。这一概念围绕五个核心信任要素展开：可信赖性（Trustworthiness）、风险（Risk）、用户（User）、场域（Sphere）和应用场景（Terrain）。框架以“用户”为中心，确保人的权利与尊严得到优先考虑。

3.跨学科整合（Transdisciplinary Integration）：对整合后的结果进行评估，并为社会和科学界产出最终成果。

在整个过程中，形成了两条不同的跨学科路径：一条是现实世界路径，侧重于实际的社会解决方案；另一条是科学内部路径，致力于实证研究和科学发现。该框架通过整合来自科学和社会领域的多元视角，为支持可信赖的人工智能提供了一个结构化方法，从而实现对信任问题的整体性处理。

五、框架应用实例：

以自动驾驶汽车为例

为了说明该框架的实际效用，我们以自动驾驶汽车（AV）领域为例进行详细应用。该案例源于一个真实事件：2023年10月，在美国旧金山，由于发生严重事故，当局吊销了Cruise自动驾驶出租车的运营许可。

（一）第一阶段：问题转化

1.挑战界定：通过与制造商、监管机构及公众等利益相关方协商，可界定出如下挑战：自动驾驶旨在革新交通，但系统故障和伦理困境等风险，损害了安全性、可靠性，侵蚀了公众对自动驾驶汽车的信任。

2.挑战与科学知识的连接：多学科专家合作发现，尽管自动驾驶汽车能减少人为失误，但在复杂环境中仍存在安全隐患。专家们一致认为，需要一个整合技术、心理、伦理、法律等方面的整体策略。

3.转化为共同研究对象：团队将挑战转化为共同研究项目，聚焦于自动驾驶汽车部署中因系统故障和决策不透明而引发的信任问题。

（二）第二阶段：新知识生产

1.明确科学家与利益相关方的角色：在跨学科合作中，科学家负责数据与验证，利益相关方提供实践洞见与资源，确保方案的社会相关性。

2.设计整合概念：团队围绕“用户”设计一个整合概念。例如，整合“可信赖性”与“风险”以开发清晰的应急决策模型；整合“场域”与“应用场景”以满足不同社区的交通需求。

（三）第三阶段：跨学科整合

1.评估整合结果：通过利益相关方的讨论，共同评估已形成的信任增强策略。例如，通过情景分析来识别具体的信任增强措施。

2.为社会和科学界产出成果：项目完成后，团队可以为组织、科技公司和政府机构的决策者编写一份综合指南，并通过学术出版分享研究成果，从而对社会和科学领域产生持久影响。

这个假设性项目不仅能在科学界激发关于自动驾驶汽车信任的进一步研究，还能影响关于自动驾驶汽车的社会讨论，甚至为政府的监管决策提供信息，从而对社会和科学领域产生持久影响。

六、结论与展望

恢复、保护和建立对人工智能的信任，对于社会的安全稳定和全球体系的有效运作至关重要。展望未来，人工智能系统之间以及人工智能与人类之间双向的新兴信任动态，要求我们发展新的概念方法。未来的信任框架不仅要考虑人类如何信任人工智能，还必须思考人工智能系统如何评估和响应人类的可靠性，甚至在网络化和自动化环境中建立某种形式的“AI-to-AI”信任。这些混合信任系统挑战了传统的人类中心主义定义，呼唤着对信任理论的“后人类主义”扩展。

在探索人工智能这个未知领域时，我们认识到，对人工智能的信任不仅塑造着我们的人际关系，也促使我们对自身本质进行深刻的探索。这段旅程不仅关乎技术进步，更反映了我们作为创造者的角色——我们的愿景正在塑造我们的命运。它提醒我们，我们是塑造自身命运的积极参与者，需要在一个快速变化的世界中，深刻反思我们的终极目标与价值所在。

免责声明：本文转自启元洞见。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨启元洞见

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er