我们能相信人工智能吗？科学家提出了解决这个问题的框架

游戏天地 2025年08月26日 15:07 1 admin

作者：马特·希普曼（北卡罗来纳州立大学）

Gaby Clark 编辑， Robert Egan审阅

一个国际研究团队提出了一个框架，认为该框架可以用来解答人工智能 (AI) 技术面临的最大问题之一：人工智能是否值得信任？该框架提供了一种系统化的方法，用于解决一个涉及多种研究学科的复杂问题。

“公司、政府和普通民众都在采用人工智能工具来执行各种各样的功能，但目前还不清楚这项技术是否真的值得信赖，”该论文的合著者、北卡罗来纳州立大学普尔管理学院领导力教授罗杰·梅耶 (Roger Mayer) 表示。

如果我们要利用人工智能做出有意义的决策，甚至为重要的决策提供信息，信任是一个关键的考虑因素。如果我们要向人工智能应用投入资金，信任也是一个至关重要的考虑因素。因此，开发一种能够让我们以科学和实践上有意义的方式解决人工智能可信度问题的方法，是向前迈出的一大步。

乔治梅森大学系统生物学学院系统社会神经科学教授弗兰克·克鲁格表示： “我们的全球合作深入探讨了对人工智能的信任的心理学、伦理和社会影响，提出了一个跨学科的‘信任网络框架’，以理解和加强对人工智能的信任，以应对错误信息、歧视和战争等广泛而紧迫领域的重大挑战。”

TrustNet 框架最初建立在奥地利维也纳 TRUST 研讨会上提出的想法之上，该研讨会吸引了来自世界各地的跨学科研究团队。

人工智能有潜力以有意义的方式改善我们的生活。例如，人工智能伴侣可以在老年人护理中提供情感支持，而人工智能工具可以生成内容并自动执行任务，从而提高生产力。然而，风险依然存在。研究人员考虑了各种情况：用于招聘的算法可能像人类一样带有隐藏的偏见。而当涉及到虚假信息时，我们如何判断人工智能是否比我们更擅长区分事实和虚构？

随着人工智能越来越多地介入高风险决策，信任和问责制必须成为核心关注点。最终，关键在于信任——不仅是对人工智能系统的信任，还包括对设计、部署和监督这些系统的人员和机构的信任。为了构建“信任网络”框架，研究人员分析了34,459篇跨学科、跨学科和跨学科的信任研究论文。分析得出结论，需要开展更多跨学科研究来探讨这一主题。

TrustNet 框架鼓励研究团队考虑三个要素：

问题转化，包括将我们是否应该信任人工智能与科学知识联系起来的“重大挑战” ；
产生新知识，使我们能够解决诸如明确研究人员和其他利益相关者的角色等问题，并设计一个整合概念，使我们能够同时从多个角度应对挑战；
跨学科整合，评估结果以产生对社会和科学有用的成果——以既能加深我们的理解又具有实用性的方式回答研究问题。

“未来的信任框架不仅要考虑人类如何信任人工智能，还要考虑人工智能系统如何评估和响应人类的可靠性，以及人工智能如何在网络化和自动化环境中建立人工智能之间的信任，”论文合著者、TRUST研讨会首批研究人员召集者René Riedl解释道。Riedl同时也是奥地利上奥地利应用技术大学和林茨约翰内斯·开普勒大学数字商务管理硕士项目的负责人。

论文《呼吁人工智能时代的跨学科信任研究》发表在《人文与社会科学通讯》上。

“从事人工智能、政策、伦理或技术设计工作的人士会发现这篇论文很有价值，它有助于理解并利用一个通用框架应对新兴的社会人工智能信任挑战，”克鲁格补充道。“信任是所有健康关系的基础——人与技术之间。人工智能将重塑社会，但人与人、系统与机构之间的信任最终必须指导我们如何建立和使用信任。”

“我研究信任已有30多年，我非常喜欢这个信任网络框架的一个关键要素是它的跨学科性，”梅耶尔说道，“跨学科方法吸收了多个学科研究人员的研究成果。”

但跨学科方法更进一步，吸纳了其他利益相关者的意见——例如人工智能用户、受人工智能使用影响的人群，以及对特定人工智能应用（例如自动驾驶汽车）拥有权威的政策制定者。任何想要对社会具有重要价值的信任进行有意义的分析的方法，都需要融入跨学科视角——这也是我认为该框架如此具有潜力的原因之一。