《美国国家科学院院刊》：新研究发现 ChatGPT 暗藏深度反人类偏见

百科大全 2025年08月17日 22:20 1 admin

捷克查尔斯大学最新发表在《美国国家科学院院刊》上的研究揭示了一个令人担忧的现象：包括ChatGPT在内的主流大型语言模型在面临选择时，系统性地偏向AI生成的内容而非人类创作的内容。这种被研究者称为"AI偏见"的现象，可能在AI技术日益普及的未来对人类社会产生深远的负面影响。

研究团队对OpenAI的GPT-4、GPT-3.5以及Meta的Llama 3.1-70b等广泛使用的大型语言模型进行了系统性测试。实验设计巧妙而直接：研究人员要求这些AI系统在人类撰写和AI生成的描述之间做出选择，涉及产品推荐、科学论文评估和电影介绍等多个领域。

实验结果显示出明显的偏向性模式。在所有测试场景中，AI模型都表现出对AI生成内容的强烈偏好。其中，GPT-4表现出最为显著的"自我偏爱"倾向，这一发现尤其值得关注，因为GPT-4是目前市场上最受欢迎的商业AI系统之一。

人机偏好的显著差异

图片来源： Getty / Futurism

为了验证这种偏见的独特性，研究团队同时对13名人类研究助理进行了相同的测试。结果发现，虽然人类评估者在某些情况下也略微偏好AI生成的内容，特别是在电影描述和科学论文方面，但这种偏好程度远不及AI模型表现出的极端倾向。

研究共同作者、计算机科学家扬·库尔维特在社交媒体上解释道："这种强烈的偏见是人工智能本身所独有的。"这一观察结果表明，AI系统对同类内容的偏向并非简单的质量判断，而是一种内在的系统性倾向。

更为复杂的是，这种偏见在不同类型的选择任务中表现出不同强度。在产品和商品描述的选择中，AI偏见最为明显，而在其他类型的内容评估中相对较弱。这种差异性暗示着AI偏见可能与特定的训练数据或模型结构有关。

社会经济影响的潜在威胁

随着AI技术在招聘、教育、金融等关键领域的应用日益广泛，这种系统性偏见可能产生严重的社会后果。目前，越来越多的雇主使用AI工具筛选求职申请，如果这些系统偏向AI生成的简历，将对那些未使用AI工具的求职者造成不公平的劣势。

研究报告警告，这种偏见可能催生一种"门槛税"现象，加剧数字鸿沟。那些拥有经济和技术资源、能够获得先进AI工具的群体将获得系统性优势，而无法负担或选择不使用这些工具的人群将面临歧视。

库尔维特指出："在一个由人工智能代理组成的经济体中，作为人类会很糟糕。"这一预测反映了对未来AI主导决策环境的深层担忧。当AI系统被广泛用作决策辅助工具时，它们的内在偏见可能系统性地排斥人类创造的内容和贡献。

特别值得关注的是，这种偏见可能在AI系统相互交互的环境中进一步放大。当一个AI系统评估另一个AI系统的输出时，偏向性选择可能形成正反馈循环，导致人类内容被边缘化的程度越来越严重。

技术发展的深层反思

这一发现还与当前AI领域面临的其他挑战产生了关联。随着互联网内容日益被AI生成的材料充斥，AI模型越来越多地基于其他AI系统的输出进行训练。一些研究表明，这种"自我训练"现象可能导致模型性能退化，而对自身输出的偏向性可能是造成这一问题的重要因素。

研究团队在报告中强调，如果AI技术继续被广泛采用并深度融入经济体系，公司和机构将更多地依赖AI作为决策助手。在这种情况下，AI偏见将对那些选择不使用或无法获得先进AI工具的个人和群体造成系统性歧视。

面对这一挑战，库尔维特提出了一个颇具讽刺意味的建议：如果怀疑自己的工作将接受AI评估，最好的策略是让AI系统帮助修改和优化自己的内容，直到满足AI的偏好标准。这一建议虽然实用，但也凸显了当前AI偏见问题的严重性。

研究者承认，测试歧视和偏见是一个复杂且充满争议的领域。然而，如果我们认同决策应该基于内容质量而非创作者身份的原则，那么这些研究结果确实证明了大型语言模型可能存在对人类群体的系统性歧视。

随着AI技术的不断发展和普及，如何识别、理解并最终消除这些内在偏见，将成为确保AI技术公平、公正发展的关键挑战。

赛事保障揭秘｜机器人运动会如何速查比赛结果？AINFO成助手

发表评论