如果让大模型设计安全深海潜艇它会给你什么，结果令人吃惊

抖音推荐 2025年08月11日 19:17 1 admin

一场看似荒诞的网络实验正在揭示人工智能技术发展中一个被严重忽视的问题。社交媒体用户基思·吴在Bluesky平台上展示了他要求ChatGPT设计"世界上最安全深海潜水器"的过程，结果却得到了一个充满拼写错误、逻辑混乱且包含"紧急婴儿"装置的设计方案。这一事件虽然带有明显的讽刺色彩，但却深刻反映了当前AI技术在复杂工程设计领域的根本性缺陷。

图片来源： Keith Ng

AI生成的潜水器设计图显示了一系列荒谬的技术规格，包括"浮力材料"（floutation haterial）、"球形外壳"（spherical evpercase hiull）、"紧急释放装置"（emergency tbaiht release）等明显的拼写错误，以及令人费解的"质子操作器"（proutic haripotator）和"紧急婴儿"（emergency baby）等莫名其妙的部件。当用户询问这艘潜水器是否比泰坦号更深入海底时，AI自信地回答"是的"，并声称其设计"显著更深、更安全"。

泰坦号悲剧的技术警示

2023年夏季发生的泰坦号潜水器内爆事故至今仍是深海探索领域的重大警示。这起事故导致包括OceanGate公司创始人在内的5名乘客全部遇难，暴露了商业深海探索中存在的严重安全隐患。美国海岸警卫队的调查报告显示，泰坦号使用了未经充分测试的碳纤维复合材料，缺乏必要的安全认证，这些因素直接导致了悲剧的发生。

相比之下，经过严格认证的深海潜水器如Alvin号和Limiting Factor号都采用了钛合金或钢制球形舱体，经过了数千次下潜验证。这些成功案例表明，深海潜水器的设计需要遵循严格的工程标准和安全协议，而不是依赖于未经验证的创新材料或设计理念。

国际海事组织最近发布的深海潜水器安全指导原则强调，任何载人深海装备都必须经过独立第三方认证，并要求设计团队具备相关的海洋工程专业背景。这些要求凸显了深海工程设计的复杂性，远非当前AI系统能够胜任。

AI技术的根本性局限

这次潜水器设计实验揭示了当前大语言模型的一个核心问题：它们擅长生成看似合理的文本内容，但缺乏真正的工程知识和安全判断能力。ChatGPT等AI系统本质上是基于统计模式的文本生成器，它们无法理解物理定律、材料特性或工程安全原则。

麻省理工学院计算机科学与人工智能实验室最新研究表明，大语言模型在专业技术领域经常产生"幻觉"现象，即生成看似专业但实际错误的信息。这种现象在工程设计、医学诊断和科学研究等对准确性要求极高的领域尤为危险。

斯坦福大学AI安全研究中心的分析显示，当前AI系统在处理需要多学科知识整合的复杂任务时表现尤其糟糕。深海潜水器设计涉及流体力学、材料科学、结构工程、电子系统等多个专业领域，需要大量的实际工程经验和安全考量，这些都是现有AI技术无法提供的。

科技巨头的过度承诺

这一事件也间接揭示了科技行业领袖对AI能力的过度宣传问题。OpenAI首席执行官山姆·奥特曼等人经常声称AI将很快能够解决能源危机、治愈疾病并取代大量人类工作岗位。然而，连基本的工程设计任务都无法胜任的AI系统，距离这些宏大目标还有巨大差距。

加州大学伯克利分校的AI研究人员指出，当前的AI系统主要擅长模式识别和文本生成，但在需要因果推理、物理理解和安全判断的任务中表现不佳。这种能力局限性使得AI在关键基础设施、医疗设备和交通系统等安全关键领域的应用面临严重制约。

哈佛商学院最近的研究显示，科技公司对AI能力的夸大宣传已经导致了不切实际的市场期望和投资泡沫。许多企业和投资者基于这些过度承诺做出决策，可能面临重大风险。

深海探索的真实挑战

真正的深海潜水器设计是一个极其复杂和危险的工程挑战。目前世界上只有少数几艘载人潜水器能够到达海洋最深处，包括中国的"奋斗者"号、美国的"Limiting Factor"号等。这些潜水器的开发都经历了数年甚至数十年的研发过程，涉及数百名专业工程师的协作。

中科院深海科学与工程研究所的专家表示，深海潜水器的每一个部件都需要经过严格的计算、仿真和测试。从舱体材料的选择到密封系统的设计，从生命支持系统到通信设备，每个环节都关系到乘员的生命安全。这种复杂性远超当前AI系统的理解和处理能力。

木星海洋学会的最新统计显示，全球载人深海潜水器的事故率约为千分之一，而这已经是在严格遵循安全标准的前提下实现的。任何对安全标准的忽视或简化都可能导致灾难性后果。

基思·吴在社交媒体上讽刺性地建议AI支持者"建造一艘并亲自下海庆祝这一成就"，这种黑色幽默恰恰点出了问题的核心：那些最大声宣传AI万能论的人，往往不愿意承担其技术局限性带来的实际风险。这次潜水器设计实验以一种戏剧性的方式提醒我们，在将AI应用于安全关键领域之前，我们需要对其能力和局限性有更加清醒和现实的认知。