【2025数博会】360数字安全集团总裁胡振泉：“以模制模”构建AI数据安全防护体系

抖音推荐 2025年08月29日 01:41 1 admin

8月28日，在2025中国国际大数据产业博览会——“数据安全治理与发展”交流活动上，360数字安全集团总裁胡振泉聚焦AI领域关键数据安全治理难题，系统剖析AI领域关键数据面临的内外部双重安全挑战，并提出“以模制模”新范式，以四大智能体为AI领域关键数据安全治理提供可落地的实践路径。

胡振泉表示，当前大模型技术加速落地、智能体规模化应用，AI已成为推动产业升级的核心动力。但技术红利背后，AI领域关键数据安全风险正进入“集中爆发期”。值得一提的是，针对AI系统的战略性攻击成大国博弈关键战场，黑客可借AI窃取核心数据、生成虚假内容、操控社会舆论；专业化黑灰产组织更将AI与APT攻击结合，用AI生成木马、病毒等工具打造“数字黑客”智能体，加剧数据泄露与网络攻击风险。

360数字安全集团总裁胡振泉

“AI领域数据安全问题已远超传统网络与数据安全范畴。”胡振泉说，AI安全问题可划分为传统安全、AI内容安全、AI应用安全及未来安全四大类，而其中最为关键的数据安全治理的核心，是确保数据承载的“信息”安全、合法、健康。当前，AI生成虚假数据用于欺诈、输出错误敏感信息、遭恶意提示词诱导泄露数据、因“幻觉”杜撰虚假数据等问题频发，不仅阻碍政企单位AI落地，更可能引发数据安全事故、意识形态扭曲等风险，对AI领域关键数据安全治理提出更高要求。

“传统安全手段难以应对AI数据安全新挑战。”胡振泉说，传统安全企业缺乏大模型深度研究能力，仅能解决基础数据安全问题；现有大模型企业对数据安全、内容安全认知不足，二者均无法突破AI领域关键数据安全治理瓶颈。

在此背景下，360基于自身AI实践与数据安全治理经验，提出“以模制模”AI安全治理新范式——通过大模型安全卫士应对AI数据安全问题，实现“数网智安一体化”，筑牢AI数据安全防线。在可靠层面，结合安全大脑与私有化部署，保障数据存储、使用全流程安全；在可信层面，借助RAG知识增强与搜索增强，减少大模型“幻觉”，保障输出数据准确性；在向善层面，以内容护栏与风控大模型，防范AI被恶意利用生成有害数据；可控层面，依托Agent管控与全程审计，规避智能体被恶意操作导致的关键数据破坏。

为将“以模制模”范式转化为实际防护能力，360大模型安全卫士进一步构建四大核心措施，形成AI数据安全闭环治理：一是内容安全智能体，通过幻觉抑制、内容护栏大模型，解决 AI 生成数据虚假、违规问题；二是 AI Agent 安全智能体，依托行为、权限、数据框架，规避智能体执行中的数据失控风险；三是软件安全智能体，识别 AI 供应链开源组件漏洞，从源头杜绝数据泄露；四是AI安全评估智能体，通过红蓝对抗靶场检测数据安全短板，强化防护能力。

贵州日报天眼新闻记者袁航

编辑王雨

二审谌贵璇

三审李玲