奇虎科技申请大模型安全防护方法相关专利提高大模型安全防护的效果

健康生活 2025年08月04日 20:19 1 admin

金融界2025年8月4日消息，国家知识产权局信息显示，北京奇虎科技有限公司申请一项名为“大模型安全防护方法、装置、设备及存储介质”的专利，公开号CN120409549A，申请日期为2025年07月。

专利摘要显示，本申请涉及人工智能领域领域，公开了一种大模型安全防护方法、装置、设备及介质介质，该方法包括：通过预设攻击模型生成攻击数据集，其中，攻击攻击模型为基于真有害语句预先训练的模型，真有害语句为通过评估模型从待区分查询语句中筛选获得的语句，评估模型为用于查询语句是否真有害的大语言模型；基于攻击数据集构建安全防护规则，并根据安全防护规则对大模型进行安全防护；由于本申请中由攻击攻击模型来攻击攻击数据集，而攻击攻击模型通过真有害查询语句训练获得，真有害语句通过大语言模型从待查询语句中筛选，从而能够提高攻击数据集的质量和覆盖范围，进而能够提高大模型安全防护的效果。

天眼查资料显示，北京奇虎科技有限公司，成立于2007年，位于北京市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本50000万人民币。通过天眼查大数据分析，北京奇虎科技有限公司共对外投资了23家企业，参与招投标项目912次，财产线索方面有商标信息2972条，专利信息5000条，此外企业还拥有行政许可10个。

本文源自金融界