首页 抖音推荐文章正文

太保科技申请一种批量推理方法相关专利,提高了推理效率

抖音推荐 2025年08月16日 16:36 1 admin

金融界2025年8月16日消息,国家知识产权局信息显示,太保科技有限公司申请一项名为“一种批量推理方法、装置、设备及可读存储介质”的专利,公开号CN120494106A,申请日期为2025年05月。

太保科技申请一种批量推理方法相关专利,提高了推理效率

专利摘要显示,本申请公开了一种批量推理方法、装置、设备及可读存储介质,可应用于计算机技术领域,该方法包括:获取各个请求方发送的推理请求;基于预设合并规则对所述推理请求进行合并,得到批量请求任务集;按照与所述批量请求任务集对应的请求模式,将所述批量请求任务集推送到与所述批量请求任务集对应的目标模型服务,使所述目标模型服务对所述批量请求任务集进行处理,并得到批量推理结果;所述请求模式包括同步、异步以及流式中的一种。如此,基于调度合并机制,将多个推理请求进行合并处理并按照与之对应的请求模式发送到目标模型服务进行处理,提高了推理效率。

天眼查资料显示,太保科技有限公司,成立于2022年,位于上海市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本70000万人民币。通过天眼查大数据分析,太保科技有限公司共对外投资了1家企业,参与招投标项目16次,财产线索方面有商标信息2条,专利信息346条,此外企业还拥有行政许可10个。

本文源自金融界

发表评论

泰日号Copyright Your WebSite.Some Rights Reserved. 网站地图 备案号:川ICP备66666666号 Z-BlogPHP强力驱动