烽火星空申请K8s集群大模型推理GPU共享自适应动态调度方法专利，提高集群中GPU配置的正确性和使用效率

健康生活 2025年08月08日 02:09 1 admin

金融界2025年8月7日消息，国家知识产权局信息显示，南京烽火星空通信发展有限公司申请一项名为“一种K8s集群大模型推理GPU共享自适应动态调度方法”的专利，公开号CN120429102A，申请日期为2025年04月。

专利摘要显示，本发明公开了一种K8s集群大模型推理GPU共享自适应动态调度方法，属于人工智能领域，能够自适应配置大模型推理所需GPU资源，提高集群中GPU配置的正确性和使用效率；自适应的方法其根据模型类型、推理或加速推理方式、模型参数量、精度，能够正确配置集群中的GPU资源；还实时检测待推理任务量及推理服务状态，根据请求长度、显卡算力、显卡使用率，及历史请求响应时间，设计回归模型预测处理请求耗时，根据回归模型，当请求流量过大时或者硬件故障时，增加部署推理实例，以提高任务处理吞吐量和系统的稳定性和可靠性，当请求量锐减时，减少部署推理实例，以节约GPU资源，进一步提高系统内GPU的使用效率。

天眼查资料显示，南京烽火星空通信发展有限公司，成立于2005年，位于南京市，是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本53972.38万人民币。通过天眼查大数据分析，南京烽火星空通信发展有限公司共对外投资了10家企业，参与招投标项目388次，财产线索方面有商标信息102条，专利信息214条，此外企业还拥有行政许可12个。

本文源自金融界