|
国家知识产权局信息显示,上海钱拓网络技术有限公司申请一项名为“一种智能并发控制的AI推理加速与资源增效系统”的专利,公开号CN121705023A,申请日期为2025年12月。 专利摘要显示,一种智能并发控制的AI推理加速与资源增效系统,包括请求接收与准入模块、动态负载均衡与批处理模块、智能并发调度与推理执行模块、缓存与内存管理模块、结果处理与资源监控模块,请求接收与准入模块用于接收推理请求,动态负载均衡与批处理模块用于流量调度,智能并发调度与推理执行模块用于并发地执行推理任务,缓存与内存管理模块用于性能加速,结果处理与资源监控模块用于结果交付与资源监控。本发明提出改进多目标自适应前瞻批处理算法对多个独立的推理请求进行智能组合,提出改进资源感知的动态紧迫度调度算法对模型推理执行过程中的资源进行复用和调度,为一种智能并发控制的AI推理加速与资源增效系统提供更优的方案。 天眼查资料显示,上海钱拓网络技术有限公司,成立于2013年,位于上海市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,上海钱拓网络技术有限公司共对外投资了7家企业,参与招投标项目120次,财产线条,此外企业还拥有行政许可4个。 声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。 (责任编辑:admin) |
