(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210609937.3 (22)申请日 2022.05.31 (71)申请人 苏州浪潮智能科技有限公司 地址 215168 江苏省苏州市吴中经济开发 区郭巷街道官浦路1号9幢 (72)发明人 李铭琨　 (74)专利代理 机构 北京市万慧达律师事务所 11111 专利代理师 劳奕琴 (51)Int.Cl. G06F 9/50(2006.01) G06F 9/455(2006.01) G06N 20/00(2019.01) (54)发明名称 一种人工智能集群的资源管 理调度方法、 装 置和设备 (57)摘要 本发明涉及一种人工智能集群的资源管理 调度方法、 装置和设备， 资源管理调度方法包括： 当GPU管理模块将GP U节点的GP U驱动安装服务部 署到GPU节点上之后， 其获取GPU节点的GPU资源 配置信息、 并发送给节点管理模块； GPU驱动安装 服务包括通过容器化方式将GP U驱动安装至物理 机上； 节点管理模块将GPU节点的GP U资源配置信 息发送给信息存储模块进行存储； 当收到深度学 习任务时， 资源调度模块根据深度学习任务所请 求的资源信息、 所有GPU节点的GPU资源配置信 息， 按照预设调度策略将深度学习任务发送给目 标GPU节点。 通过上述技术方案， 可解决目前人工 智能集群中GPU资源、 网络资源无法有效配置和 利用的问题。 权利要求书2页 说明书11页 附图2页 CN 115048216 A 2022.09.13 CN 115048216 A 1.一种人工智能集群的资源管理调度方法， 其特征在于， 所述人工智能集群中设有信 息存储模块、 资源调度模块、 多个GPU节点； 所述GPU节点中设有节点管理模块、 GPU管理模 块； 所述资源管理调度方法包括： 当所述GPU管理模块将所述GPU节点的GPU驱动安装服务部署到所述GPU节点上之后， 所 述GPU管理模块获取所述GPU节点的GPU资源配置信息、 并发送给所述节点管理模块； 其中， 所述GPU驱动安装服 务包括通过容器化方式将所述GPU节点的GPU驱动安装至物理机上； 所述节点管理模块将所述GPU节点的GPU资源配置信息发送给所述信息存储模块进行 存储； 当收到深度学习任务时， 所述资源调度模块根据所述深度学习任务所请求的资源信 息、 所述信息存储模块中所有GPU节点的GPU资源配置信息， 按照预设调度策 略将所述深度 学习任务发送给目标GPU节点。 2.根据权利要求1所述的人工智能集群的资源管理调度方法， 其特征在于， 所述资源管 理调度方法还 包括： 当所述GPU管理模块将所述GPU节点的网卡驱动安装服务部署到所述GPU节点上之后， 所述GPU管理模块获取所述GPU节点的网络资源配置信息、 并发送给所述节点管理模块； 其 中， 所述网卡驱动安装服务包括通过容器化方式将所述GPU节点的网卡驱动安装至物理机 上； 所述节点管理模块将所述GPU节点的网络资源配置信 息发送给所述信息存储模块进行 存储； 当收到深度学习任务时， 所述资源调度模块根据所述深度学习任务所请求的资源信 息、 所述信息存储模块中所有GPU节点的网络 资源配置信息， 按照所述预设调度策略将所述 深度学习任务发送给 所述目标GPU节点。 3.根据权利要求2所述的人工智能集群的资源管理调度方法， 其特征在于， 在按照预设 调度策略将所述深度学习任务发送给目标GPU节点之前， 所述资源管理调度方法还 包括： 所述资源调度模块根据各个GPU节点的剩余GPU资源信息筛选出多个候选GPU节点， 并 从中选择具有GPU资源亲和性的候选GPU节点作为所述目标GPU节点； 其中， 所述目标GPU节 点中的所有GPU的通信连接方式相同； 所述资源调度模块在所述目标GPU节点中选择相同通信连接方式的网卡， 用来调度网 络资源。 4.根据权利要求3所述的人工智能集群的资源管理调度方法， 其特征在于， 在所述GPU 管理模块获取所述GPU节点的GPU资源配置信息、 并发送给所述节点管理模块之前， 所述资 源管理调度方法还 包括： 所述资源调度模块将所述GPU节点的GPU虚拟化 服务部署到所述GPU节点上； 和/或， 所述资源调度模块将所述GPU节点的网卡虚拟化 服务部署到所述GPU节点上。 5.根据权利要求4所述的人工智能集群的资源管理调度方法， 其特征在于， 在按照预设 调度策略将所述深度学习任务发送给目标GPU节点之前， 所述资源管理调度方法还 包括： 所述资源调度模块在所述候选GPU节点中选出多个具有资源亲和性的虚拟资源候选 组； 其中， 所述虚拟资源候选组中的虚拟GPU和虚拟网卡属于同一 通信连接方式；权　利　要　求　书 1/2 页 2 CN 115048216 A 2当所述虚拟资源候选组 的数量达到所述深度 学习任务的资源需求数量 时， 所述资源调 度模块将所述 候选GPU节点作为所述目标GPU节点。 6.根据权利要求1所述的人工智能集群的资源管理调度方法， 其特征在于， 所述预设调 度策略包括以下至少之一： 将所有深度学习任务按照任务调度优先级等级 进行排序和调度； 将所有深度学习任务按照先入先 出原则进行调度； 将所有深度学习任务按照高优先级队列和高优先级任务优先调度原则进行调度。 7.根据权利要求1所述的人工智能集群的资源管理调度方法， 其特征在于， 在按照预设 调度策略将所述深度学习任务发送给目标GPU节点之后， 所述资源管理调度方法还 包括： 所述目标GPU节点中的节点管理模块将所述目标GPU节点的剩余GPU资源信息发送给所 述信息存 储模块进行 更新。 8.一种人工智能集群的资源管理调度装置， 其特征在于， 用于实现如上权利要求1 ‑7任 一项所述的人工智能集群的资源管理调度方法， 所述资源管理调度装置包括： 所述GPU管理模块， 用于将所述GPU节点的GPU驱动安装服务部署到所述GPU节点上， 以 及获取所述GPU节点的GPU资源配置信息、 并发送给所述节点管理模块； 其中， 所述GPU驱动 安装服务包括通过容器化方式将所述GPU节点的GPU驱动安装至物理机上； 所述节点管理模块， 用于将所述GPU节点的GPU资源配置信息发送给所述信息存储模块 进行存储； 所述资源调度模块， 用于在收到所述深度 学习任务 时根据所述深度学习 任务所请求的 资源信息、 所述信息存储模块中所有GPU节点的GPU资源配置信息， 按照所述预设调度策 略 将所述深度学习任务发送给 所述目标GPU节点。 9.一种计算机设备， 包括存储器、 处理器及计算机程序， 所述计算机程序存储在所述存 储器上并可在所述处理器上运行， 其特征在于， 所述处理器执行所述计算机程序时实现如 权利要求1 ‑7中任一项所述的人工智能集群的资源管理调度方法的步骤。 10.一种计算机可读存储介质， 其存储有计算机程序， 其特征在于， 所述计算机程序被 处理器执行时实现如权利要求 1‑7中任一项所述的人工智能集群的资源管理调 度方法的步 骤。权　利　要　求　书 2/2 页 3 CN 115048216 A 3