(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210612284.4 (22)申请日 2022.05.31 (71)申请人 苏州浪潮智能科技有限公司 地址 215100 江苏省苏州市吴中经济开发 区郭巷街道官浦路1号9幢 (72)发明人 王继玉　郑玉会　 (74)专利代理 机构 北京集佳知识产权代理有限 公司 11227 专利代理师 杨傥月 (51)Int.Cl. G06F 9/50(2006.01) (54)发明名称 一种AI平台兼容适配加速卡的方法及相关 组件 (57)摘要 本发明公开了一种AI平台兼容适配加速卡 的方法及相关组件， 涉及AI技术领域， 首先自定 义加速卡归类标准， 自动扫描AI集群中各个计算 节点上的加速卡的加速卡信息， 并按照加速卡归 类标准对各个加速卡进行归类， 以便AI平台能够 根据不同类别的加速卡的特性进行使用， 实现因 卡施用。 并且当存在计算节点对应的加速卡信息 发生变化时， 可以自动 在AI平台上更新该计算节 点对应的加速卡信息， 实现对AI集群中的各个加 速卡的自动维护。 权利要求书2页 说明书10页 附图1页 CN 114816767 A 2022.07.29 CN 114816767 A 1.一种AI平台兼容 适配加速卡的方法， 其特 征在于， 包括： 预先自定义加速卡归类标准； 扫描AI集群 中各个计算节点上的加速卡的加速卡信息， 并根据 各个所述加速卡的加速 卡信息将各个所述加速卡按照所述加速卡归类标准进 行归类， 以便A I平台按照类型调用对 应的加速卡； 当存在所述计算节点对应的加速卡信 息发生变化 时， 在所述AI平台上更新所述计算节 点对应的加速卡信息 。 2.如权利要求1所述的AI平台兼容适配加速卡的方法， 其特征在于， 在扫描AI集群 中各 个计算节点上的加速卡的加速卡信息之后， 还 包括： 将各个所述计算节点上的加速卡汇入总资源 池中； 按照预设资源池分类标准将所述总资源池划分为不同类型的子资源池， 以便所述AI平 台以所述子资源 池为单位调用各个所述子资源 池中的所有加速卡。 3.如权利要求1所述的AI平台兼容适配加速卡的方法， 其特征在于， 根据 各个所述加速 卡的加速卡信息将各个所述加速卡按照所述加速卡归类标准进行归类， 包括： 根据各个所述加速卡的加速卡信息将各个所述加速卡按照AI训练任务类型、 加速卡种 类和加速卡型号中任意 一个或多个的组合进行归类。 4.如权利要求1所述的AI平台兼容 适配加速卡的方法， 其特 征在于， 还 包括： 扫描所述AI 集群是否有增 加计算节点或移除计算节点； 在所述AI集群增加计算节点时， 扫描增加的计算节点的加速卡的加速卡信息， 并将所 述加速卡信息同步到所述AI平台； 在所述AI 集群移除计算节点时， 在所述AI平台上删除移除的计算节点的加速卡信息 。 5.如权利要求1所述的AI平台兼容适配加速卡的方法， 其特征在于， 所述加速卡信 息包 括加速卡种类、 加速卡型号以及加速卡数量； 当存在所述计算节点对应的加速卡信 息发生变化 时， 在所述AI平台上更新所述计算节 点对应的加速卡信息， 包括： 在所述计算节点对应的加速卡种类发生变化 时， 在所述AI平台上将所述计算节点对应 的原有加速卡种类替换为当前加速卡种类； 在所述计算节点对应的加速卡型号发生变化 时， 在所述AI平台上将所述计算节点对应 的原有加速卡型号 替换为当前加速卡型号； 在所述计算节点对应的加速卡数量发生变化 时， 若所述计算节点移除原有加速卡则将 所述AI平台中所述原有加速卡对应的加速卡种类和加速卡型号删除， 若 所述计算节点增加 新加速卡则将所述 新加速卡对应的加速卡种类和 加速卡型号同步到所述AI平台。 6.如权利要求1至 5任一项所述的AI平台兼容 适配加速卡的方法， 其特 征在于， 还 包括： 在所述AI平台调用所述加速卡时， 对使用所述加速卡的用户的信息、 所述加速卡对应 的计算节点、 所述加速卡已使用的显存信息、 所述加速卡的种类以及所述加速卡的型号中 的任意一个或多个进行显示。 7.如权利要求6所述的AI平台兼容适配加速卡的方法， 其特征在于， 在所述AI平台调用 所述加速卡时， 还 包括： 显示各个种类的加速卡的加速卡信息和/或各个型号的加速卡的加速卡信息和/或各权　利　要　求　书 1/2 页 2 CN 114816767 A 2个所述计算节点的加速卡信息和/或各个所述子资源 池的加速卡信息 。 8.一种AI平台兼容 适配加速卡的系统， 其特 征在于， 包括： 标准定义单 元， 用于预 先自定义加速卡归类标准； 扫描归类单元， 用于扫描AI集群中各个计算节点上的加速卡的加速卡信息， 并根据各 个所述加速卡的加速卡信息将各个所述加速卡按照所述加速卡归类标准进 行归类， 以便A I 平台按照类型调用对应的加速卡； 更新单元， 用于当存在所述计算节点对应的加速卡信息发生变化时， 在所述AI平台上 更新所述计算节点对应的加速卡信息 。 9.一种AI平台兼容 适配加速卡的装置， 其特 征在于， 包括： 存储器， 用于存 储计算机程序； 处理器， 用于执行所述计算机程序时实现如权利要求1至7任一项所述AI平台兼容适配 加速卡的方法的步骤。 10.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质上存储有计算机 程序， 所述计算机程序被处理器执行时实现如权利要求 1至7任一项 所述AI平台兼容适配加 速卡的方法的步骤。权　利　要　求　书 2/2 页 3 CN 114816767 A 3