ICS 31.200 CCS L 56 团体标准 T/ISC 0056—2024 人工智能 加速卡技术要求及测试方法 Artificial intelligence —Technical requirements and testing methods for accelerating card 2024 - 09 - 03发布 2024 - 10 - 03实施 发布 中国互联网协会 全国团体标准信息平台 T/ISC 0056—2024 I 目 次 前言 ................................ ................................ ................ II 1 范围 ................................ ................................ ............... 1 2 规范性引用文件 ................................ ................................ ..... 1 3 术语和定义 ................................ ................................ ......... 1 4 缩略语 ................................ ................................ ............. 3 5 概述 ................................ ................................ ............... 3 6 技术要求 ................................ ................................ ........... 4 6.1 加速卡通用技术要求 ................................ ............................. 4 6.2 训练卡技术要求 ................................ ................................ . 4 6.3 推理卡技术要求 ................................ ................................ . 8 6.4 加速卡安全性要求 ................................ .............................. 11 7 测试环境 ................................ ................................ .......... 11 7.1 测试对象 ................................ ................................ ...... 11 7.2 测试组网 ................................ ................................ ...... 11 7.3 系统配置 ................................ ................................ ...... 12 7.4 环境条件 ................................ ................................ ...... 14 8 测试方法 ................................ ................................ .......... 14 8.1 预置条件 ................................ ................................ ...... 14 8.2 通用技术要求测试 ................................ .............................. 14 8.3 训练卡测试 ................................ ................................ .... 17 8.4 推理卡测试 ................................ ................................ .... 22 8.5 安全性测试 ................................ ................................ .... 27 附录A（资料性） 系统配置 ................................ ............................. 29 A.1 操作系统 ................................ ................................ ........ 29 A.2 深度学习框架 ................................ ................................ .... 29 A.3 参考测试用例 ................................ ................................ .... 29 A.3.1 训练场景 ................................ ................................ .... 29 A.3.2 推理场景 ................................ ................................ .... 30 全国团体标准信息平台 T/ISC 0056—2024 II 前 言 本文件按照 GB/T 1.1 —2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定 起草。 本文件由中国互联网协会归口 。 本文件起草单位： 中国移动通信集团有限公司 、中国互联网协会人工智能工作委员会 、中国信息通 信研究院 、北京智源人工智能研究院 、上海燧原科技股份有限公司 、中科寒武纪科技股份有限公司 、上 海天数智芯半导体有限公司 、南方电网人工智能科技有限公司 、国能数智科技开发（北京）有限公司 、 中国石油化工集团有限公司 、中移（苏州）软件技术有限公司 、华为技术有限公司 、海光信息技术股份 有限公司 、摩尔线程智能科技（北京）有限责任公司 、新华三技术有限公司 、曙光信息产业股份有限公 司、北京智谱华章科技有限公司 、广州趣丸网络科技有限公司 、北京百度网讯科技有限公司 、中讯邮电 咨询设计院有限公司 、浪潮通信技术有限公司 。 本文件主要起草人： 冯俊兰、邓超、邓凯、曹峰、门春雷、金镝、秦日臻、董昊、马建华、李青懋、 靳震、曹汐、梅敬青、王思善、赵淑静、王辉、余雪松、胡铭珊、任正国、张晓东、 赵学良、马德营、 张久仙、 张亚丽、 杨鹏霖、 肖国峰、万晓兰、 贺群、冯涛、张顺四、蒋晓琳、申佳、尹梦君。 全国团体标准信息平台 T/ISC 0056—2024 1 人工智能 加速卡技术要求及测试方法 1 范围 本文件规定了人工智能加速卡的技术要求，包括人工智能加速卡的通用技术要求、人工智能训练卡 和推理卡的功能要求、性能要求、兼容性要求、可靠性要求、性能度量指标，以及人工智能加速卡的安 全性要求，并给出了人工智能训练卡和推理卡的测试环境及测试方法。本文件规定的技术要求主要面向 于数据中心或服务器使用的人工智能加速卡。 本文件适用于人工智能加速卡的生产方、评测方、使用方等对加速卡进行设计、测试、评估、选型 和应用。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。 其中， 注日期的引用文件， 仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本 文件。 GB/T 9813.3 -2017 计算机通用规范 第3部分：服务器 GB/T 17235.1 -1998 信息技术 连续色调静态图像的数字压缩及编码 第1部分：要求和指南 GB/T 34986 -2017 产品加速试验方法 GB/T 37092 -2018 信息安全技术 密码模块安全要求 GB/T 41867 -2022 信息技术 人工智能 术语 GB/T 42018 -2022 信息技术 人工智能 平台计算资源规范 GM/T 0008 -2012 安全芯片密码检测准则 GM/T 0028 -2014 密码模块安全技术要求 YD/T 3944 -2021 人工智能芯片基准测试评估方法 YD/T 4398 -2023 电信行业云原