1. 简介

TopsRider v2.2发布说明,2.2.41版本适用于i20、T20、T21设备。

2. 功能和优化

2.1 文档格式

文档离线 html 格式,方便查看使用。

2.2 新增组件

新增 TopsIdeas 组件,详见TopsIdeas用户使用手册。

2.3 API变更

  • torch-gcu:由 torch-dtu更名为 torch-gcu,api 中涉及 dtu关键字都更名为 gcu
  • tensorflow:api中涉及到 dtu的关键字都更名为 gcu

2.4 i20设备模型支持

2.4.1 推理模型支持
模型名称精度说明
3D-UnetFP16 混精新增支持
Swin TransformerFP16 混精新增支持
PPYOLOFP16 混精新增支持
Ssdlite_mobilenet v1FP16 混精新增支持
Resnet-50 v1.5FP16 混精,FP32,INT8 
Mobilenet v2FP16混精 
ShuffleNetFP16混精 
GoogleNetFP16混精 
EfficientNetFP16混精 
Mask R-CNNFP16混精 
SSD + MobileNet V2FP16混精 
YOLO v2FP16混精 
YOLO v3FP16混精 
YOLO v5FP16混精 
Faster RCNNFP16混精 
Deeplab v3FP16混精 
TransformerFP16混精 
Bert-largeFP16混精 
Swin TransformerFP16混精 

2.5 T20设备模型支持

2.5.1 PaddlePaddle框架新增模型

模型名称框架说明
ResNet50PaddlePaddle8卡,TF32 & FP32
BERT LargePaddlePaddle8卡,TF32 & FP32 运行需要使用 python 3.8 及以上
GoogLeNetPaddlePaddle8卡,TF32
MobileNet v2PaddlePaddle8卡,TF32
ShuffleNetPaddlePaddle8卡,TF32
EfficientNetPaddlePaddle8卡,TF32

2.5.2 PyTorch 新增模型

模型名称框架说明
ShuffleNetPyTorch8卡,TF32
EfficientNetPyTorch8卡,TF32
SSD_MobileNet v2PyTorch8卡,TF32

2.5.3 ARM模型支持(此次无新增)

模型名称框架数据类型卡数
Resnet50 v1.5PyTorchTF322
BERT LargePyTorchTF322
BERT BasePyTorchTF322
YOLO v3PyTorchTF322
YOLO v5sPyTorchTF322
UnetPyTorchTF322
SSDPyTorchTF322

2.6 新增功能支持

  • KMD:KMD支持第三方设备PCIe P2P,浪潮解码卡与GCU卡直接p2p显存读写拷贝
  • TopsProf:默认使能收集和分析ECCL domain 的信息
  • ECCL:支持灵活设置进程与卡绑定关系
  • TensorFlow:Tensorflow版本信息包含关键字已区别社区公开版本
  • 日志优化:清晰分辨训练运行阶段的log
  • Runtime:peer-to-peer memory 卡间数据直接拷贝

3. 使用限制

  • PaddlePaddle 框架下 Bert Large 需要使用 Python 3.8 及以上
  • T20/T21 不支持多进程,不支持多人同时使用同一张卡

4 GCU 设备 Firmware 版本、EFSMI 版本

4.1 GCU 设备Firmware 版本

GCU设备Firmware
T2010.19.3
T2111.2.5
i2021.6.5

4.2 EFSMI 版本

1.15.0

5. 操作系统和 Python 支持

5.1 适配说明

  • Host 环境:仅 Enflame Driver 对此 OS 环境做兼容适配,Docker 运行 Ubuntu
  • Docker 环境:软件栈功能已做适配测试,需使用相同 OS 的 Host

5.2 操作系统支持列表

操作系统名称架构内核版本GCCGLIBC说明
Ubuntu 18.04.z(z<=6)x864.15.0 & 5.47.52.27Host & Docker
Ubuntu 18.04.6aarch645.47.52.27Host & Docker
Ubuntu 20.04.z(z<=5)x865.4 & 5.11 & 5.13 & 5.159.32.31Host & Docker
Ubuntu 22.04.z (z<=1)x865.1511.22.35仅 kmd 在 Host 上已适配,Docker 中请使用其他OS
CentOS 7.9x863.15.52.17Host & Docker
Redhat linux 8.y(y=0,3,4,6)x864.188.52.28Host GCC 4.8.5 Docker GCC 5.5
RedHat 9.y (y=0)X86 & aarch645.14.011.2.12.34仅 kmd 在 Host 上已适配,Docker 中请使用其他 OS
Kylin v10x864.19.07.32.28仅 kmd 在Host上已适配,Docker 使用 Ubuntu
UOS 20 Serverx864.19.07.32.28仅 Host 适配,Docker 使用 Ubuntu
OpenEularX865.10.010.3.12.34Host & Docker
龙蜥 8.2 QU2X864.18.08.3.12.28Host & Docker
龙蜥 8.6X864.19.907.3.02.28Host & Docker

5.3 Python 支持

Python 3.6,Python 3.8

Categories:

Tags: