1. 简介
TopsRider v2.3发布说明，2.3.58 版本适用于i20、T20、T21设备。
2. 功能和优化
2.1 API 变更
HLIR
Runtime
- tops_ext.h中结构体名字修改成 TopsResourceBundle
TopsInference
- compile_option配置resource_mode模式时，将在 2024年废弃“base_resource”和“triple_resource”选项，请使用“1c4s”和“1c12s”替代。该选项表示之前的1PG/3PG，仅在gcu210卡中支持，对外不再使用PG、VG概念。
- 数据类型，将在2024年废弃“DT_”，未来仅支持“TIF_”。如当前同时支持“DT_INT8”和“TIF_INT8”，未来仅支持“TIF_INT8”；当前同时支持“DT_FLOAT32”和“TIF_FP32”，未来仅支持“TIF_FP32”。
- 影响的接口包括
- Python：PyLayer的set_precision，PyParser中的set_input_dtypes和set_output_dtypes
- C++：ILayer的setPrecision, IParser中的setInputDtypes和setOutputDtypes
2.2 i2x 模型支持
| 模型名称 | 精度 | 说明 |
| SegmentAnything | FP16 混精 | 新增支持 |
| DLRM | FP16 混精 | 新增支持 |
| RNN-T | FP16 混精 | 新增支持 |
| Wavenet | FP16 混精 | 新增支持 |
| MiniGo | FP16 混精 | 新增支持 |
| Yuan 1.0 13B | FP16 混精 | 新增支持 |
| GPT2 1.5B | FP16 混精 | 新增支持 |
2.3 T20设备支持模型
2.3.1 PaddlePaddle框架新增模型
| 模型名称 | 框架 | 说明 |
| DQN | PaddlePaddle | 单卡，新增支持 |
| Swin Transformer | PaddlePaddle | 8卡收敛，TF32 |
| PPYOLO | PaddlePaddle | 8卡收敛，TF32 |
| DeepLab v3 | PaddlePaddle | 8卡收敛，TF32 |
| ShuffleNet | PaddlePaddle | 8卡，TF32 |
| EfficientNet | PaddlePaddle | 8卡，TF32 |
2.3.2 PyTorch 新增模型
| 模型名称 | 框架 | 说明 |
| Swin Transformer | PyTorch | 8卡收敛，TF32 |
| 3D-Unet | PyTorch | 8卡收敛，TF32 |
| BERT Large （动态） | PyTorch | 8卡收敛，TF32 |
| Transformer（动态） | PyTorch | 8卡收敛，TF32 |
| YOLO v3（动态） | PyTorch | 8卡收敛，TF32 |
| YOLO v5m（动态） | PyTorch | 8卡收敛，TF32 |
2.3.3 TensorFlow 模型支持
| 模型名称 | 框架 | 说明 |
| EfficientNet | TensorFlow | 8卡收敛，TF32 |
| YOLO v5m | TensorFlow | 8卡收敛，TF32 |
| YOLO v3 | TensorFlow | 8卡收敛，TF32 |
| DeepLab v3 | TensorFlow | 8卡收敛，TF32 |
| Transformer | TensorFlow | 1 卡收敛，TF32 |
2.3.4 ARM 模型支持（此次无新增）
| 模型名称 | 框架 | 数据类型 | 卡数 |
| Resnet50 v1.5 | PyTorch | TF32 | 2 |
| BERT Large | PyTorch | TF32 | 2 |
| BERT Base | PyTorch | TF32 | 2 |
| YOLO v3 | PyTorch | TF32 | 2 |
| YOLO v5s | PyTorch | TF32 | 2 |
| Unet | PyTorch | TF32 | 2 |
| SSD | PyTorch | TF32 | 2 |
3. 问题修复
4. 使用限制
- PaddlePaddle 框架下 Bert Large 需要使用 Python 3.8 及以上
5. EFSMI
6. 操作系统和Python支持
6.1 适配说明
- Host 环境：仅Enflame Driver 对此 OS 环境做兼容适配，Docker 运行 Ubuntu
- Docker 环境：软件栈功能已做适配测试，需使用相同OS 的 Host
6.2 操作系统支持列表
| 操作系统名称 | 架构 | 内核版本 | GCC | GLIBC | 说明 |
| Ubuntu 18.04.z(z<=6) | x86 | 4.15.0 & 5.4 | 7.5 | 2.27 | Host & Docker |
| Ubuntu 18.04.6 | aarch64 | 5.4 | 7.5 | 2.27 | Host & Docker |
| Ubuntu 20.04.z(z<=5) | x86 | 5.4 & 5.11 & 5.13 & 5.15 | 9.3 | 2.31 | Host & Docker |
| Ubuntu 22.04.z (z<=1) | x86 | 5.15 | 11.2 | 2.35 | 仅 kmd 在 Host 上已适配，Docker 中请使用其他OS |
| CentOS 7.9 | x86 | 3.1 | 5.5 | 2.17 | Host & Docker |
| Redhat linux 8.y(y=0,3,4,6) | x86 | 4.18 | 8.5 | 2.28 | Host GCC 4.8.5 Docker GCC 5.5 |
| RedHat 9.y （y=0） | X86 & aarch64 | 5.14.0 | 11.2.1 | 2.34 | 仅 kmd 在 Host 上已适配，Docker 中请使用其他 OS |
| Kylin v10 | x86 | 4.19.0 | 7.3 | 2.28 | 仅 kmd 在Host上已适配，Docker 使用 Ubuntu |
| UOS 20 Server | x86 | 4.19.0 | 7.3 | 2.28 | 仅 Host 适配，Docker 使用 Ubuntu |
| OpenEular | X86 | 5.10.0 | 10.3.1 | 2.34 | Host & Docker |
| 龙蜥 8.2 QU2 | X86 | 4.18.0 | 8.3.1 | 2.28 | Host & Docker |
| 龙蜥 8.6 | X86 | 4.19.90 | 7.3.0 | 2.28 | Ho |
6.3 Python 支持
Python 3.6，Python 3.8
沪公网安备 31011502008689号