TopsRider i2x v 2.0.96发布说明

on 30 8 月, 2022

1. 简介

TopsRider v2.0 Preview 版本（v2.0.96）发布说明，2.0.96 版本适用于 i20 设备。

2. 功能和优化

2.1 新增功能

  • 增加了对 Centernet , ssd-resnet34, yolo v4, yolo v4 tiny, hrnet, squeezenet, densenet121, shufflenet-v1, shufflenet-v2, 2d unet, mobilenet v3, ghostnet,googlenet, efficientnet, arcface, yolox 模型推理的支持，并提供相应的包含调度的范例
  • 增加 gcu-exporter 监控插件
  • 增加 tops-inference 对多进程推理的支持
  • 增加了新增模型准确度验证的范例

2.2 已有功能

  • 硬件功能：
    • TopsInference 自动识别燧原 i20 推理卡
  • 业务支持：
  • 推理栈功能
    • 支持推理执行期通过可执行文件获取推理模型图输入输出 Shape 和Data Type
    • 支持推理模型图 FP32 到 FP16 的自动量化，提高推理运算速度
    • 支持推理模型图编译优化选项的控制
    • 支持 ONNX 模型图的解析
    • 支持异常处理与错误码
    • 支持通过 API 在图编译前修改推理模型图输入的形状
  • 兼容性
    • 操作系统 Ubuntu18.04, Centos 7.9, Redhat linux 8.4
    • 支持 Python 3.6，3.8

3. GCU 设备 SSM 版本、EFSMI 版本

4. 操作系统支持情况

Categories:

资讯

Tags:

No Tag