1. 版权声明

本文档提供的信息属于上海燧原科技有限公司和/或其子公司(以下统称“燧原科技”)所有,且燧原科技保留不经通知随时对本文档信息或对任何产品和服务做出修改的权利。本文档所含信息和本文档所引用燧原科技其他信息均“按原样”提供。燧原科技不担保信息、文本、图案、链接或本文档内所含其他项目的准确性或完整性。燧原科技不对本文档所述产品的可销售性、所有权、不侵犯知识产权、准确性、完整性、稳定性或特定用途适用性做任何暗示担保、保证。燧原科技可不经通知随时对本文档或本文档所述产品做出更改,但不承诺更新本文档。

​ 在任何情况下,燧原科技不对因使用或无法使用本文档而导致的任何损害(包括但不限于利润损失、业务中断和信息损失等损害)承担责任。燧原科技不承担因应用或使用本文档所述任何产品或服务而产生的任何责任。

​ 本文档所列的规格参数、性能数据和等级需使用特定芯片或计算机系统或组件来测量。经该等测试,本文档所示结果反映了燧原科技产品的大概性能。系统配置及软硬件版本、环境变量等的任何不同会影响实际性能,产品实际效果与文档描述存在差异的,均属正常现象。燧原科技不担保测试每种产品的所有参数。客户自行承担对产品适合并适用于客户计划的应用以及对应用程序进行必要测试的责任。客户产品设计的脆弱性会影响燧原科技产品的质量和可靠性并导致超出本文档范围的额外或不同的情况和/或要求。

​ 燧原科技和燧原科技的标志是上海燧原科技有限公司申请和/或注册的商标。本文档并未明示或暗示地授予客户任何专利、版权、商标、集成电路布图设计、商业秘密或任何其他燧原科技知识产权的权利或许可。

​ 本文档为版权所有并受全世界版权法律和条约条款的保护。未经燧原科技的事先书面许可,任何人不可以任何方式复制、修改、出版、上传、发布、传输或分发本文档。为免疑义,除了允许客户按照本文档要求使用文档相关信息外,燧原科技不授予其他任何明示或暗示的权利或许可。

​ 燧原科技对本文档享有最终解释权。

2. 前言

2.1. 版本信息

表 2.1.1 版本历史

文档版本

文档日期

文档说明

V 1.3

2023年8月31日

更新

V 1.2

2022年12月20日

更新

V 1.1

2022年5月16日

更新

V 1.0

2022年2月28日

初版

2.2. 支持情况说明

列表中标记为 不完整支持 ,是指支持该算子,但是在部分形状、维度的组合下,功能有缺陷。 由于篇幅限制,这里不列出全部有缺陷的形状、维度的组合。如果想详细了解不支持的情况,请联系燧原寻求支持!

3. 算子支持情况

表 3.5 ONNX算子支持列表

Operator

fp16动态支持

fp32动态支持

fp16静态支持

fp32静态支持

Abs

支持

支持

支持

支持

Acos

不支持

不支持

不支持

不支持

Acosh

支持

支持

支持

支持

ArgMax

支持

支持

支持

支持

ArgMin

不支持

不支持

不支持

不支持

Asin

支持

支持

支持

支持

Asinh

支持

支持

支持

支持

Atan

支持

支持

支持

支持

Atanh

不支持

不支持

不支持

不支持

AveragePool

部分支持

部分支持

支持

支持

BatchNormalization

部分支持

部分支持

支持

支持

BitShift

不支持

不支持

不支持

不支持

Cast

支持

支持

支持

不支持

Ceil

支持

支持

支持

支持

Compress

支持

支持

支持

支持

ConcatFromSequence

不支持

不支持

不支持

不支持

Constant

不支持

不支持

不支持

不支持

ConstantOfShape

不支持

支持(int64)

不支持

不支持(int64)

ConvInteger

不支持

不支持

不支持

不支持

Cos

支持

支持

支持

支持

Cosh

支持

支持

支持

支持

CumSum

支持

支持

支持

支持

DepthToSpace

不支持

不支持

不支持

不支持

Det

不支持

不支持

不支持

不支持

Dropout

不支持

不支持

不支持

不支持

Einsum

不支持

不支持

不支持

不支持

Erf

支持

支持

支持

支持

Exp

支持

支持

支持

支持

EyeLike

支持

支持

支持

支持

Flatten

支持

支持

支持

支持

Floor

支持

支持

支持

支持

GRU

不支持

不支持

不支持

不支持

Gather

支持

支持

支持

支持

GatherND

支持

支持

支持

支持

GlobalLpPool

支持

支持

支持

支持

Hardmax

部分支持

部分支持

支持

支持

Identity

支持

支持

支持

支持

InstanceNormalization

支持

支持

支持

支持

IsInf

支持

支持

支持

支持

IsNaN

支持

支持

支持

支持

LRN

支持

支持

支持

支持

LSTM

部分支持

部分支持

部分支持

部分支持

Log

支持

支持

支持

支持

LpNormalization

不支持

不支持

不支持

不支持

LpPool

支持

支持

支持

支持

MatMulInteger

不支持

不支持

不支持

不支持

MaxPool

支持

支持

部分支持

部分支持

MaxRoiPool

不支持

不支持

不支持

不支持

MaxUnpool

不支持

不支持

不支持

不支持

Mean

支持

支持

支持

支持

Mod

不支持

不支持

不支持

支持(仅int32)

Multinomial

不支持

不支持

不支持

不支持

NonZero

不支持

不支持

部分支持

部分支持

Not

不支持

不支持

不支持

不支持

OneHot

不支持

不支持

不支持

不支持

RNN

不支持

不支持

不支持

不支持

RandomNormal

不支持

不支持

不支持

不支持

RandomNormalLike

不支持

不支持

不支持

不支持

RandomUniform

不支持

不支持

不支持

不支持

RandomUniformLike

不支持

不支持

不支持

不支持

Reciprocal

部分支持

支持

部分支持

支持

ReduceL1

支持

支持

支持

支持

ReduceL2

支持

支持

支持

支持

ReduceLogSum

部分支持

部分支持

部分支持

部分支持

ReduceLogSumExp

支持

支持

支持

支持

ReduceMax

支持

支持

支持

支持

ReduceMean

支持

支持

支持

支持

ReduceMin

支持

支持

支持

支持

ReduceProd

支持

支持

支持

支持

ReduceSum

支持

支持

部分支持

支持

ReduceSumSquare

支持

支持

支持

支持

Reshape

支持

支持

支持

支持

Resize

部分支持

部分支持

部分支持

部分支持

ReverseSequence

不支持

支持

支持

不支持

Round

部分支持

部分支持

支持

部分支持

Scan

不支持

不支持

不支持

不支持

ScatterElements

不支持

不支持

支持

支持

ScatterND

支持

支持

支持

支持

SequenceAt

不支持

不支持

不支持

不支持

SequenceConstruct

不支持

不支持

不支持

不支持

SequenceEmpty

不支持

不支持

不支持

不支持

SequenceErase

不支持

不支持

不支持

不支持

SequenceInsert

不支持

不支持

不支持

不支持

SequenceLength

不支持

不支持

不支持

不支持

Shape

支持

支持

支持

支持

Sigmoid

支持

支持

支持

支持

Sign

支持

支持

支持

支持

Sin

支持

支持

支持

支持

Sinh

不支持

不支持

不支持

不支持

Size

支持

支持

支持

支持

SpaceToDepth

支持

支持

支持

支持

Split

部分支持

部分支持

部分支持

部分支持

SplitToSequence

不支持

不支持

不支持

不支持

Sqrt

支持

支持

支持

支持

Squeeze

不支持

不支持

支持

支持

Sum

支持

支持

支持

支持

Tan

不支持

不支持

不支持

不支持

Tanh

支持

支持

支持

支持

TfIdfVectorizer

不支持

不支持

不支持

不支持

Tile

不支持

不支持

不支持

不支持

Unique

不支持

不支持

不支持

不支持

Unsqueeze

支持

支持

支持

支持

Celu

支持

支持

支持

支持

Clip

支持

支持

支持

支持

Elu

支持

支持

支持

支持

HardSigmoid

支持

支持

支持

支持

HardSwish

不支持

不支持

不支持

不支持

LeakyRelu

支持

支持

支持

支持

ThresholdedRelu

支持

支持

支持

支持

MeanVarianceNormalization

不支持

不支持

不支持

不支持

Mish

不支持

不支持

不支持

不支持

NegativeLogLikelihoodLoss

不支持

不支持

不支持

不支持

PRelu

不支持

支持

支持

支持

Range

不支持

不支持

不支持

支持

Relu

支持

支持

支持

支持

Selu

支持

支持

支持

支持

Shrink

不支持

支持

不支持

支持

Softmax

支持

支持

支持

支持

SoftmaxCrossEntropyLoss

不支持

不支持

不支持

不支持

Softplus

支持

支持

支持

支持

Softsign

支持

支持

部分支持

支持

ThresholdedRelu

支持

支持

支持

支持

Conv

支持

支持

支持

支持

Matmul

支持

支持

支持

支持

topk

支持

支持

支持

支持

gathernd

支持

支持

支持

支持

gatherelements

支持

支持

支持

支持

Add

部分支持

部分支持

支持

支持

And

不支持

部分支持(Bool型)

不支持

支持(仅Bool型)

ConvTranspose

支持

不支持

支持

支持

Div

支持

支持

支持

支持

Equal

支持

支持

支持

支持

Expand

支持

支持

支持

支持

Gemm

支持

支持

支持

支持

GlobalAveragePool

未测试

未测试

支持

支持

GlobalMaxPool

未测试

未测试

支持

支持

Greater

支持

支持

支持

支持

Less

支持

支持

支持

支持

Max

支持

支持

支持

支持

Min

支持

支持

支持

支持

Mul

支持

支持

支持

支持

Neg

支持

支持

支持

支持

Or

只支持bool

只支持bool

Pad

不支持

不支持

支持

支持

Pow

支持

支持

支持

支持

Xor

只支持bool

只支持bool

GreaterOrEqual

支持

支持

支持

支持

LayerNormalization

未测试

未测试

支持

支持

LessOrEqual

支持

支持

支持

支持

RoiAlign

支持

支持

支持

支持

slice

支持

支持

支持

支持

concat

支持

支持

支持

支持

NonMaxSuppression

不支持

支持

不支持

支持

transpose

支持

支持

支持

支持