1. 版权声明

以下条款适用于所有访问燧原产品和服务相关文档的用户或阅读者(以下统称“您”),本文档包括本文档提供的信息属于上海燧原科技股份有限公司和/或其子公司(以下统称“燧原”)或其许可方所有,且燧原保留不经通知随时对本文档信息或对本文档所述任何产品和服务做出修改的权利。本文档所含信息和本文档所引用燧原其他信息均“按原样”提供。燧原不担保信息、文本、图案、链接或本文档内所含其他项目的准确性或完整性。燧原不对本文档所述产品的可销售性、所有权、不侵犯知识产权、准确性、完整性、稳定性或特定用途适用性做任何暗示担保、保证。燧原可不经通知随时对本文档或本文档所述产品或服务做出更改,但不承诺因此更新本文档。

在任何情况下,燧原不对因使用或未使用本文档而导致的任何损害(包括但不限于利润损失、业务中断和信息损失等损害)承担任何责任。除非另行书面同意,燧原不对本文档承担任何责任,不论该责任因任何原因而产生或基于任何侵权理论。

本文档所列的规格参数、性能数据和等级基于特定芯片或计算机系统或组件测试所得。经该等测试,本文档所示结果反映了燧原产品在上述测试环境中的性能表现。测试系统配置及软硬件版本、环境变量等的任何变化都会影响产品或服务的实际性能,如产品或服务的实际效果与本文档描述存在差异的,均属正常现象。燧原不担保测试本文档中每种产品或服务的所有参数的准确性和稳定性。您自行承担对本文档中产品或服务是否适合并适用于您计划的应用进行评估以及进行必要测试的责任。您的使用环境、系统配置、产品设计等特性可能会影响燧原产品或服务的质量和可靠性并导致超出本文档范围的额外或不同的情况和/或要求,燧原对此不做任何担保或承担任何责任。

燧原®、Enflame ®和本文档中显示的其他所有商标、标志是上海燧原科技股份有限公司或其许可方申请和/或注册的商标。本文档并未明示或暗示地授予您任何专利、版权、商标、集成电路布图设计、商业秘密或任何其他燧原或其许可方知识产权的权利或许可。

本文档为燧原或其许可方版权所有并受全世界版权法律和条约条款的保护。未经燧原或其许可方的事先书面许可,任何人不可以任何方式复制、修改、出版、上传、发布、传输或分发本文档。为免疑义,除了允许您按照本文档要求使用本文档相关信息外,燧原或其许可方不授予其他任何明示或暗示的权利或许可。

本文档可能保留有与第三方网站或网址的链接,访问这些链接将由您自己作出决定,燧原并不保证这些链接上所提供的任何信息、数据、观点、图片、陈述或建议的准确性、完整性、充分性和可靠性。燧原提供这些链接仅仅在于提供方便,并不表示燧原对这些信息的认可和推荐,也不是用于宣传或广告目的。

您同意在使用本文档及其内容时,遵守国家法律法规、社会公共道德。您不得利用本文档及其内容从事制作、查阅、复制和传播任何违法、侵犯他人权益等扰乱社会秩序、破坏社会稳定的行为,亦不得利用本文档及其内容从事任何危害或试图危害计算机系统及网络安全的活动。

您同意,与您访问或使用本文档相关的所有事项,应根据中华人民共和国法律解释、理解和管辖。您同意,中国上海市有管辖权的法院具有相关的管辖权。

燧原对本文档享有最终解释权。

2. 前言

2.1. 版本信息

表 2.1.1 版本历史

文档版本

文档日期

文档说明

V 1.3

2023年8月31日

更新

V 1.2

2022年12月20日

更新

V 1.1

2022年5月16日

更新

V 1.0

2022年2月28日

初版

2.2. 支持情况说明

列表中标记为 不完整支持 ,是指支持该算子,但是在部分形状、维度的组合下,功能有缺陷。 由于篇幅限制,这里不列出全部有缺陷的形状、维度的组合。如果想详细了解不支持的情况,请联系燧原寻求支持!

3. 算子支持情况

表 3.4 ONNX算子支持列表

Operator

fp16动态支持

fp32动态支持

fp16静态支持

fp32静态支持

Abs

支持

支持

支持

支持

Acos

不支持

不支持

不支持

不支持

Acosh

支持

支持

支持

支持

ArgMax

支持

支持

支持

支持

ArgMin

不支持

不支持

不支持

不支持

Asin

支持

支持

支持

支持

Asinh

支持

支持

支持

支持

Atan

支持

支持

支持

支持

Atanh

不支持

不支持

不支持

不支持

AveragePool

部分支持

部分支持

支持

支持

BatchNormalization

部分支持

部分支持

支持

支持

BitShift

不支持

不支持

不支持

不支持

Cast

支持

支持

支持

不支持

Ceil

支持

支持

支持

支持

Compress

支持

支持

支持

支持

ConcatFromSequence

不支持

不支持

不支持

不支持

Constant

不支持

不支持

不支持

不支持

ConstantOfShape

不支持

支持(int64)

不支持

不支持(int64)

ConvInteger

不支持

不支持

不支持

不支持

Cos

支持

支持

支持

支持

Cosh

支持

支持

支持

支持

CumSum

支持

支持

支持

支持

DepthToSpace

不支持

不支持

不支持

不支持

Det

不支持

不支持

不支持

不支持

Dropout

不支持

不支持

不支持

不支持

Einsum

不支持

不支持

不支持

不支持

Erf

支持

支持

支持

支持

Exp

支持

支持

支持

支持

EyeLike

支持

支持

支持

支持

Flatten

支持

支持

支持

支持

Floor

支持

支持

支持

支持

GRU

不支持

不支持

不支持

不支持

Gather

支持

支持

支持

支持

GatherND

支持

支持

支持

支持

GlobalLpPool

支持

支持

支持

支持

Hardmax

部分支持

部分支持

支持

支持

Identity

支持

支持

支持

支持

InstanceNormalization

支持

支持

支持

支持

IsInf

支持

支持

支持

支持

IsNaN

支持

支持

支持

支持

LRN

支持

支持

支持

支持

LSTM

部分支持

部分支持

部分支持

部分支持

Log

支持

支持

支持

支持

LpNormalization

不支持

不支持

不支持

不支持

LpPool

支持

支持

支持

支持

MatMulInteger

不支持

不支持

不支持

不支持

MaxPool

支持

支持

部分支持

部分支持

MaxRoiPool

不支持

不支持

不支持

不支持

MaxUnpool

不支持

不支持

不支持

不支持

Mean

支持

支持

支持

支持

Mod

不支持

不支持

不支持

支持(仅int32)

Multinomial

不支持

不支持

不支持

不支持

NonZero

不支持

不支持

部分支持

部分支持

Not

不支持

不支持

不支持

不支持

OneHot

不支持

不支持

不支持

不支持

RNN

不支持

不支持

不支持

不支持

RandomNormal

不支持

不支持

不支持

不支持

RandomNormalLike

不支持

不支持

不支持

不支持

RandomUniform

不支持

不支持

不支持

不支持

RandomUniformLike

不支持

不支持

不支持

不支持

Reciprocal

部分支持

支持

部分支持

支持

ReduceL1

支持

支持

支持

支持

ReduceL2

支持

支持

支持

支持

ReduceLogSum

部分支持

部分支持

部分支持

部分支持

ReduceLogSumExp

支持

支持

支持

支持

ReduceMax

支持

支持

支持

支持

ReduceMean

支持

支持

支持

支持

ReduceMin

支持

支持

支持

支持

ReduceProd

支持

支持

支持

支持

ReduceSum

支持

支持

部分支持

支持

ReduceSumSquare

支持

支持

支持

支持

Reshape

支持

支持

支持

支持

Resize

部分支持

部分支持

部分支持

部分支持

ReverseSequence

不支持

支持

支持

不支持

Round

部分支持

部分支持

支持

部分支持

Scan

不支持

不支持

不支持

不支持

ScatterElements

不支持

不支持

支持

支持

ScatterND

支持

支持

支持

支持

SequenceAt

不支持

不支持

不支持

不支持

SequenceConstruct

不支持

不支持

不支持

不支持

SequenceEmpty

不支持

不支持

不支持

不支持

SequenceErase

不支持

不支持

不支持

不支持

SequenceInsert

不支持

不支持

不支持

不支持

SequenceLength

不支持

不支持

不支持

不支持

Shape

支持

支持

支持

支持

Sigmoid

支持

支持

支持

支持

Sign

支持

支持

支持

支持

Sin

支持

支持

支持

支持

Sinh

不支持

不支持

不支持

不支持

Size

支持

支持

支持

支持

SpaceToDepth

支持

支持

支持

支持

Split

部分支持

部分支持

部分支持

部分支持

SplitToSequence

不支持

不支持

不支持

不支持

Sqrt

支持

支持

支持

支持

Squeeze

不支持

不支持

支持

支持

Sum

支持

支持

支持

支持

Tan

不支持

不支持

不支持

不支持

Tanh

支持

支持

支持

支持

TfIdfVectorizer

不支持

不支持

不支持

不支持

Tile

不支持

不支持

不支持

不支持

Unique

不支持

不支持

不支持

不支持

Unsqueeze

支持

支持

支持

支持

Celu

支持

支持

支持

支持

Clip

支持

支持

支持

支持

Elu

支持

支持

支持

支持

HardSigmoid

支持

支持

支持

支持

HardSwish

不支持

不支持

不支持

不支持

LeakyRelu

支持

支持

支持

支持

ThresholdedRelu

支持

支持

支持

支持

MeanVarianceNormalization

不支持

不支持

不支持

不支持

Mish

不支持

不支持

不支持

不支持

NegativeLogLikelihoodLoss

不支持

不支持

不支持

不支持

PRelu

不支持

支持

支持

支持

Range

不支持

不支持

不支持

支持

Relu

支持

支持

支持

支持

Selu

支持

支持

支持

支持

Shrink

不支持

支持

不支持

支持

Softmax

支持

支持

支持

支持

SoftmaxCrossEntropyLoss

不支持

不支持

不支持

不支持

Softplus

支持

支持

支持

支持

Softsign

支持

支持

部分支持

支持

ThresholdedRelu

支持

支持

支持

支持

Conv

支持

支持

支持

支持

Matmul

支持

支持

支持

支持

topk

支持

支持

支持

支持

gathernd

支持

支持

支持

支持

gatherelements

支持

支持

支持

支持

Add

部分支持

部分支持

支持

支持

And

不支持

部分支持(Bool型)

不支持

支持(仅Bool型)

ConvTranspose

支持

不支持

支持

支持

Div

支持

支持

支持

支持

Equal

支持

支持

支持

支持

Expand

支持

支持

支持

支持

Gemm

支持

支持

支持

支持

GlobalAveragePool

未测试

未测试

支持

支持

GlobalMaxPool

未测试

未测试

支持

支持

Greater

支持

支持

支持

支持

Less

支持

支持

支持

支持

Max

支持

支持

支持

支持

Min

支持

支持

支持

支持

Mul

支持

支持

支持

支持

Neg

支持

支持

支持

支持

Or

只支持bool

只支持bool

Pad

不支持

不支持

支持

支持

Pow

支持

支持

支持

支持

Xor

只支持bool

只支持bool

GreaterOrEqual

支持

支持

支持

支持

LayerNormalization

未测试

未测试

支持

支持

LessOrEqual

支持

支持

支持

支持

RoiAlign

支持

支持

支持

支持

slice

支持

支持

支持

支持

concat

支持

支持

支持

支持

NonMaxSuppression

不支持

支持

不支持

支持

transpose

支持

支持

支持

支持