harmony 鸿蒙LayerNormFusion
LayerNormFusion
概述
对一个tensor从某一axis开始做层归一化。
该算子对应的NodeType为NODE_TYPE_LAYER_NORM_FUSION。
输入：
x，n维tensor。
gamma，一个m维tensor，gamma维度应该与input做归一化部分的shape一致。
beta，一个m维tensor，shape与gamma一样。
输出：
- output，n维输出tensor，数据类型和shape和input一致。
Since:
3.2
Version:
1.0
相关模块:
汇总
Public 属性
| 名称 | 描述 |
|---|---|
| beginNormAxis | long 指定x需进行层归一化的起始维度。 |
| epsilon | float 为数值稳定性定义一个加到分母上的值。 |
| elementwiseAffine | boolean 是否为元素级别的操作。 |
| beginParamsAxis | long 指定输入参数gamma，beta需进行层归一化的开始维度，其值必须在[-n, n)范围内。 |
类成员变量说明
beginNormAxis
long LayerNormFusion::beginNormAxis
描述: 指定x需进行层归一化的起始维度。
beginParamsAxis
long LayerNormFusion::beginParamsAxis
描述: 指定输入参数gamma，beta需进行层归一化的开始维度，其值必须在[-n, n)范围内。
elementwiseAffine
boolean LayerNormFusion::elementwiseAffine
描述: 是否为元素级别的操作。
epsilon
float LayerNormFusion::epsilon
描述: 为数值稳定性定义一个加到分母上的值。
你可能感兴趣的鸿蒙文章
harmony 鸿蒙ActivityRecognitionTypes.idl
0
赞
- 所属分类： 后端技术
- 本文标签：
热门推荐
-
2、 - 优质文章
-
3、 gate.io
-
6、 golang
-
7、 openharmony