MSRAInitializer¶

class paddle.fluid.initializer. MSRAInitializer ( uniform=True, fan_in=None, seed=0 ) [源代码] ¶

该接口实现MSRA方式的权重初始化（a.k.a. Kaiming初始化）

该接口为权重初始化函数，方法来自Kaiming He，Xiangyu Zhang，Shaoqing Ren 和 Jian Sun所写的论文: Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification 。这是一个鲁棒性特别强的初始化方法，并且适应了非线性激活函数（rectifier nonlinearities）。可以选择使用均匀分布或者正态分布初始化权重；在均匀分布中，范围为[-x,x]，其中：

\[x = \sqrt{\frac{6.0}{fan\_in}}\]

在正态分布中，均值为0，标准差为：

\[\sqrt{\frac{2.0}{fan\_in}}\]

参数：

uniform (bool) - 为True表示使用均匀分布，为False表示使用正态分布
fan_in (float16|float32) - MSRAInitializer的fan_in。如果为None，fan_in沿伸自变量，多设置为None
seed (int32) - 随机种子

返回：对象

注解

在大多数情况下推荐设置fan_in为None

代码示例：

import paddle
import paddle.fluid as fluid
paddle.enable_static()
x = fluid.layers.data(name="data", shape=[32, 32], dtype="float32")
fc = fluid.layers.fc(input=x, size=10, param_attr=fluid.initializer.MSRAInitializer(uniform=False))

PaddlePaddle

paddle.fluid / initializer / MSRA

MSRAInitializer¶

PaddlePaddle

paddle

paddle.amp

paddle.callbacks

paddle.compat

paddle.distributed

paddle.distribution

paddle.fluid

paddle.io

paddle.jit

paddle.metric

paddle.nn

paddle.onnx

paddle.optimizer

paddle.regularizer

paddle.static

paddle.sysconfig

paddle.text

paddle.utils

paddle.vision

paddle.fluid / initializer / MSRA

MSRAInitializer¶