local_response_norm¶
- paddle.nn.functional. local_response_norm ( x, size, alpha=1e-4, beta=0.75, k=1., data_format='NCHW', name=None ) [源代码] ¶
局部响应正则化(Local Response Normalization)用于对局部输入区域进行正则化,执行一种侧向抑制(lateral inhibition)。更多详情参考: ImageNet Classification with Deep Convolutional Neural Networks
其中 input
是mini-batch的输入特征。计算过程如下:
\[Output(i,x,y) = Input(i,x,y)/\left ( k+\alpha \sum_{j=max(0,i-size/2)}^{min(C-1,i+size/2)}(Input(j,x,y))^2 \right )^\beta\]
- 在以上公式中:
-
\(size\) :累加的通道数
\(k\) :位移
\(\alpha\) : 缩放参数
\(\beta\) : 指数参数
参数¶
x (Tensor)- 输入的三维/四维/五维 Tensor ,数据类型为:float32。
size (int) - 累加的通道数。
alpha (float,可选)- 缩放参数,正数。默认值为1e-4。
beta (float,可选)- 指数,正数。默认值为0.75。
k (float,可选)- 位移,正数。默认值为1.0。
data_format (str,可选) - 指定输入的数据格式,输出的数据格式将与输入保持一致。如果输入是三维 Tensor ,该参数可以是"NCL"或"NLC",其中N是批尺寸,C是通道数,L是特征长度。如果输入是四维 Tensor ,该参数可以是"NCHW"或"NHWC",其中N是批尺寸,C是通道数,H是特征高度,W是特征宽度。如果输入是五维 Tensor ,该参数可以是"NCDHW"或"NDHWC",其中N是批尺寸,C是通道数,D是特征深度,H是特征高度,W是特征宽度。默认值:"NCHW"。
name (str,可选): 操作的名称(可选,默认值为None)。更多信息请参见 Name 。
返回¶
局部响应正则化得到的输出特征,数据类型及维度和input相同的 Tensor 。
代码示例¶
import paddle
x = paddle.rand(shape=(3, 3, 112, 112), dtype="float32")
y = paddle.nn.functional.local_response_norm(x, size=5)
print(y.shape) # [3, 3, 112, 112]