Merge pull request #3 from XavierLinNow/XavierLinNow-patch-2

Update torch-nn batchnorm layer

docs/package_references/torch-nn.md

@@ -1,6 +1,109 @@
 # torch.nn
 
 
+## Normalization layers [<font size=2>[source]</font>](http://pytorch.org/docs/nn.html#normalization-layers)
+### class torch.nn.BatchNorm1d(num_features, eps=1e-05, momentum=0.1, affine=True) [<font size=2>[source]</font>](http://pytorch.org/docs/nn.html#torch.nn.BatchNorm1d)
+
+对小批量(mini-batch)的2d或3d输入进行批标准化(Batch Normalization)操作
+<script type="text/javascript" src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=default">\[y = \frac{x - mean[x]}{ \sqrt{Var[x]} + \epsilon} * gamma + beta\]</script>
+
+在每一个小批量（mini-batch）数据中，计算输入各个维度的均值和标准差。gamma与beta是可学习的N维参数向量（N为输入维度）
+
+在训练时，该层计算每次输入的均值与方差，并进行移动平均。移动平均默认的动量值为0.1。
+
+在验证时，训练求得的均值/方差将用于规范化。
+
+**参数：**
+
+- **num_features：** 来自期望输入的输入特征数，该期望输入的大小为'batch_size x num_features [x width]'
+- **eps：** 为保证数值稳定性（分母不能趋近或取0）,给分母加上的值。默认为1e-5。
+- **momentum：** 动态均值和动态方差所使用的动量。默认为0.1。
+- **affine：** 一个布尔值，当设为true，给该层可学习的仿射变换参数。
+
+**Shape：**
+- 输入：（N, C）或者(N, C, L)
+- 输出：（N, C）或者（N，C，L）（输入输出相同）
+
+**例子**
+```python
+>>> # With Learnable Parameters
+>>> m = nn.BatchNorm1d(100)
+>>> # Without Learnable Parameters
+>>> m = nn.BatchNorm1d(100, affine=False)
+>>> input = autograd.Variable(torch.randn(20, 100))
+>>> output = m(input)
+```
+***
+
+### class torch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True)[<font size=2>[source]</font>](http://pytorch.org/docs/_modules/torch/nn/modules/batchnorm.html#BatchNorm2d)
+
+对小批量(mini-batch)3d数据组成的4d输入进行批标准化(Batch Normalization)操作
+<script type="text/javascript" src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=default">$$y = \frac{x - mean[x]}{ \sqrt{Var[x]} + \epsilon} * gamma + beta$$</script>
+
+\[y = \frac{x - mean[x]}{ \sqrt{Var[x]} + \epsilon} * gamma + beta\]
+
+在每一个小批量（mini-batch）数据中，计算输入各个维度的均值和标准差。gamma与beta是可学习的N维参数向量（N为输入维度）
+
+在训练时，该层计算每次输入的均值与方差，并进行移动平均。移动平均默认的动量值为0.1。
+
+在验证时，训练求得的均值/方差将用于规范化。
+
+**参数：**
+
+- **num_features：** 来自期望输入的输入特征数，该期望输入的大小为'batch_size x num_features [x width]'
+- **eps：** 为保证数值稳定性（分母不能趋近或取0）,给分母加上的值。默认为1e-5。
+- **momentum：** 动态均值和动态方差所使用的动量。默认为0.1。
+- **affine：** 一个布尔值，当设为true，给该层可学习的仿射变换参数。
+
+**Shape：**
+- 输入：（N, C，H, W)
+- 输出：（N, C, H, W）（输入输出相同）
+
+**例子**
+```python
+>>> # With Learnable Parameters
+>>> m = nn.BatchNorm1d(100)
+>>> # Without Learnable Parameters
+>>> m = nn.BatchNorm1d(100, affine=False)
+>>> input = autograd.Variable(torch.randn(20, 100))
+>>> output = m(input)
+```
+***
+
+### class torch.nn.BatchNorm3d(num_features, eps=1e-05, momentum=0.1, affine=True)[<font size=2>[source]</font>](http://pytorch.org/docs/nn.html#torch.nn.BatchNorm3d)
+
+对小批量(mini-batch)4d数据组成的5d输入进行批标准化(Batch Normalization)操作
+<script type="text/javascript" src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=default">$$y = \frac{x - mean[x]}{ \sqrt{Var[x]} + \epsilon} * gamma + beta$$</script>
+
+\[y = \frac{x - mean[x]}{ \sqrt{Var[x]} + \epsilon} * gamma + beta\]
+
+在每一个小批量（mini-batch）数据中，计算输入各个维度的均值和标准差。gamma与beta是可学习的N维参数向量（N为输入维度）
+
+在训练时，该层计算每次输入的均值与方差，并进行移动平均。移动平均默认的动量值为0.1。
+
+在验证时，训练求得的均值/方差将用于规范化。
+
+**参数：**
+
+- **num_features：** 来自期望输入的输入特征数，该期望输入的大小为'batch_size x num_features [x width]'
+- **eps：** 为保证数值稳定性（分母不能趋近或取0）,给分母加上的值。默认为1e-5。
+- **momentum：** 动态均值和动态方差所使用的动量。默认为0.1。
+- **affine：** 一个布尔值，当设为true，给该层可学习的仿射变换参数。
+
+**Shape：**
+- 输入：（N, C，D, H, W)
+- 输出：（N, C, D, H, W）（输入输出相同）
+
+**例子**
+```python
+>>> # With Learnable Parameters
+>>> m = nn.BatchNorm1d(100)
+>>> # Without Learnable Parameters
+>>> m = nn.BatchNorm1d(100, affine=False)
+>>> input = autograd.Variable(torch.randn(20, 100))
+>>> output = m(input)
+```
+***