归一化层,目前主要有这几个方法,Batch Normalization(2015年)、Layer Normalization(2016年)、Instance Normalization(2017年)、Group Normalization(2018年)、Switchable Normalization(2019年);
    将输入的图像shape记为[N, C, H, W],这几个方法主要的区别就是在,

    • batchNorm是在batch上,对NHW做归一化,对小batchsize效果不好;
    • layerNorm在通道方向上,对CHW归一化,主要对RNN作用明显;
    • instanceNorm在图像像素上,对HW做归一化,用在风格化迁移;
    • GroupNorm将channel分组,然后再做归一化;
    • SwitchableNorm是将BN、LN、IN结合,赋予权重,让网络自己去学习归一化层应该使用什么方法。

    参考文档
    https://www.cnblogs.com/wanghui-garcia/p/10877700.html
    https://zhuanlan.zhihu.com/p/470260895