首页 > 试题广场 >

ReLU激活函数存在“死亡ReLU”问题(部分神经元始终输出

[单选题]
ReLU激活函数存在“死亡ReLU”问题(部分神经元始终输出0),其主要原因是?
  • 当输入为负时,ReLU梯度为0,参数无法更新导致持续输出0
  • ReLU输出范围为[0,+∞),导致输出分布左偏影响梯度传播
  • ReLU对输入尺度敏感,输入过大时会引发梯度爆炸
  • ReLU在输入为0时不可导,导致优化器无法计算梯度

这道题你会答吗?花几分钟告诉大家答案吧!