阅读记录

第599章 回归问题用恒等函数[2/2页]

职场小聪明 翟晓鹰

设置 ×

  • 阅读主题
  • 字体大小A-默认A+
  • 字体颜色
的仍然是
      1000。
      它不修改、不变换、不加工数据,只是简单地把原始信息传递出去,就像真实之镜一样,忠实地反映输入的内容。
      故事拓展:恒等函数的魔法作用
      在神经网络中,有许多复杂的激活函数(如
      ReLU、Sigmoid、Tanh),它们会对输入数据进行某种非线性变换,比如抑制负值或归一化输出。
      但在某些情况下,我们希望信息原封不动地传递,不做任何调整,这时候就会使用恒等函数。
      比如:
      1.
      线性回归——在输出层,我们常用恒等函数,因为回归的目标是预测连续数值,我们不希望对其进行变换。
      2.
      残差网络(Res)——某些深度神经网络为了避免信息损失,会使用“跳跃连接”(skip
      coion),其中恒等函数就充当了数据的直通通道,确保信息能够无损传递到后续层。
      总结
      1.
      真实之镜
      =
      恒等函数,输入什么,输出就是什么。
      2.
      透明管道
      =
      恒等函数,信息不加工,直接原封不动传递。
      3.
      神经网络中的作用:当我们不希望对数据进行变换时,就会使用恒等函数,让信息自由流动。
      所以,恒等函数的作用虽然简单,但在数学和深度学习中,它就像一条纯净无瑕的魔法通道,确保数据不受干扰地传递到下一步!
      故事比喻:回归问题中恒等函数的作用
      故事背景:魔法师的信使
      在魔法大陆的预言之都,住着一位着名的魔法师——艾尔法。他擅长用水晶球预测未来,比如明天的粮价、下周的温度、国王的税收等。
      不过,艾尔法有一个重要的助手——信使瑞克。瑞克的任务很简单:他不修改、不扭曲,也不干涉任何信息,而是忠实地将艾尔法的预测结果送到国王手里。
      国王问:“明天的粮价是多少?”
      艾尔法计算后告诉瑞克:“27
      枚金币。”
      瑞克不加任何加工,直接告诉国王:“27
      枚金币。”
      这个信使瑞克的工作方式,就像数学中的恒等函数(Identity
      Function):
      无论输入是什么,输出都是一样的,不做任何调整。
      比喻:回归问题中的恒等函数
      =
      透明传输
      回归问题的目标是预测一个连续的数值(比如房价、温度、销售额)。在神经网络的输出层,我们通常使用恒等函数,因为我们希望预测出的数值保持原样,而不是被改变或限制。
      想象你有一个透明管道,用来传输数字:
      ?
      你放进去
      27,它输出的还是
      27。
      ?
      你放进去
      100.5,它输出的还是
      100.5。
      ?
      你放进去
      3.7,它输出的仍然是
      3.7。
      这个透明管道就像恒等函数,它让预测值直接流向输出层,不做任何变换。
      为什么回归问题需要恒等函数?
      在神经网络中,我们通常会在隐藏层使用非线性激活函数(比如
      ReLU、Sigmoid、Tanh)来学习复杂的关系。但在回归任务的输出层,我们不需要对最终结果进行非线性变换。
      比如:
      ?
      如果我们用
      Sigmoid
      作为输出激活函数,所有预测值都会被压缩到
      0
      到
      1
      之间,这在二分类问题(如猫
      vs.
      狗)是合理的,但在回归问题(如预测房价)中就不合适了。
      ?
      如果我们用
      Tanh
      作为输出激活函数,所有预测值都会被限制在
      1
      到
      1
      之间,这也不适用于回归问题。
      ?
      但使用恒等函数,预测值不会被改变,网络可以自由地输出任何数值,这才符合回归任务的需求!
      故事总结:回归任务中的恒等函数
      =
      真实的信使
      1.
      艾尔法魔法师
      =
      神经网络,负责计算和预测数值。
      2.
      信使瑞克
      =
      恒等函数,不改变信息,直接传递结果。
      3.
      国王
      =
      真实世界,需要接收真实的预测值,不希望收到变形的数据。
      4.
      透明管道
      =
      恒等函数的作用,确保预测值不受干扰地传输到最终输出。
      所以,在回归问题中,我们用恒等函数作为输出层的激活函数,因为它就像一个忠实的信使,保证预测值不被篡改,直接送达目标!

第599章 回归问题用恒等函数[2/2页]