阅读记录

第561章 用故事解释误差反向传播法[1/2页]

职场小聪明 翟晓鹰

设置 ×

  • 阅读主题
  • 字体大小A-默认A+
  • 字体颜色
    故事:国王的信使与误差反向传播
      在古老的王国里,国王希望自己的弓箭手训练营能够培养出最强的射手。他设立了一场射箭比赛,要求所有弓箭手向目标射箭,并根据他们的成绩给予奖励或惩罚。
      然而,比赛结果并不理想——大部分弓箭手射偏了。国王想知道:箭射歪了,到底是哪个环节出了问题?
      于是,他召集了首席教官、弓匠和箭匠,希望找到问题的根源,并逐步改进训练方法。
      第一步:发现误差(计算损失)
      比赛结束后,国王检查靶子,发现箭矢偏离目标的情况十分严重。有的射到了外环,有的甚至没射中靶。
      国王皱着眉头说:“我们需要一个标准来衡量弓箭手的表现。”
      于是,他决定:
      ?
      目标中心是
      完美的射击点(理想输出)
      ?
      每支箭的落点表示
      实际输出
      ?
      偏差越大,意味着误差越大(损失函数
      )
      国王命令数学师计算每个射手的误差,误差越大,说明问题越严重。
      第二步:误差如何产生?(误差的传播)
      国王想知道,是谁的责任导致了偏差?
      他把弓箭训练分解成多个环节:
      1.
      弓箭手的瞄准(神经网络的最后一层)
      2.
      弓的质量(隐藏层)
      3.
      箭的质量(隐藏层)
      4.
      训练方法(输入层)
      如果箭偏离目标,可能是:
      ?
      弓箭手没瞄准好(类似于神经网络的输出层计算错误)
      ?
      弓有缺陷(类似于隐藏层的权重设置不当)
      ?
      箭头不够稳定(类似于特征提取不准确)
      ?
      训练方法不对(类似于输入数据有误)
      误差反向传播的核心问题就是要找出这些因素对最终误差的贡献,并逐步调整它们。
      第三步:误差如何回溯?(反向传播计算梯度)
      国王决定,不能只惩罚弓箭手,因为问题可能出现在更深层次的环节。他让信使从终点(箭靶)向前传递信息,逐步追查问题的来源。
      信使的任务是:
      1.
   &n

第561章 用故事解释误差反向传播法[1/2页]