0%

【Python 神经网络编程】少就是多

这是一本轻松的小书,全书只讲一个例子(mnist),但不要觉得这样不够,反而会比那些容纳很多项目的书来得透彻。


更新历史

  • 2020.02.18:重新上线
  • 2019.03.25:完成阅读、读后感

读后感

这是一本轻松的小书,全书只讲一个例子(mnist),但不要觉得这样不够,反而会比那些容纳很多项目的书来得透彻。没有任何的框架,从公式推导到最终的实现,自己写了一个神经网络来完成识别的工作。

终于,在看了太多太多次的反向传播后,这本书真正让我把神经网络的参数如何更新给弄明白了,还是很棒的。

注:大部分代码可以在我的 github 中找到。

阅读笔记

第 1 章 神经网络如何工作

  • 我们尝试得到一个答案,并多次改进答案。
  • 来自真实世界的训练样本可能充满噪声或包含错误。适度更新有助于限制这些错误样本的影响。
  • 由互相连接的神经元组成的生物大脑是人工神经网络的灵感来源
  • 通过神经网络向前馈送信号所需的大量运算可以表示为矩阵乘法
  • 反向传播误差可以表示为矩阵乘法
  • 梯度下降法是求解函数最小值的一种很好的办法,当函数非常复杂困哪,并且不能轻易使用数学代数求解函数时,这种方法能够发挥很好的作用
  • 神经网络的误差是内部链接权重的函数
  • 改进神经网络,意味着通过改变权重减少这种误差