神经网络初探-程序员宅基地

技术标签：神经网络

神经网络初探——读《深度学习的数学》总结

学习是一个系统通过某种过程或者方式提升自身的某个或某些性能的过程，它本身包含的是一种自动化和可控化的含义。那么如何能让不具备智能的机器去学习呢？在模拟大脑神经元的工作原理后，看来我们已经找到了通往机器学习的一种方法，它叫做神经网络。

神经网络是一种看似不可理解的复杂学习方法，这里包含着许多数学的知识。在阅读《深度学习的数学》一书之后，我想，我对神经网络有了一定的了解，当然是片面、粗浅的。

神经网络与大脑神经元之间十分的相像，这里十分强调“阈值”一词；
最简单的神经网络是层级结构的，每一层的每一个神经单元都是一个函数（也称之为激活函数），为了后面计算的方便，这里的激活函数常常使用的是可到的有限函数，比如sigmoid函数。
神经网络的参数很多：各个相连接的神经单元之间的传递权重，各个神经单元的阈值（我们在使用数学表达式常常使用的是偏置），还有误差方向传播时的学习率等。
**数据驱动：**输入的每一个数据实例都将对神经网络的参数选择产生影响，在一步步反馈中，我们对神经网络的参数进行优化，进而达到神经网络模型训练的目的。关于模型的普适性，会不会出现过拟合，训练集、测试集的划分等等都先不作考虑。
神经网络擅长做的是分类。这是许多问题解决的基础，这决定了神经网络开启了机器学习的新纪元。
关键在于模型的训练：这里着重介绍两种方法：1.梯度下降法；2.误差反向传播法；

1、梯度下降法。

在对模型进行优化的过程中，我们必然要选择一种进行优化的标准。使用训练集的作用就是，使用其标签，求取标签值与分类值的误差，不管使用何种方式。这里我们使用一种常用的叫法——代价函数。

神经网络中比较常用就是交叉熵的方法：https://blog.csdn.net/tsyccnh/article/details/79163834

梯度下降的方法就是在找最陡的山坡。

[外链图片转存失败(img-ZSiXMyy6-1565957168518)(C:\Users\asus\AppData\Roaming\Typora\typora-user-images\1565956280415.png)]

具体推导可见：https://blog.csdn.net/pengchengliu/article/details/80932232

2、误差反向传播法

https://blog.csdn.net/ViatorSun/article/details/82696475

附关于激活函数的讲解：

icle/details/82696475

附关于激活函数的讲解：

https://blog.csdn.net/ViatorSun/article/details/82418578

本文链接：https://blog.csdn.net/weixin_43038752/article/details/99684701

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

超全golang面试题合集和答案+golang学习指南+golang知识图谱_goland面试题-程序员宅基地

文章浏览阅读6.8k次，点赞3次，收藏68次。https://blog.51cto.com/u_15102959/2637222_goland面试题

Python实现自动挂机脚本（基础篇）_我是农场主自动挂机脚本-程序员宅基地

文章浏览阅读8.4w次，点赞67次，收藏608次。不知不觉肝阴阳师也快一年了，对这游戏真是又爱又恨，最近刚刚发布了PC版，突然很想尝试着写个脚本挂机，话不多说进入正题。简单的鼠标操作游戏挂机脚本，无非就是自动移动鼠标，自动点击，进行重复操作，所以，第一步就是如何控制鼠标_我是农场主自动挂机脚本

java 筛法_AcWing 874. 筛法求欧拉函数JAVA-程序员宅基地

文章浏览阅读135次。时间复杂度O(n)java代码import java.util.*;class Main{static int n = 0, N = 1000010;static int[] phi = new int[N];//存储数字n的质数的个数static int[] primes = new int[N];//存储质数的下标对应的质数static int cnt = 0;//存储质数的下标static ..._java 欧拉筛

时间管理类APP分析:拇指时间-程序员宅基地

文章浏览阅读1.1w次，点赞2次，收藏19次。就目前市场来看，时间管理类应用，大致分为划分为：行程管理、任务管理和备忘管理三种类型。市场上，这三种类型的产品百花齐放，做细分市场的，做垂直人群的不断在增加。今天，我们来看看“日历”，这个可以囊括行程管理、任务管理和备忘管理的工具。数据显示，从07年到15年的，人们对PC日历的需求越来越大，为了方便用户，日历APP在此基础上开始衍生。 APP因手机、平板等电子化设备携带方便，在各使用场景中占有优势_时间管理类app用户调研

MySQL-程序员宅基地

文章浏览阅读371次。1、初识MySQLjavaEE：企业级java开发 Webweb分为：前端（页面：展示（数据库里的数据））后台（连接点：链接数据库JDBC，链接前端（做控制，控制试图跳转，和给前端传递数据））数据库（存数据，txt,Excel,world）只会写代码的码农是基本的，学好数据库；基本混饭吃学习操作系统，学习数据结构与算法！当一个不错的程序员离散数学，数字电路，网站体系结构，编译原理。+实战经验 = 优秀的程序员1.1、为什么学习数据库岗位需求现在的世界，大数据时代，

Bug的生命周期状态流程图_bug生命周期流程图-程序员宅基地

文章浏览阅读4.3k次，点赞2次，收藏8次。bug的生命周期BUG的生命周期，就是一个BUG被发现到这个BUG被关闭的过程。生命周期中缺陷状态：新建-->指派-->已解决-->待验-->关闭发现BUG-->提交BUG-->指派BUG-->研发确认BUG-->研发去修复BUG-->回归验证BUG-->是否通过验证-->关闭BUG如果待验的BUG在验证时没有解决好，我们需要重新打开--指派—已解决—待验，循环这个过程。中间其他状态：拒绝、延期等_bug生命周期流程图

随便推点

lenovo 邵阳E42-80 Ubuntu14.04.5 wireless 驱动安装_昭阳e42-80网卡驱动-程序员宅基地

文章浏览阅读2.7k次。转载地址：https://blog.csdn.net/sc_lilei/article/details/79545524?utm_source=blogxgwz4 装完系统后， $sudo apt-get upgrade系统版本内核变为：jxl@lenovo:~$ uname -aLinux lenovo 4.4.0-138-generic #164~14.04.1-Ubun..._昭阳e42-80网卡驱动

C和C++安全编码笔记：总结_c与c++安全编码试题-程序员宅基地

文章浏览阅读3.4k次，点赞8次，收藏51次。《C和C++安全编码》(原书第2版)这本书是2013年出版的。这里是基于之前所有笔记的简单总结，笔记列表如下：字符串：https://blog.csdn.net/fengbingchun/article/details/105325508指针诡计：https://blog.csdn.net/fengbingchun/article/details/105458861动态内存管理：https://blog.csdn.net/fengbingchun/article/details/105921_c与c++安全编码试题