深度神经网络之正则化

1.正则化之前介绍的文章之中,我们已多次接触到正则化方法,但没有详细的解释为什么要正则化,什么是正则化,以及L1正则化和L2正则化的区别。本次文章之中,我们将详解机器学习中正则化的概念和深度神经网络中的正则化方法。1.1 为什么要正则化?讲到为什么需要正则化,就需要了解什么是过拟合问题。以下面图片为例,我们能够看到有两个类别,其中以X代表男生,O代表女生。我们想要通过学习来得到分类曲线,其中分类曲

- 阅读全文 -

深度神经网络之损失函数和激活函数

1.损失函数和激活函数简介通过前面深度神经网络之前向传播算法和深度神经网络之反向传播算法的学习,我们能够了解到损失函数是用来评估模型的预测值与真实值之间的差异程度。另外损失函数也是神经网络中优化的目标函数,神经网络训练或者优化的过程就是最小化损失函数的过程,损失函数越小,说明模型的预测值就越接近真实值,模型的准确性也就越好。前面我们已经学习过平方损失函数,对数损失函数、交叉熵损失函数等不同形式的损

- 阅读全文 -

深度神经网络之反向传播算法

1.DNN反向传播算法简介回顾我们前面学到的监督问题,通常会遇到这种情况,假如有$m$个训练样本,分别为$\{(x_1,y_1),(x_2,y_2),(x_3,y_3),...,(x_m,y_m) \}$,其中$x$为输入变量,特征维度为n_in,y为输出向量,特征维度为n_out。现在我们利用这m个训练样本来训练模型,当有测试样本$(x_{test},?)$时,需要我们能够预测出$y_{test

- 阅读全文 -

深度神经网络之前向传播算法

1.深度神经网络简介深度神经网络(Deep Neural Networks,DNN)从字面上理解,也就是深层次的神经网络,从网络结构上看来就是有多个隐含层的神经网络。深度神经网络不仅能够用于分类和回归,在降维、聚类、语音识别、图像识别方面也有许多应用。由于神经网络内容较多,将分多次写作,本次主要讲解深度神经网络中的前向传播算法,后续还有反向传播算法、损失函数和激活函数、正则化。2.从感知机到神经网

- 阅读全文 -

最新文章

最近回复

  • fushengwuyu: 博主你好,看了你的教程,收益良多,十分感谢。有个小问题,我启动f...
  • 谓之小一: 你好,我以前在ubuntu上也遇见过这个问题. 解决办法貌似是为...
  • walle: 您好,使用D2RQ(win10)时: 错误: 找不到或无法加载...
  • manyangyang: json2mysql部分有一些数据导入不到sql中,数据库中有些...
  • manyangyang: json2mysql部分有一些数据导入不到sql中,数据库中有些...
  • manyangyang: json2mysql部分有一些数据导入不到sql中,数据库中有些...
  • 谓之小一: 你好,所有代码都放在https://github.com/wei...
  • momo: 可以分享一下mysql数据吗
  • momo: 可以分享一下利用pymysql将Json类型数据导入到MySQL...
  • 在 2018年12月 发布的文章 - 大专栏: [...]后端前端人工智能DevOps移动端测试程序人生 ...

分类

标签

归档

其它