第四章_经典网络
[TOC] 第四章 经典网络解读 4.1 LeNet-5 4.1.1 模型介绍 LeNet-5是由LeCunLeCunLeCun 提出的一种用于识别手写数字和机器印刷字符的卷积神经网络（Convolutional Neural Network，CNN）[1]^{[1]}[1]，其命名来源于...
第五章_卷积神经网络(CNN)
[TOC] 第五章 卷积神经网络（CNN） 卷积神经网络是一种用来处理局部和整体相关性的计算网络结构，被应用在图像识别、自然语言处理甚至是语音识别领域，因为图像数据具有显著的局部与整体关系，其在图像识别领域的应用获得了巨大的成功。 5.1 卷积神经网络的组成层 以图像分类任务为例，在表...
ch7
[TOC] 第七章 生成对抗网络 7.1 GAN基本概念 7.1.1 如何通俗理解GAN？ 生成对抗网络(GAN, Generative adversarial network)自从2014年被Ian Goodfellow提出以来，掀起来了一股研究热潮。GAN由生成器和判别器组成，生成器负...
第六章_循环神经网络(RNN)
[TOC] 第六章 循环神经网络(RNN) 6.1 为什么需要RNN？ 时间序列数据是指在不同时间点上收集到的数据，这类数据反映了某一事物、现象等随时间的变化状态或程度。一般的神经网络，在训练数据足够、算法模型优越的情况下，给定特定的x，就能得到期望y。其一般处理单个的输入，前一个输入和后...
第一章_数学基础
[TOC] 第一章 数学基础 深度学习通常又需要哪些数学基础？深度学习里的数学到底难在哪里？通常初学者都会有这些问题，在网络推荐及书本推荐里，经常看到会列出一系列数学科目，比如微积分、线性代数、概率论、复变函数、数值计算、优化理论、信息论等等。这些数学知识有相关性，但实际上按照这样的知识范围来...
第三章_深度学习基础
[TOC] 第三章 深度学习基础 3.1 基本概念 3.1.1 神经网络组成？ 神经网络类型众多，其中最为重要的是多层感知机。为了详细地描述神经网络，我们先从最简单的神经网络说起。 感知机 多层感知机中的特征神经元模型称为感知机，由Frank Rosenblatt于1957年发明。 简单的感知...
第二章_机器学习基础
[TOC] 第二章 机器学习基础 机器学习起源于上世纪50年代，1959年在IBM工作的Arthur Samuel设计了一个下棋程序，这个程序具有学习的能力，它可以在不断的对弈中提高自己。由此提出了“机器学习”这个概念，它是一个结合了多个学科如概率论，优化理论，统计等，最终在计算机上实现自...
ChapterIV_ClassicNetwork
[TOC] Chapter 4 Classic Network 4.1 LeNet-5 4.1.1 Introduction to the model LeNet-5 is a Convolutional Neural Network (CNN) [1]^{[1]}[1] proposed b...
Chapter 1_MathematicalBasis
[TOC] Chapter 1 Mathematical Foundation 1.1 The relationship between scalars, vectors, matrices, and tensors Scalar A scalar represents a single nu...
Chapter 2_TheBasisOfMachineLearning
[TOC] Chapter 2 Fundamentals of Machine Learning 2.1 Understanding the essence of machine learning Machine Learning (ML), as the name suggests, let...