前言

神经网络是一门重要的机器学习技术，是一种模拟人脑的神经网络，以期实现类人工智能的机器学习技术。它是目前最为火热的研究方向——深度学习的基础，学习神经网络不仅可以让用户掌握一门强大的机器学习方法，还可以更好地帮助用户理解深度学习技术。

深度学习的概念由Hinton等人于2006年提出，深度学习的概念源于人工神经网络的研究。含多个隐藏层的多层感知器就是一种深度学习结构，深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征。此外，Lecun等人提出的卷积神经网络是第一个真正多层结构学习算法，它利用空间相对关系减少参数数目以提高训练性能。

本书以一种简单、循序的方式先介绍神经网络，接着进一步对深度学习进行介绍。本书对读者没有一定的前提要求，但是有一定的机器学习基础能更好地理解本书。

本书编写特色主要表现在以下几个方面。

1.内容由浅到深，涵盖知识全面

本书以介绍TensorFlow软件为基础，先对神经网络进行介绍，再对深度学习进行介绍，内容循序渐进，涵盖面广。

2.易学易懂，实例丰富

本书将专业性较强的公式和理论转化成通俗易懂的简单逻辑描述语言，帮助非专业者理解神经网络与深度学习，每章都有相应的经典实例进行说明，内容丰富、实用，帮助读者快速领会知识要点。

3.学与用相结合，应用性强

本书提供了从单个神经元到对抗神经网络，从有监督学习到非监督学习最后到强化学习，从简单的数据分类到图像分类等一系列前沿技术，具有超强的实用性，并且本书中的源代码、数据集等读者都可免费、轻松获得。

本书共12章，每章的主要内容如下。

第1章介绍了TensorFlow软件，主要包括TensorFlow特性、安装环境、基本使用、变量、队列、可视化等内容。

第2章介绍了计算机视觉与深度学习，主要包括计算机视觉、深度学习在视觉上的应用、计算机视觉的学习方式和未来趋势、机器学习等内容。

第3章介绍了深度神经网络的基础，主要包括生物神经元、人工神经元、激活函数、softmax处理分类问题、损失函数、梯度下降、优化函数、拟合等内容。

第4章介绍了全连接神经网络，主要包括前馈神经网络简介、感知机、全连接、线性模型的局限性、多层网络解决异域运算、全连接神经网络的经典实战等内容。

第5章介绍了卷积神经网络，主要包括人类视觉原理、卷积运算、反卷积操作、反池化操作、卷积神经网络的介绍、图像数据处理等内容。

第6章介绍了高级卷积神经网络，主要包括LeNet-5卷积神经网络、AlexNet卷积神经网络、VGGNet卷积神经网络、Inceptionv3卷积神经网络、ResNet卷积神经网络等内容。

第7章介绍了循环神经网络，主要包括RNN基础概念和结构、RNN前后向传播算法、循环神经网络的梯度、LSTM单元、RNN的实现、自然语言建模与词向量、LSTM实现语音识别等内容。

第8章介绍了对抗神经网络，主要包括理论知识、DCGAN网络、InfoGAN网络、WGAN-GP网络、SRGAN网络等内容。

第9章介绍了其他监督学习，主要包括支持向量机、朴素贝叶斯、决策树、k近邻算法等内容。

第10章介绍了非监督学习，主要包括主成分分析、k均值聚类、自组织映射神经网络、受限玻尔兹曼机、谱聚类等内容。

第11章介绍了自动编码机，主要包括自动编码机原理、标准自动编码机、稀疏自动编码机、去噪自动编码机、卷积自动编码机等内容。

第12章介绍了强化学习，主要包括强化学习的概述、强化学习的学习过程、OpenAI Gym原理及应用、Q learning原理及应用、DQN原理及应用等内容。

本书适合TensorFlow初学者、深入研究TensorFlow软件的开发者使用。随书提供实例源程序下载，读者可以登录www.hxedu.com.cn（华信教育资源网）查找本书下载（须先注册成为会员）。

本书由佛山科学技术学院张德丰编著，由于时间仓促，加之作者水平有限，书中疏漏之处在所难免。在此，期望得到各领域专家和广大读者的批评指正。

编著者

2021.1