1.1 深度学习的发展

说到深度学习，就不得不说神经网络，它们两个应该说是同一概念在不同时代背景下的表现形式。神经网络诞生的发展总体上经历了3个阶段。

第一阶段，沃伦·麦卡洛克和沃尔特·皮茨在1943年发表的一篇名为“A logical calculus of the ideas immanent in nervous activity”的论文中提出了神经网络数学模型，这个模型的实现方式是通过从某种物体（无论是实物还是虚拟物体）中提取尽可能多的特征值，我们假设为n，n越大，对物体的分析就越具体，越趋近正确答案，然后我们通过上面的神经网络数学模型结构，对这些特征值加权并放入一些特定的阈值函数中，这就构成了一个最基础的神经网络算法，当我们输入一些特征值后，通过该函数处理就可以获得输出结果，该数据结果为0或1，对应于逻辑判断的是和否，根据输出结果我们就能判断某个物体是否为这种指定物体。举个例子，我们收集了猫的尽可能多的特征值，并放入阈值函数中构成算法公式，这时我们再输入一个猫或其他的特征值，就能区分这个动物是否为猫，当然这是最基础的实现。

第二阶段，20世纪80年代，反向传播算法和分布式的提出推动了新一轮的神经网络的发展，但是受限于当时的计算水平，神经网络的发展还是一度受阻。

第三阶段，到了21世纪初，CPU的计算水平和GPU的图形处理能力大幅提升，计算水平已经不是神经网络发展的阻碍，并且由于大数据的发展，获取海量特征数据也不是难事，神经网络迎来全新的发展契机，从2012年至今，深度学习的搜索热度逐年上升，人类迎来了人工智能时代！