1.3 超越机器学习——深度学习和基于生物启发的适应系统

在过去若干年中，由于功能更强大和价格更便宜的计算机的出现，研究人员开始采用深层神经网络的体系结构，以实现二十年前难以想象的目标。自1957年以来，当Rosenblatt发明了感知器时，人们对于神经网络的兴趣变得越来越大。然而，许多限制（关于内存和CPU速度）阻碍了此方面的研究，并且限制了算法的大量应用。

在过去十年中，研究人员开始训练越来越大的模型，建立几个不同层次（这就是为什么这种方法被称为深度学习）以解决新的具有挑战性的问题。便宜和快速的计算机的可用性允许他们使用非常大的数据集（由图像、文本和动画组成的数据）在可接受的时间范围内获得结果。这一努力取得了令人印象深刻的成果，如基于照片元素的分类和使用强化学习的实时智能交互。

这些技术背后的想法是创建像大脑一样工作的算法，由于神经科学和认知心理学的贡献，这一领域已经有了很多重要进展。特别是对模式识别和联想记忆的研究，采用了与人类大脑皮层中的新皮层相似的结构和功能。神经网络还包括更简单地称为无模型（model-free）的算法，该算法是基于通用学习技巧和重复经验的方法，而不是基于特定问题的数学物理方法。

对不同的架构和优化算法的测试可以通过并行处理来进行，从而使得其比定义一个复杂的模型要简单得多，而复杂的模型也更难以适用不同的情况。此外，即使是没有基于上下文的模型，深度学习也显示出比其他方法更好的性能。这表明在许多情况下，最好是用不确定性做出不太精确的决定，而不是由非常复杂的模型（通常不是很快）输出确定的精确决策。对于动物来说，这种决策往往生死攸关，虽然决策隐含地放弃了一些精确性。

常见的深度学习应用包括：

图像分类

实时视觉跟踪

自动驾驶

机器人控制

物流优化

生物信息

语音识别和自然语言理解（NLU）

自然语言生成（NLG）和语音合成

这些问题中有许多也可以使用经典方法来求解，但有时候复杂得多，而深度学习的效果更好。此外，深度学习可以将其应用扩展到最初被认为非常复杂的情况，例如自动汽车或实时视觉对象识别。

本书只详细介绍了一些经典算法。然而，有许多介绍性和更高级的讨论资源可供参考。

Google DeepMind团队已经得到了许多有趣的结果，建议你访问他们的网站（https://deepmind.com）了解最新的研究结果。另一个非常有用的资源是OpenAI（https://openai.com/），其中还有一个虚拟实验室，可以使用许多强化学习环境。