迁移学习导论
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

前言

本书的编写目的是帮助迁移学习领域的初学者快速入门。本书尽可能绕开过于理论化的概念,专注介绍经验方法。除此之外,本书还配有相关的代码、数据和论文资料,最大限度地方便初学者学习。

本书共分四大部分:背景与概念、方法与技术、扩展与探索,以及应用与展望。

第一部分为背景与概念,由第1章到第3章构成。其中第1章为绪论,从宏观角度介绍了迁移学习的基本概念及其必要性,并且简单分析了它与已有概念的区别和联系。这一章也介绍了迁移学习的一些应用领域,目的是使读者对迁移学习有较为系统的了解。第2章从机器学习开始,逐步过渡到迁移学习的概念上。第3章介绍了迁移学习领域的基本研究问题。

第二部分为方法与技术,这是全书最重要的部分,由第4章到第11章构成。第4章以较为严谨的学术风格对迁移学习的基本问题进行了形式化定义,并描述了一个较为完整的迁移学习过程,以及对迁移学习理论分析的一些总结。这一章应该视为余下章节的起点。

第5~8章对应三大类迁移学习的基本方法:第5章对应样本权重迁移法,第6章、第7章分别介绍基于统计距离和几何特征的特征变换迁移方法,这两章合起来对应特征变换迁移法。由于此类方法的相关工作最为丰硕,因此我们分为两个章节讲述。第8章则对应基于模型的迁移,特别是在深度模型中的预训练方法。

第9章和第10章重点讲述深度迁移学习和对抗迁移学习的基本思路和方法。读者应当注意的是,深度网络中的迁移方法不应当与之前的三大类基本方法割裂开,而应该被视为三种基本方法在深度网络中的具体体现。因此,这也是为什么我们不直接谈深度方法而首先介绍三大类基本方法的原因。

第11章介绍了迁移学习领域若干热门研究问题和相关工作。这些从不同视角出发的问题从各个方面对经典的迁移学习场景进行了扩展,在目前仍然是热门的研究方向。

第三部分为扩展与探索,由第12章到第14章构成。所谓扩展,指的是不局限于固定的迁移学习问题,旨在探索迁移学习新方向的一些研究成果。我们重点选择了领域泛化(第12章)和元学习(第13章)这两个研究方向进行探究和分析。第14章则给出了在迁移学习模型选择方面的一些代表工作。

第四部分为应用与展望,由第15章和第16章构成。第15章是迁移学习的应用,介绍了迁移学习在包括计算机视觉、自然语言处理、语音识别、普适计算、医疗健康等领域要解决的问题及应用的方式,向读者展示迁移学习是如何被应用到特定的任务,用以解决该应用的痛点问题的。读者将迁移学习应用于自己的任务时,可以借鉴本章所述的应用及解决方案。第16章介绍了几个迁移学习的前沿问题。

另外,附录部分提供了一些常用的研究资料,供初学者学习研究。

由于作者水平有限,不足和错误之处,敬请不吝批评指正。